Sur une liste de diffusion professionnelle, une conversation avait dérivé sur l’importance relative des disciplines dans les programmes de l’enseignement secondaire, et notamment sur le fait que les lycéens « scientifiques » ont en fait un programme équilibré sciences et humanités, tandis que les formations « littéraires » ne comprennent quasiment pas de sciences. Une collègue a alors fait remarquer qu’il ne fallait pas revenir sur la part d’humanités, au risque de voir des diplômés en sciences et techniques se lancer, par exemple, dans la « phrénologie à coup de big data », en rappelant qu’une personne qui n’a pas les capacités de comprendre et analyser ce qu’elle lit est dangereuse.

Cette remarque s’inscrit dans une figure presque obligée des discussions sur l’enseignement, où chacun explique que si la discipline qu’il enseigne, ou une des disciplines dans lesquelles il a approfondi ses connaissances, était plus connue des responsables ou du grand public, de grands malheurs auraient été évités : ainsi, on a pointé l’ignorance des dynamiques exponentielles dans la diffusion du Covid. J’aimerais toutefois analyser certains de ses présupposés, ou du moins ce que je comprends comme étant ses présupposés.

Le raisonnement tenu semble être le suivant :

  1. Des gens proposent des solutions à base de big data, d’apprentissage automatique, etc. qui sont l’équivalent moderne de la phrénologie, une pseudoscience du xixe siècle prétendant que le caractère des humains est lié à la forme de leur crâne.

  2. Si ces gens proposent ce type de solutions, c’est parce qu’ils ne sont pas en mesure de comprendre et d’analyser ce qu’ils lisent ou ce qu’ils font.

  3. Ces capacités sont apportées par les enseignements d’humanités (français, philosophie, histoire et géographie).

Commençons par une anecdote. Il y a quelques années, je siégeais dans un jury devant lequel un étudiant expliquait comment cela s’était passé son stage. Les commerciaux de l’entreprise avaient promis une fonctionnalité avant que celle-ci ne soit conçue ; l’entreprise avait embauché des spécialistes de l’apprentissage automatique et du minage de données, qui avaient produit une solution inefficace et inutilisable ; elle s’était donc défaite de ces personnels, et avait chargé le stagiaire de produire un système fonctionnel. L’étudiant avait donc bricolé une combinaison d’outils qui avait permis de tenir le délai.

Bien entendu, une unique anecdote n’a pas force de généralité, et je ne prétends pas que toutes les entreprises qui font du minage de données et de l’apprentissage automatique sont pareillement (dés)organisées. Il me semble toutefois pertinent de se demander en quoi l’éventuelle formation en humanités du stagiaire aurait pu importer.

Des objectifs avaient été définis par des personnels non techniques, avec une date pour la disponibilité d’une fonctionnalité. En revanche, il n’y avait pas vraiment de critères de qualité définis, pas de protocole expérimental de validation : il suffisait que la fonctionnalité semble convenir. On peut également supposer, vu le comportement de l’entreprise envers ses employés n’ayant pas donné satisfaction, que si le stagiaire avait formulé des objections éthiques ou scientifiques, elle l’aurait renvoyé, ou du moins lui aurait donné une appréciation défavorable. Le stagiaire était d’ailleurs bien conscient qu’il avait fait un peu n’importe quoi dans l’urgence.

Plus généralement, cette anecdote met en évidence que des gens peuvent très bien travailler sur un projet douteux non pas parce qu’ils ne sont pas conscients que le projet est douteux, mais parce qu’on les paye pour faire cela et qu’on ne leur demande pas leur avis scientifique ou éthique. Ceci met en doute le point 2 du raisonnement ci-dessus.

L’anecdote met par ailleurs en évidence le rôle des donneurs d’ordres et de la structure commerciale. On réalise des produits, des services, pour qu’ils soient commercialisés auprès de clients. Qui sont donc les clients des applications « miracles » du big data ?

Parmi les applications les plus controversées on trouve la police prédictive : on prétend trouver dans les données des signes avant-coureurs d’infractions. En France, le ministre de l’intérieur Bernard Cazeneuve faisait la promotion des « algorithmes » pour la détection des terroristes. Un ingénieur technolâtre ? Pas du tout : il est diplômé d’un institut d’études politiques, où (mais peut-être suis-je naïf de le penser) on étudie les sciences politiques et sociales. S’il avait été ingénieur, peut-être aurait-il d’ailleurs été plus sensible aux critiques portant sur le taux de faux positifs, qui exigent peut-être une compréhension minimale du calcul des probabilités.

Plus généralement, celles et ceux qui décident de l’achat de logiciels de justice ou de police prédictive ont il me semble le plus souvent suivi des formations de sciences politiques ou de droit, et rarement des formations scientifiques et techniques. On est donc en droit de se demander si ces formations, pourtant tournées vers les humanités plus que vers les sciences ou la technique, donnent une capacité particulière à faire preuve d’esprit critique devant des propositions technologiques. Le point 3 ci-dessus mériterait donc clarification.

Revenons donc à la « phrénologie 2.0 ». Dans sa thèse, Églantine Schmitt dit :

La naturalisation des objets des sciences de la culture, telles que la criminalité (Xiaolin Wu et Zhang 2016) ou l’orientation sexuelle (Wang et Kosinski 2017) revient à un retour à la phrénologie et à une négation sommaire des résultats des sciences de la culture dans leur ensemble.

Si Wu et Zhang sont effectivement dans un département d’ingénierie informatique d’une université shangaïenne, Wang et Kosinski sont dans une graduate school of business et ont publié leur article au Journal of Personality and Social Psychology, publiée par l’American psychological association. Il ne s’agit donc pas là d’une publication dans une revue d’ingénieurs ou de chercheurs en informatique, que l’on pourrait soupçonner d’inculture en matière de sciences humaines.

Ainsi, le raisonnement de ma collègue me semble pécher sur plusieurs points. Pour moi — et je conçois que l’on puisse ne pas être d’accord avec mon point de vue — le problème n’est pas l’inculture supposée des « techniciens », l’immense attraction que les donneurs d’ordres ressentent pour des solutions magiques qui peuvent réduire les coûts et les délais d’activités habituellement assurées par des humains. Ces donneurs d’ordres, qui ont suivi des formations plutôt sciences politiques, ne semblent pas faire preuve d’un esprit critique supérieur à ceux qui dans le public ont suivi des formations plus techniques ou scientifiques.

Peut-être m’objectera-t-on que les instituts d’études politiques, pourtant surnommés « Sciences Po », ne délivrent pas une formation sérieuse en sciences politiques, humaines et sociales. Je ne suis pas qualifié pour en juger.