(Suite de mon billet précédent.)

Le « pouvoir des algorithmes ». Les « algorithmes qui nous gouvernent ». « Algorithmes », un mot naguère inconnu des journalistes, maintenant en couverture.

Ce qui me dérange le plus dans cette déferlante médiatique, c'est qu'on mélange des choses assez différentes, allant de « l'admission post-bac » à la recherche de terroristes. Les « algorithmes », c'est vaste, leurs modes de fonctionnement et leurs domaines d'applications sont très divers. Je ne sens pas cette différenciation dans les articles consacrés au sujet, qui pour toute explication se bornent souvent à une définition générale « à la Wikipédia », quand bien même il font appel à un professeur au Collège de France pour dire ce que toute personne cultivée sur ce sujet dirait.

Des « algorithmes » de classement de candidats, on en connaît depuis longtemps. Prendre des notes, les multiplier par des coefficients, classer les candidats selon le total ainsi obtenu, voilà un algorithme. Que celui-ci soit appliqué à la main, avec une calculatrice, avec un tableur ou au travers d'un site Web ne change rien.

La vraie différence est que les algorithmes classiques de classement sont connus — on connaît les coefficients des différentes épreuves, des différentes disciplines — alors que, par exemple, le logiciel de l'admission post-bac était récemment tenu secret (et encore maintenant on n'en connaît que les grandes lignes). C'est ce secret qui pose problème.

On utilise parfois des algorithmes assez complexes pour choisir « la meilleure solution » — on parle alors d'« optimisation ». Par exemple, on pourra vouloir chercher pour une école le meilleur emploi du temps (sous la contrainte qu'on ne doit pas mettre deux cours dans la même salle en même temps, ou avec le même enseignant, etc.), pour un parc de centrales électriques les meilleures périodes d'arrêt pour travaux… ou pour une ligue de football le meilleur calendrier de matchs. La méthode de résolution peut être très compliquée et sa compréhension réservée à des spécialistes (on paye des chercheurs et des ingénieurs spécialisés pour cela !), mais ce qui est pertinent pour le public c'est le critère que l'on optimise, ce qui permet de juger qu'une solution est meilleure ou pire qu'une autre. Par exemple, lors de l'optimisation de rythmes de travail, a-t-on tenu compte de la pénibilité pour les personnels, ou seulement du profit pour l'entreprise ?

Les algorithmes basés sur l'apprentissage automatique sont bien différents. Avec eux, au lieu de définir à l'avance des critères d'évaluation, quitte à les tenir secrets, on les fait fixer automatiquement par observation d'exemples. Non seulement l'opérateur humain n'a pas directement fixé les critères, mais il n'est souvent pas non plus en mesure de les expliquer.

Ainsi, à mon sens, il faut bien distinguer deux problèmes différents :

  1. Les concepteurs du système connaissent les critères que celui-ci appliquent, mais les tiennent secrets.

  2. Le système est trop complexe pour que ses concepteurs comprennent vraiment les critères qu'il applique.

Une critique raisonnée des algorithmes devrait bien distinguer ces deux aspects, et réintroduire le politique là où l'on ne voit que technique aveugle. Le choix des critères appliqués par un algorithme est politique, de même que le choix de garder ces critères secrets. Il est vrai que lorsque l'on ne veut pas assumer ses décisions, il est commode de pouvoir invoquer « le choix de l'ordinateur », comme d'ailleurs « des raisons juridiques ». C'est cela qui mine nos sociétés, plus que l'informatique.