On nous annonce, comme remède au terrorisme, l'installation d'une détection algorithmique de comportements suspects d'internautes. Je suis sceptique. Permettez une anecdote professionnelle...

Je travaille, pour faire simple, sur la détection automatique de bugs dans les logiciels et/ou la preuve de leur absence. On pourrait croire qu'un système qui trouve automatiquement des bugs serait bienvenu dans les entreprises traitant de logiciels. Ce n'est pas forcément le cas !

À l'exception de cas particuliers (pilotage d'avion…), les logiciels sont souvent plein de bugs et les équipes de développeurs doivent gérer des listes de milliers de signalements de bugs par des utilisateurs. Le flux de bugs signalés est tel qu'il faut faire un tri, traiter ceux qui semblent les plus urgents ou importants et… « classer verticalement » ceux qu'on n'a pas le temps de traiter, voire les sortir de la liste au motif qu'on n'en entend plus parler.

Autrement dit, pour les équipes des industriels de l'informatique (*), un système automatique à trouver des bugs n'est pas pas forcément le bienvenu : il leur rajouterait des signalements dans la liste des problèmes à traiter, alors que ces signalements porteraient le plus souvent sur des problèmes potentiels mais qui ne se posent chez aucun client. Il n'y aurait juste pas le temps de les traiter.

Un système automatique qui fournit des listes de problèmes éventuels est de peu de secours pour des gens qui n'arrivent déjà pas à traiter les problèmes avérés.

Les affaires Merah, Coulibaly et Kouachi nous ont démontré que les services de police spécialisés manquent de moyens pour « suivre » des individus avec des antécédents sérieux. On se demande donc ce qu'ils pourraient bien faire de signalements automatiques, dont on peut raisonnablement soupçonner que la majeure partie seraient des faux positifs.

(*) Il me semble que le collègue qui racontait cela appartenait à la division recherche d'un grand industriel de l'informatique basé près de Seattle.

PS : Au vu de certains grands projets gouvernementaux dans le domaine informatique, par exemple de logiciels de paye, j'en viens à me demander si un but réel de ces « détections algorithmiques » n'est pas de fournir de juteux contrats à des fournisseurs de matériels et logiciels et des SSII.