Le fait pour un logiciel de détecter qu'il est utilisé dans des conditions d'essais et d'appliquer alors un mode spécial non représentatif des performances en utilisant normale n'est pas nouveau. Je me rappelle ainsi avoir entendu parler de compilateurs (des logiciels qui transforment automatiquement les programmes rédigés par les développeurs informatiques en logiciels exécutables par la machine et livrables aux clients) qui, lorsqu'ils étaient utilisés sur certains exemples de tests normalisés, produisaient un résultat très efficace… et pour cause, optimisé à la main par des spécialistes. Bien entendu, la haute performance sur ces exemples n'étaient pas représentative de ce qui arrivait dans les autres cas. (Je n'arrive hélas pas à retrouver une référence précise pour cette affaire.)

Des correspondants m'ont cité

  • le cas d'un smartphone Samsung qui détectait, d'après leur nom, qu'on lançait certaines applications de tests de performance, et passait alors dans un mode de performance maximale, sans doute très gourmand en énergie donc médiocre pour la durée de batterie et donc non recommandable en usage normal ;

  • le cas du pilote d'une carte graphique du fabricant ATI qui détectait Quake 3, un jeu couramment utilisé pour des tests de performance, et appliquait alors un mode spécial (je ne vois en revanche pas la raison pourquoi ce mode n'était pas appliqué pour d'autres applications… peut-être est-ce qu'il ne pouvait valablement fonctionner qu'avec Quake 3, peut être qu'il s'agissait juste d'offrir aux utilisateurs de ce jeu une performance maximale et non de fausser les évaluations).

Bref, cela ne me surprend pas que cela ait été possible (si les tests sont très standardisés) et que cela ait été envisagé.

Ce qui me surprend plus, c'est qu'à terme d'une analyse coût-bénéfice, les décideurs de Volkswagen aient fait ce choix, sachant les risques énormes en cas de découverte. Mais là encore, il faut se rappeler que par le passé, on a accusé l'industrie automobile d'avoir raisonné qu'il valait mieux indemniser quelques accidents éventuellement mortels que de modifier un modèle y compris les exemplaires vendus (p.ex. affaire du réservoir de carburant de la Ford Pinto ; voir aussi Unsafe at any speed).

Élargissons le débat. On sait que l'évaluation chiffrée selon des critères connus d'avance conduit à des comportements pervers : au lieu d'améliorer l'utilisation normale (ce que le critère était censé mesurer indirectement), on en vient à optimiser le critère. Par exemple, l'évaluation de la productivité des scientifiques à la quantité de publications les pousse à multiplier des publications de peu d'intérêt ; l'évaluation des policiers au nombre de gardes à vue les conduit à mettre en garde à vue des gens sans qu'il y en ait une franche nécessité. Ces effets pervers sont connus et psychologiquement ou économiquement prévisibles ; là encore, rien d'étonnant.

Une dernière réflexion : cette affaire concerne un problème de limitation de la pollution… pourrait-il en être également de même pour la sûreté de fonctionnement des véhicules ? Par exemple, peut-on envisager qu'un véhicule ait des logiciels de tenue de route spécifiquement optimisés pour le « test de la baïonnette », qui détecteraient les conditions particulière de ce test et y apporteraient une réponse particulièrement efficace, mais qui seraient en fait médiocres pour d'autres situations d'évitement ? Nous devrons apporter des réponses claires à ce genre de questions, alors que des véhicules à conduite assistée par ordinateur voire automatique arriveront bientôt en vente.

PS : Des collègues font remarquer que tout cela veut dire qu'il est fort bien possible dans d'autres domaines que des « modes spéciaux » dissimulés soient mis en place dans des logiciels. Pensons aux ordinateurs de vote, ou encore aux backdoors dans les systèmes d'exploitation (une backdoor est un moyen par lequel un fournisseur se garantit un accès aux systèmes vendus.. comme si un fournisseur de serrures gardait un « passe » universel). Mais quand des informaticiens disaient qu'il était possible de frauder avec des ordinateurs de vote, on les taxait de paranoïa !