La vie est mal configurée

Aller au contenu | Aller au menu | Aller à la recherche

mardi, mars 7 2017

Laissons la sécurité informatique à ceux qui s'y connaissent

Ce matin, France Info expliquait que le Gouvernement supprimait le vote électronique des Français de l'étranger « tout ça pour » des risques d'attaques. Mon sang n'a fait qu'un tour.

La sécurité informatique, c'est compliqué. En position de défenseur, on doit veiller à tous les points d'attaque — il ne sert à rien d'avoir tout sécurisé si on a laissé un maillon faible. Une fois que l'on connaît un peu le sujet — j'ai la fatuité de croire que c'est mon cas — on se rend surtout compte qu'on ne sait pas grand chose et que la tâche est immense.

Autant dire que sur ce genre de sujets, je fais considérablement plus confiance à Guillaume Poupard, directeur de l'Agence nationale pour la sécurité des systèmes d'information (ANSSI) — par ailleurs ingénieur de l'Armement et docteur en cryptographie — qu'à des politiciens ou journalistes. Si l'ANSSI, qui a effectivement expertisé les systèmes informatiques concernés, rend un avis négatif, c'est sans doute qu'elle a de bonne raisons, comme il l'explique.

Je trouve assez déplorable que des journalistes, en adoptant une terminologie non neutre (« tout ça pour »), minimisent des menaces dans un domaine où ils n'ont aucune compétence, reprenant les arguments de certains politiciens.

Ce paragraphe du Monde me semble donner un bon résumé des réserves quant au vote électronique :

A titre personnel, M. Poupard s’est toujours montré très prudent sur le vote électronique et dit préférer le bulletin papier, meilleure garantie contre le piratage. Les critiques contre les systèmes de vote par Internet ne sont pas nouvelles et ont été largement étudiées – la commission des lois du Sénat rappelait ainsi, dans un document de synthèse publié en 2014, que la pratique est intrinsèquement risquée (pdf), tant sur le plan de l’identification de l’électeur que sur les recomptages a posteriori. Son usage pour les Français de l’étranger avait cependant le caractère d’une « nécessité pratique », permettant « d’assurer un égal accès des électeurs au vote », notaient les sénateurs.

Les arguments de certains politiciens peuvent faire sourire : « Cela s’est passé sans risque et sans problème en 2012 » dit Pouria Amirshahi. Faire d'un unique cas une règle, ce n'est guère sérieux, surtout qu'il est très possible qu'entre temps la menace ait changé (on parle d'ingérences étrangères dans les élections américaines). Faut-il rappeler qu'Amazon S3 a parfaitement fonctionné des années jusqu'à une panne massive, entraînant celle de très nombreux sites Internet ?

Je n'ose penser au désordre, accusations, expertises, contre-expertises, en cas de panne ou suspicions de piratage du vote électronique. Veut-on d'un pareil risque à notre époque de suspicion généralisée et de fausses nouvelles ?

lundi, février 27 2017

Le droit n'est pas logique

La lecture de discussions de réseaux sociaux me donne l'occasion d'illustrer la différence entre logique mathématique et langue naturelle. Ce qui suit paraîtra sans doute évident à bon nombre de lecteurs, mais visiblement ce n'est pas évident pour tout le monde !

On me pointe cette tribune d'une professeure de droit, et notamment cet extrait :

« La loi Taubira s’est donc écartée de cette vérité naturelle pour donner du mariage une nouvelle définition, coupée de la réalité anatomique et biologique, et de surcroît logiquement absurde puisqu’elle aboutit à définir une notion par une proposition contradictoire. Le mariage serait désormais l’union de deux personnes de sexe opposé « ou » de même sexe, c’est-à-dire qu’il désignerait à la fois une chose et son contraire absolu. »

Ainsi, d'après cette professeure, il serait logiquement absurde, c'est-à-dire logiquement contradictoire, d'expliquer que le mariage est l'union de deux personnes de même sexe ou de sexe opposé, car « de même sexe » et « de sexe opposé » sont deux propriétés opposées. Je ne comprends guère cette affirmation.

Si l'on admet que le sexe est une propriété (en mathématiques, une fonction) de l'individu, alors deux personnes sont soit de même sexe, soit de sexe différent. Il s'agit de l'application d'un principe logique général, dit du tiers-exclu, qui dit que quelle que soit la propriété étudiée (ici, que les sexes de deux individus soient égaux), alors elle est vraie ou fausse.

(Ce principe du tiers-exclu n'est pas valide dans les logiques dites intuitionnistes, mais celles-ci n'intéressent que les spécialistes. Quand on parle de logique mathématique sans plus de précision, o0n se place dans une logique classique, c'est-à-dire avec tiers-exclu.)

Ainsi, on n'a pas affaire à une contradiction (une propriété toujours fausse), mais à son opposé, une tautologie (une propriété toujours vraie). (En logique mathématique, le terme « tautologie » n'a pas la nuance péjorative qu'il peut avoir dans d'autres contextes. En particulier, une tautologie n'est pas forcément évidente.)

Bref, l'énoncé cité n'est pas plus folichon qu'indiquer que toute carte d'identité française comporte une date de naissance soit égale au premier janvier 1970, soit différente — énoncé équivalent à indiquer que toute carte d'identité comporte la mention d'une date de naissance. On pourrait, en termes strictement logiques, le retirer de la loi. Alors, pourquoi l'indiquer explicitement ?

C'est justement que la langue naturelle (le français, etc.), de même que le droit, n'exprime pas des propriétés strictement logiques. Notamment, l'interprétation d'une phrase en langue naturelle dépend habituellement de présupposés ; et un présupposé assez courant est que le mariage concerne un homme et une femme. Une façon d'indiquer que ce présupposé ne s'applique pas est de faire figurer explicitement une tautologie généralisant voire contredisant le présupposé. (Je suis sûr qu'un linguiste expliquerait cela bien mieux que moi, je ne suis pas linguiste, etc.)

Quelqu'un qui s'exprimerait purement logiquement dans la vie courante serait proprement insupportable, puisque cette personne devrait sans cesse faire le rappel d'une quantité de présupposés partagés. C'est pourquoi on n'explicite habituellement que ce qui risquerait de différer des habitudes de certains — et, l'existence de mariages entre individus de même sexe différant assurément des habitudes, on est bien ici dans ce cas.

La logique mathématique pure a quelques côtés déroutants. Par exemple, si on prend une hypothèse contradictoire, on a le droit de tout en déduire, même des propriétés elles mêmes absurdes. On m'a ainsi raconté la mésaventure d'une équipe chargée de vérifier le fonctionnement d'un dispositif informatique : elle avait prouvé que si les entrées de ce dispositif vérifiaient certaines hypothèses, alors sa sortie vérifiait une certaine propriété désirée… Sauf que les hypothèses sur les entrées figurant dans la documentation étaient contradictoires ! Ils s'étaient donc retrouvés à démontrer une tautologie « si on se place dans un cas impossible, alors les sorties conviennent ». Une interprétation plus pragmatique, et non purement logique, serait que si l'on demande de démontrer que A implique B, c'est que le cas représenté par A est intéressant, ni absurde ni tautologique, et que donc il convient de s'inquiéter si ce n'est pas le cas.

Bref, il est en général malvenu d'appliquer directement la logique mathématique au langage naturel. Si en plus on le fait en confondant tautologie et contradiction...

samedi, octobre 22 2016

Céline Alvarez et le CNRS de Grenoble

L'ouvrage de Céline Alvarez les Lois naturelles de l'Enfant agace beaucoup dans les milieux de l'éducation. Xavier Molénat a publié sur Twitter une série de remarques et d'extraits, dont celui-ci :

« La première année, malgré l'absence de cadrage institutionnel officiel, le cabinet du ministre et l'académie ont autorisé les tests visant à mesurer les progrès des enfants. Ces derniers ont été réalisés par le CNRS de Grenoble. »

L'ouvrage ne cite cependant pas de rapport ou d'article émanant des chercheurs impliqués dans ces « tests ». Cela ne convient pas à Xavier Molénat, et ne me convient pas non plus. Voyons pourquoi.

Mme Alvarez entend convaincre le lecteur du bien-fondé de certaines thèses en matière d'éducation. Pour cela, elle présente des arguments, dont les résultats de ces fameux tests. Le lecteur est donc censé pouvoir examiner ces arguments. Or, ici, justement, il ne le peut pas.

Que sait le lecteur de ces fameux « tests » ? Qu'ils ont été réalisés par « le CNRS de Grenoble ». C'est vague… Dans quel laboratoire du CNRS à Grenoble ? Par quels chercheurs ? Mystère. S'agit-il du Laboratoire de Psychologie et NeuroCognition (LPNC) ? Celui-ci compte de l'ordre de 50 chercheurs et enseignants-chercheurs « permanents », plus des personnels en contrats temporaires… lesquels étaient impliqués ? Dans quels document ont-ils décrit ces tests et leurs résultats ? Nous n'en savons rien.

Si l'on invoque une étude du CNRS, et non les théories du beau-frère de la coiffeuse, c'est que l'on a une certaine prétention de scientificité. Or, la bonne pratique scientifique est de présenter ses résultats de façon à ce qu'on puisse les critiquer — au sens qu'il doit être possible d'avoir un débat sur les faits et les méthodes. Une étude expérimentale doit décrire précisément ce que l'on entendait mesurer et comment ; car il est toujours possible que les méthodes utilisées laissent prise à des biais, des erreurs, qu'elles n'écartent pas certains facteurs.

Critiquer une méthodologie expérimentale, cela n'est pas dire que les chercheurs ont menti. Il est possible de commettre de bonne foi des imprécisions voire des erreurs : on n'avait pas pensé à un facteur, on n'était pas informé de telle ou telle particularité, on maîtrise mal les statistiques, on a mal compris un travail antérieur, etc. De même, critiquer l'absence d'une référence précise, ce n'est pas insinuer que Mme Alvarez ait inventé ces « tests ». Simplement, les résultats de ceux-ci pourraient ne pas avoir la portée qu'elle leur attribue, et ce même alors qu'elle serait de parfaite bonne foi.

Pour toutes ces raisons, la pratique normale dans les écrits scientifiques est de citer précisément les études sur lesquelles on s'appuie (nom des auteurs, titre, éditeur, etc.). Les références du type « une étude américaine » ou « des expériences de l'INSERM », sans plus de précision, relèvent plutôt de la pratique journalistique. De telles références visent souvent à impressionner le lecteur — on précisera par exemple que le CNRS ou le Massachusetts Institute of Technology sont des organismes prestigieux

Je n'ai pas lu l'ouvrage, et il est périlleux de tirer des conclusions larges de ce qui pourrait être une maladresse isolée. Toutefois, pour reprendre des distinctions de philosophie de terminale, celle-ci donne la désagréable impression qu'il s'agit de persuader le lecteur plus que de le convaincre.

PS : Il y a par ailleurs une certaine incorrection, un certain manque de courtoisie, à ne pas nommer les auteurs d'une étude scientifique. Il s'agit là non seulement de rendre hommage à un travail (comme pour les techniciens au générique d'un film), mais aussi à la réflexion qu'il y a derrière — je doute que ces « tests » aient le caractère standardisé et automatisable d'un test de groupe sanguin. Sauf dans de rares cas, une étude réalisée par un organisme comme le CNRS n'est d'ailleurs pas publiée comme la position de l'organisme, mais comme le travail de chercheurs désignés nommément, et qui engagent d'ailleurs leur réputation.

PS² : On m'a accusé, sur un réseau social, de répandre de « vagues allégations brouillant la communication » sur un « sujet essentiel » par une « critique sans intérêt et dénuée de bienveillance ».

Ma position est simple : il faut choisir. Si l'on écrit en se parant du prestige de la science et de ses institutions (références aux neurosciences, études par des IRM, mention d'organismes prestigieux comme le CNRS ou le Collège de France), il faut jouer le jeu scientifique, c'est-à-dire que l'on doit donner au lecteur les éléments de réflexion, par une référence précise des travaux concernés. À l'oral, bien sûr, ce n'est pas toujours possible, mais lorsqu'on rédige un ouvrage on peut, on doit, faire l'effort.

La bienveillance, en la matière, serait de ne pas critiquer trop vertement, et surtout pas en public, un travail d'étudiant qui ne citerait pas correctement ses sources — ce serait reprocher à l'étudiant de ne pas avoir déjà acquis une compétence qu'il est justement censé acquérir en faisant un travail de recherche. En revanche, je ne vois pas pourquoi on devrait étendre cette licence à une personne qui s'expose dans l'arène publique en publiant un ouvrage se voulant sérieux.

Ce n'est pas rendre service au public que de laisser passer ce genre de références incorrectes aux travaux scientifiques. À ce sujet, je trouve très significatif que l'on m'accuse de « brouiller la communication »... Est-ce à dire que sur ce sujet on « communique » plutôt que l'on ne cherche à fournir une information précise ?

vendredi, octobre 14 2016

Frédéric Beigbeder, cet être complexé

J'ignorais que Frédéric Beigbeder fût humoriste. Enfin, était-ce de l'humour, ou parlait-il sérieusement, quand il expliquait sur France Inter que ceux qui conçoivent des algorithmes — ces fameux algorithmes derrières les services Internet — sont des frustrés sexuels, d'anciens forts en maths boutonneux, bref, des gens pénibles et chiants, par opposition aux « hédonistes » dont il prétend faire partie.

Je conçois que l'on puisse souffrir d'un complexe d'infériorité envers les « forts en maths » et les gens qui savent ce dont ils parlent quand ils parlent d'algorithmes, et que l'on puisse, à 51 ans, vouloir se venger de ses petits camarades de lycée meilleurs que soi. Je conçois plus difficilement qu'une radio publique puisse se prêter à pareil exercice, digne d'un scénario de série américaine pour adolescents — mais oui, vous savez bien, le héros bien dans sa peau et athlétique flanqué d'un geek binoclard ! Mais surtout, j'aimerais un peu régler son compte à cet « hédonisme » en peau de lapin que nous vante Beigbeder.

Le jeune « hédoniste » à la Beigbeder, c'est le jeune homme — ou la jeune fille — de bonne famille, pas inquiet quant au succès de ses études car papa-maman seront là pour payer, qui n'a pas besoin de travailler, sort en boîte, va dans des fêtes, essaye des drogues. Ce n'est pas lui qui nettoie son vomi un lendemain de « murge » — il y a pour cela une France plus basanée et qui se lève plus tôt. Il peut considérer comme de « vieux cons » ses voisins qui protestent contre le bruit de ses fêtes — vu que lui n'a pas à se lever à 4h du matin quand le bébé hurle puis à 7h quand il faut préparer l'aînée pour l'école.

L'hédoniste plus âgé, lui, peut par exemple sniffer de la cocaïne sur le capot d'une voiture. S'il se fait prendre et poursuivre en justice, en bon privilégié pour qui les problèmes ne doivent arriver qu'aux autres, il s'en prend publiquement au Procureur de la République pour avoir subi (et encore, pas en version grave) ce que les autres toxicomanes subissent sans qu'on leur tende le micro ou la plume pour s'en plaindre.

Vous l'aurez compris, les petits cons privilégiés me fatiguent. Porcherie !.

PS Je ne porte pas de lunettes, n'ai pas eu de problème particulier d'acné, et ai, comme ma consœur Charlotte Truchet, une vie sexuelle satisfaisante (mais pas avec elle).

jeudi, octobre 13 2016

Ces algorithmes qui nous gouvernent II

(Suite de mon billet précédent.)

Le « pouvoir des algorithmes ». Les « algorithmes qui nous gouvernent ». « Algorithmes », un mot naguère inconnu des journalistes, maintenant en couverture.

Ce qui me dérange le plus dans cette déferlante médiatique, c'est qu'on mélange des choses assez différentes, allant de « l'admission post-bac » à la recherche de terroristes. Les « algorithmes », c'est vaste, leurs modes de fonctionnement et leurs domaines d'applications sont très divers. Je ne sens pas cette différenciation dans les articles consacrés au sujet, qui pour toute explication se bornent souvent à une définition générale « à la Wikipédia », quand bien même il font appel à un professeur au Collège de France pour dire ce que toute personne cultivée sur ce sujet dirait.

Des « algorithmes » de classement de candidats, on en connaît depuis longtemps. Prendre des notes, les multiplier par des coefficients, classer les candidats selon le total ainsi obtenu, voilà un algorithme. Que celui-ci soit appliqué à la main, avec une calculatrice, avec un tableur ou au travers d'un site Web ne change rien.

La vraie différence est que les algorithmes classiques de classement sont connus — on connaît les coefficients des différentes épreuves, des différentes disciplines — alors que, par exemple, le logiciel de l'admission post-bac était récemment tenu secret (et encore maintenant on n'en connaît que les grandes lignes). C'est ce secret qui pose problème.

On utilise parfois des algorithmes assez complexes pour choisir « la meilleure solution » — on parle alors d'« optimisation ». Par exemple, on pourra vouloir chercher pour une école le meilleur emploi du temps (sous la contrainte qu'on ne doit pas mettre deux cours dans la même salle en même temps, ou avec le même enseignant, etc.), pour un parc de centrales électriques les meilleures périodes d'arrêt pour travaux… ou pour une ligue de football le meilleur calendrier de matchs. La méthode de résolution peut être très compliquée et sa compréhension réservée à des spécialistes (on paye des chercheurs et des ingénieurs spécialisés pour cela !), mais ce qui est pertinent pour le public c'est le critère que l'on optimise, ce qui permet de juger qu'une solution est meilleure ou pire qu'une autre. Par exemple, lors de l'optimisation de rythmes de travail, a-t-on tenu compte de la pénibilité pour les personnels, ou seulement du profit pour l'entreprise ?

Les algorithmes basés sur l'apprentissage automatique sont bien différents. Avec eux, au lieu de définir à l'avance des critères d'évaluation, quitte à les tenir secrets, on les fait fixer automatiquement par observation d'exemples. Non seulement l'opérateur humain n'a pas directement fixé les critères, mais il n'est souvent pas non plus en mesure de les expliquer.

Ainsi, à mon sens, il faut bien distinguer deux problèmes différents :

  1. Les concepteurs du système connaissent les critères que celui-ci appliquent, mais les tiennent secrets.

  2. Le système est trop complexe pour que ses concepteurs comprennent vraiment les critères qu'il applique.

Une critique raisonnée des algorithmes devrait bien distinguer ces deux aspects, et réintroduire le politique là où l'on ne voit que technique aveugle. Le choix des critères appliqués par un algorithme est politique, de même que le choix de garder ces critères secrets. Il est vrai que lorsque l'on ne veut pas assumer ses décisions, il est commode de pouvoir invoquer « le choix de l'ordinateur », comme d'ailleurs « des raisons juridiques ». C'est cela qui mine nos sociétés, plus que l'informatique.


mardi, octobre 11 2016

Ces algorithmes qui nous gouvernent

J'ai lu l'article « Ces algorithmes qui nous gouvernent » paru dans le Point du 22 septembre 2016. Certains de mes collègues me l'ont décrit comme décevant ; certes, on peut déplorer quelques raccourcis, ainsi que le lieu commun assez démagogique du caractère d'« abstractions inintelligibles » des mathématiques. Je n'ai rien vu de choquant ; j'aimerais toutefois revenir sur l'introduction de cet article.

« Le 9 septembre, Erna Solberg, chef du gouvernement norvégien, poste sur son compte Facebook le célèbre cliché d'une petite fille brûlée au napalm, pris pendant la guerre du Vietnam par le journaliste Nick Ut. En 1973, cette image avait valu à son auteur le prix Pulitzer de la photographie. En 2016, ce même cliché, aussitôt mis en ligne, est censuré par Facebook au nom des règles du plus grand média mondial sur… la nudité. L'algorithme du réseau social, qui avait déjà confondu art et pornographie en censurant le tableau « l'origine du monde », vient donc aujourd'hui de confondre pornographie et Histoire. »

J'ignore, pour ma part, si les décisions de Facebook de retirer tel ou tel contenu comme pornographique sont le fait d'un algorithme de reconnaissance de formes, d'employés appliquant une grille de critères, ou d'une combinaison des deux, peut-être opérant sur la base de réclamations. J'ignore d'ailleurs si les auteures de l'article, Violaine de Montclos et Victoria Gairin, ont plus d'informations que moi à ce sujet, ou si elles ont extrapolé de la mode actuelle de voir partout les dangers des « algorithmes » que cette décision serait algorithmique. Je pense, surtout, que cela n'a guère d'importance, car en l'espèce il n'y a pas de différence entre une règle algorithmique appliquée par un ordinateur et une règle bureaucratique rigide appliquée par un humain.

Facebook a des règles d'utilisation prohibant la pornographie ainsi que les photos de nus d'enfant. L'origine du monde, faut-il le rappeler, montre le sexe d'une femme cuisses écartées, son visage absent. Quant aux photographies de nus d'enfants, on les associe de nos jours volontiers à la pédophilie.

Mais, dira-t-on, il ne s'agit pas de cela. Certes, la pose du tableau de Courbet est digne du porno hard, mais il s'agit d'une œuvre présentant un intérêt artistique et historique. Certes, la petite fille fuyant le napalm est nue, mais il s'agit d'une photographie présentant un événement historique. Et en effet, un critère de détermination du caractère obscène d'une œuvre, utilisé notamment aux États-Unis, est l'absence de caractère artistique, historique ou éducatif, l'œuvre ne visant qu'à l'excitation sexuelle. Clairement, ces deux documents n'auraient pas dû être censurés.

« Clairement » ? Comment distinguer l'œuvre de Courbet d'une vulgaire photographie exhibitionniste ? La pose serait la même, et l'on ne saurait recourir à un critère comme la distinction entre peinture et photographie. Il faut faire appel à l'histoire de l'art. Or certes œuvres ont été jugées pornographiques à leur sortie par certains avant d'être réhabilitées, par exemple Madame Bovary ; certaines photographies de Robert Mapplethorpe, et plus généralement une partie de l'art contemporain, seront jugés par les uns comme des œuvres d'arts et par d'autres comme de pornographie répugnante.

Facebook est un hébergeur gratuit, qui sert un très grand nombre de clients. Les ressources qu'il peut allouer à une décision de retrait de contenu sont limitées pour de simples raisons économiques. Il doit donc passer par des procédés algorithmiques, ou par une prise de décision simple par des personnels peu qualifiés et appliquant une grille uniforme. Bien entendu, on ne saurait attendre de ces personnels qu'ils connaissent la tradition artistique de chaque pays dans lequel Facebook est disponible et ce qui y est ou non considéré comme une grande œuvre (je suis certes bien conscient que nous sommes européocentristes en matière d'art et que nous considérons qu'un indien devrait savoir que l'Origine du Monde est une œuvre importante tandis que nous ignorons tout de l'art de son pays). Par ailleurs, avoir une grille simple, uniforme et objective limite les opportunités de contestation — « je ne comprends pas, vous avez admis telle photographie de nu mais pas la mienne ».

Tout cela n'a pas grand-chose à voir avec l'algorithmique, mais plutôt avec la bureaucratie. C'est un trait de la bureaucratie que d'avoir des règles uniformes et rigides applicables par des personnels peu qualifiés (j'entends par là en l'espèce qu'ils n'ont pas de master en histoire de l'art), et qui peuvent produire occasionnellement des résultats ridicules. D'ailleurs, quand les règles ne sont pas suffisamment uniformes et rigides, ou appliquées avec subjectivité, on accuse les personnels de rupture de l'égalité entre usagers…

Je suis d'ailleurs tout à fait d'accord avec la conclusion de l'article, qui explique notre défiance envers les algorithmes par une tendance à « imputer aux mesures ce que, en réalité, nous leur avons demandé de faire »… Cela fait une bonne vingtaine d'années que je vois des articles de presse déplorer l'accès facile à la pornographie en ligne, décrite comme un danger pour les adolescents voire pour les adultes. La pédopornographie est perçue comme un fléau social majeur ; la loi française impose d'ailleurs aux hébergeurs de contenus le retrait immédiat des contenus pédopornographiques, alors que pour d'autres contenus illicites, par exemple diffamatoires, il faut normalement l'intervention d'un juge. Comment, dès lors, s'étonner et s'offusquer de ce que Facebook mette en œuvre des procédures rapides pour supprimer les documents pornographiques, ou, pire, pédopornographiques ? Gageons que s'ils le faisaient pas, Le Point déplorerait le laxisme des pouvoirs publics envers les grandes plates-formes Internet et l'inaction de ces dernières…

Ainsi ces actions de Facebook sont la conséquence prévisible de demandes sociales, et non l'illustration d'une quelconque « prise de pouvoir par les algorithmes ». Ces demandes sociales sont la mise à disposition d'un service à la fois family-friendly et gratuit — d'où une censure low cost et ne s'embarrassant pas de subtilités. Mais, comme souvent dans les affaires politiques, on se plaint des conséquences de ce que l'on a réclamé !

vendredi, juillet 22 2016

Les solutions à tout

Suite aux attentats, divers politiciens et éditorialistes s'en donnent à cœur-joie de proposer de nouvelles mesures ou de donner des avis dont ils prétendent que s'ils avaient été suivis il n'y aurait pas eu de carnage. On peut sourire des idées de certains (des militaires avec lance-roquette prêt à être tiré en faction dans les avenues fréquentées), que l'on attendrait plutôt de la part d'adolescents que d'homme mûrs. On rit moins lorsque l'on sait que ces gens ont, pour une part, le pouvoir de transformer ces idées en lois et en mesures.

Deux billets précédents n'ont pas pris une ride :

La racine du problème semble être que, face à une menace (réelle ou imaginaire, exagérée ou non), le responsable politique se doit de proposer des mesures, que celles-ci soient efficaces ou non, qu'on puisse ou non les mettre en place.

Il semble que ce comportement soit motivé par la croyance que c'est ce que le public attend. Cette croyance est-elle justifiée ? Le public attend-il vraiment qu'on lui propose n'importe quoi ?

jeudi, juillet 14 2016

Rhétorique de conviction

Un avocat connu pour son blog et sa présence sur les réseaux sociaux s'est récemment répandu contre la prétention que l'on puisse prédire l'avenir grâce à des algorithmes. Ayant rappelé la définition de ce concept (la description finie d'un procédé de calcul à l'aide d'opérations élémentaires, de tests, de boucles…), il en déduisait comme une évidence qu'il était impossible de prévenir l'avenir de cette façon. S'en est suivi une conversation entre moi et un interlocuteur anonyme, conversation qui, il me semble, est intéressante, au-delà du cas d'espèce, pour l'illustration de mécanismes psychologiques et rhétoriques, et que je me propose donc de résumer ici.

Le dialogue

D.M. : On prédit pourtant l'avenir avec des algorithmes : par exemple, on prévoit des années à l'avance la trajectoire des engins spatiaux, les services de météorologie prédisent le temps qu'il fera…

Anonyme : Vous confondez lois sociales et lois physiques.

D.M. : Vous voulez des exemples sociaux ? La société Google a eu le succès que l'on sait notamment de part sa capacité à assez bien prédire qu'est-ce qui sera considéré comme pertinent par les lecteurs.

Anonyme : Il s'agit d'une société privée, à but lucratif et aux visées transhumanistes !

D.M. : La nature de cette société où les éventuelles visées de certains de ses dirigeants n'enlèvent rien à ses capacités techniques.

Anonyme : Au contraire, cela a un rapport énorme ! Qui plus est, je ne crois rien sans preuve, et en matière de logiciels, la preuve passe par des tests unitaires !

D.M. : Bonne soirée.

Maintenant, mon commentaire.

Motte-and-bailey

Lorsque l'on énonce des faits généraux, comme par exemple qu'on ne peut prédire l'avenir à l'aide d'algorithmes, on se doit normalement de qualifier la portée de ces faits. Si l'on entend parler de l'impossibilité de prédire algorithmiquement l'avenir d'un être humain ou d'un groupe d'êtres humains, par opposition à celui d'objets bien décrits par des lois physiques, il convient de dire que l'on ne parle que des faits sociaux. Sans cela, on entre dans une conversation assez déplaisante où l'un énonce pompeusement des « vérités » de grande portée, est démenti, puis se plaint d'avoir été mal compris et que bien entendu ce n'était pas ce qu'il voulait dire.

Certains auteurs anglophones appellent ce procédé rhétorique motte-and-bailey par analogie avec la défense des châteaux médiévaux : on commence par vouloir accaparer un large territoire conceptuel ou rhétorique, mais lorsque l'interlocuteur presse, on se retranche dans son château sur la butte avec un énoncé bien plus restreint.

Confusion entre la véracité et la moralité des faits

Il devrait être évident que l'on peut prétendre qu'un fait est avéré sans considérer qu'il est bon pour la société ou considérer que les personnes qui en sont à l'origine ont agi moralement. Ainsi, dire que le Parlement a voté une loi n'implique pas que l'on considère que cette loi est appropriée ou bonne, ou encore moins que l'on considère que les parlementaires sont particulièrement moraux.

Pourtant, ici, on a cru bon de contredire le fait que la société Google pouvait, d'une certaine façon, prédire l'avenir, en m'objectant que cette société est privée, capitaliste et à visées transhumanistes. Quel rapport ? Ce n'est pas parce que nous n'aimons pas la perspective de quelque chose, ou les objectifs de ceux qui l'accomplissent, que celle-ci est impossible.

Une autre anecdote. Il y a quelques années, j'avais expliqué sur ce blog pourquoi je croyais que les instances dirigeantes d'une organisation (instances dont je ne faisais pas partie, mais dont je connaissais assez bien la mentalité, les objectifs et les modes de raisonnement) allaient décider en un certain sens. J'ai alors été violemment pris à partie comme si c'était moi qui avais tranché ! Comme si, en quelque sorte, estimer quelque chose se passera revenait à considérer que cette chose soit souhaitable, bénéfique, voire à avoir pris part à la décision.

L'épouvantail du transhumanisme

Je suis assez fatigué d'entendre parler des dangers du « transhumanisme », qui serait la mentalité des « ingénieurs de la Silicon Valley ». Certes, certains entrepreneurs des hautes technologies, notamment Ray Kurzweil, font des déclarations en ce sens. Il convient cependant de se rappeler que ces gens, dans une optique entrepreneuriale américaine, doivent faire rêver, notamment pour attirer des investisseurs et des employés de premier choix. Autrement dit, ils doivent proposer des objectifs très ambitieux ; on se rappellera du président Kennedy s'exclamant « To the Moon ! » pour lancer le programme lunaire. On doit cependant également se rappeler que cette rhétorique hyperbolique masque parfois des réalités décevantes : par exemple, on annonçait comme une révolution un produit mystérieux… le Segway.

Il existe à mon avis des problèmes bien plus pressants que le transhumanisme, y compris en matière d'usage des technologies numériques. Pourtant, celui-ci semble obséder certains milieux. Je ne comprends guère.

Je suis notamment troublé que l'on prenne pour argent comptant les déclarations d'entrepreneurs « transhumanistes », tout en dénonçant leur duplicité. D'une part on dit que ces gens sont des menteurs qui promeuvent l'impossible, d'autre part on dit qu'ils ont des projets dangereux. D'une part on les taxe d'une grande naïveté, d'autre part on leur attribue une grande adresse — un peu comme ces méchants de James Bond, aux moyens infinis et à la cruauté raffinée, mais qui laissent s'échapper le héros.

Vérité et prouvabilité

Il est vrai que l'on peut prouver la correction d'algorithmes et de programmes ; c'est d'ailleurs, cela tombe bien, ma spécialité de recherche et d'enseignement (et je suis d'ailleurs très réservé quand on m'explique qu'on fait cela par des « tests unitaires »). Une grande difficulté, voire limitation, de cette approche, c'est que très souvent on n'a pas de spécification mathématique claire de ce que l'algorithme doit faire. Dire qu'un algorithme doit rendre en sortie son entrée triée par ordre croissant, cela peut être mathématiquement précis ; dire qu'il doit reconnaître une photo d'homme d'une photo de femme, c'est plus délicat, car on n'a pas de caractérisation mathématique de ce qu'est une photo d'homme ou de femme. Autrement dit, quand on touche aux faits humains ou sociaux, on peut souvent oublier toute possibilité de prouver l'efficacité finale de l'algorithme. (Cela n'exclut pas, bien sûr, de pouvoir montrer des propriétés mathématiques intéressantes, mais dont le lien avec la réalité sociale est discutable.)

En ce qui concerne la société Google, je me borne à constater que son cœur de métier original est de retrouver ce qui est pertinent pour le lecteur, autrement dit à prédire avec un certain succès que tel document pourrait l'intéresser tandis que tel autre non. Bien entendu, cette prédiction n'est pas parfaite, et on peut se gausser des erreurs de ciblage des automatismes de l'Internet (par exemple, cette régie publicitaire qui, un temps, me proposait des publicités pour produits destinés à l'hygiène des organes génitaux féminins externes). Il n'en reste pas moins que l'on sait faire des choses.

Constatons également ici des injonctions contradictoires. On explique tout d'abord que le monde social est d'une complexité telle que, contrairement à la mécanique simple des trajectoires spatiales, il est inaccessible à la description mathématique et à la prédiction algorithmique ; puis on reproche aux algorithmes destinés à l'étudier de ne pas venir avec une preuve de correction par rapport à une description mathématique dont justement on nie l'existence !

Militantisme et rhétorique grandiloquente

Dans le militantisme et, plus généralement, les convictions politiques, il y a souvent

  1. la rhétorique grandiloquente, emphatique et plein de grands principes souvent assez creux

  2. la confusion entre ses désirs et la réalité

  3. la tendance à donner des leçons (que l'on pourrait qualifier de splaining, suivant un mot à la mode) sur tout sujet, à partir du moment où celui-ci se relie aux convictions politiques et morales défendues

  4. la tendance à partir dans la morale lorsque l'on perd pied sur les faits.

Là, je pense avoir été servi.

(Mea culpa – je pense moi aussi faire preuve de ces quatre travers lorsque je parle de sujets politiques.)

Critique de la gouvernance algorithmique

Il existe pourtant des critiques fort valables des la prédiction algorithmique. À mon avis, le bon argument n'est pas que l'on ne peut pas prédire l'avenir à l'aide d'algorithmes — puisqu'on le peut, avec une bonne probabilité, dans bon nombre de cas. Les bons arguments me semblent plutôt :

  1. Les critères de prédiction identifiés peuvent être des prophéties auto-réalisatrices et leur utilisation aveugle pourrait être contre-productive. Par exemple, il est possible que le fait d'être plutôt pauvre et d'habiter dans certains quartiers prédispose plus au vol à la tire que de naître dans une famille de cadres supérieurs ; et il est plausible qu'un algorithme d'apprentissage automatique constate cela si on lui soumet un corpus de délinquants vs non délinquants. Faut-il en conclure qu'il faut, au moment d'embaucher un personnel, favoriser les enfants de cadres supérieurs ?

  2. Les prédictions sont des tendances statistiques qui doivent donc être analysées statistiquement. On sait bien, par exemple, qu'un procédé même précis appliqué en masse pour dépister un phénomène rare donnera surtout des faux positifs.

  3. Ce n'est pas parce qu'un résultat est produit par un procédé algorithmique qu'il est correct. Les procédés algorithmiques incluent des biais, que ce soient ceux de leurs concepteurs ou ceux induits par le fonctionnement d'algorithmes d'apprentissage. D'ailleurs, il est rare que l'on puisse appliquer à l'aveugle des techniques d'apprentissage automatique sans d'importants réglages demandant la collaboration d'experts en apprentissage et d'experts du domaine étudié.

lundi, mai 16 2016

De l'usage des mots offensants

On a récemment polémiqué sur le choix, pour un concert subventionné, d'un rappeur ayant par le passé employé le terme kouffar. Je ne suis pas arabisant, je me borne à noter que ce mot désigne les non-musulmans, qu'on le traduit souvent par « mécréant » et qu'ils est, semble-t-il, souvent péjoratif. Penchons-nous donc sur le terme de « mécréant », en français, et sur ses implications et connotations.

Une jeune femme de confession musulmane qui s'exprimait en français sur ce sujet ne comprenait pas en quoi le terme de « mécréant » pouvait poser problème : en effet, qu'est-ce que cela peut faire à des gens qui ne croient pas en dieu, ou du moins au dieu d'une certaine religion, si les tenants de cette religion les qualifient de « mécréants » ? J'aimerais tenter ici un semblant d'explication.

Le terme « mécréant » veut dire « qui croit mal », autrement dit, qui a des croyances différentes de celles du locuteurs, considérées comme les seules vraies et bonnes. De fait, il me semble que c'est un article de foi dans plusieurs grandes religions, notamment l'Islam, que ladite religion est la seule vraie, que son dieu est le seul vrai dieu et ses prophètes les seuls vrais prophètes. Ce mot se distingue donc d'« incroyant », « athée », « agnostique » ou « non-musulman », factuels et qui n'impliquent pas un jugement de valeur sur la vérité de telle ou telle croyance.

Considérons temporairement un autre contexte, celui des jugements de valeur sur le goût. Lorsque nous entendons quelqu'un qui s'exprime en prétendant avoir le bon goût, tandis que des masses d'autres gens auraient de mauvais goûts, nous auront tendance à le qualifier de prétentieux — surtout si nous avons une des formes de mauvais goût qu'il dénonce.

On peut de même considérer qu'il s'agit d'une forme de prétention que d'annoncer publiquement, fût-ce implicitement, que ses croyances religieuses sont les seules vraies. C'est différent, assurément, de le penser (ou de le dire entre personnes d'une même foi) et de le revendiquer publiquement, par exemple par un choix délibéré de vocabulaire.

Bref, pour moi, le problème n'est pas tant de croire que l'on a raison et que les autres ont tort, sur un point relevant de la foi et non d'un raisonnement étayé, mais de revendiquer publiquement cette vérité comme étant la seule valable.

Bien entendu, il existe de multiples formes de prétention. J'ai déjà évoqué celle des jugements de valeur artistique, et il existe de nombreuses formes de distinction donnantlieu à des jugements publics d'infériorité. Toutefois, les jugements d'infériorité portant sur la religion (ou l'appartenance ethnique) sont particulièrement dangereux : on n'a pas ordonné de massacres sur la base de la non-appréciation de l'opéra, tandis qu'on en a ordonné sur la base de la « mauvaise croyance ».

Les mots ont un sens. Ils ont aussi des connotations. Lorsque l'on s'exprime publiquement, on ne peut pas à la fois choisir délibérément un mot péjoratif, alors qu'existent bien d'autres termes plus neutres, et ensuite déplorer d'être mal compris.

(On pourra rapprocher ce type d'argumentation de la motte-and-bailey defence.)

jeudi, octobre 15 2015

Proposition de loi anti-proxénétisme, encore la censure administrative

La proposition de loi « renforçant la lutte contre le système prostitutionnel », actuellement examinée par le Sénat, suscite des critiques. En effet, le texte adopté autoriserait l'autorité administrative à ordonner le blocage par les fournisseurs d'accès Internet de sites donnant accès à des prostituées (sites d'« escortes »).

Il ne s'agit pas pour la plupart des opposants à cette mesure, dont je suis, de défendre le droit à accéder à des sites proxénètes, mais de défendre le principe selon lequel une censure doit être ordonnée si besoin par un juge et non par une autorité administrative. On se demande bien en effet pourquoi certains parlementaires tiennent absolument à une censure administrative, par des autorités de police, et non à une procédure d'ordonnance par un juge judiciaire, garant des libertés publiques.

Le raisonnement des opposants est le suivant : les libertés publiques ne sont pas abattues d'un coup, mais sont progressivement érodées par des mesures dérogatoires visant à régler tel ou tel problème social. La dérogation prend peu à peu la place de la règle : en effet, une fois une dérogation en place, il est tentant d'étendre celle-ci à d'autres domaines. On l'a vu par le passé, avec les fichiers d'empreintes génétiques, concernant initialement les violeurs, maintenant étendus à de nombreux délinquants dont les faucheurs de cultures OGM. On le constate également à propos de la censure administrative : ceux qui la soutiennent à l'égard des sites d'escortes justifient pareille mesure en ce qu'il ne s'agirait que d'étendre une mesure existante adoptée (dans l'émotion) à l'égard des sites terroristes.

L'attitude des parlementaires impliqués me semble particulièrement significative de part leur refus d'examiner la possibilité d'une censure par l'autorité judiciaire et non policière.

Plus inquiétante encore est l'attitude de certains et certaines, se voulant « progressistes », qui soutiennent pareilles mesures. Pour eux, pour elles, visiblement, l'inconvénient de l'ajout d'une mesure de censure policière est négligeable par rapport au progrès social obtenu, et l'insistance pour une censure judiciaire n'est qu'un pinaillage inutile, au mieux d'esprits complotistes (qui croirait, enfin, que la Police puisse abuser de son pouvoir ?), au pire de sympathisants honteux du proxénétisme.

Je pense qu'il y a là une courte vue. En effet, plus on étendra les cas admissibles de censure policière, plus on encouragera l'adoption de nouveaux cas, visant à lutter contre d'autres formes de délinquance… par exemple les troubles à l'ordre public et les dégradations commis par des « progressistes » — ou pourquoi pas la solidarité envers les migrants, considérée comme une collaboration avec la traite par les passeurs. On verra alors certains des mêmes qui actuellement soutiennent la censure policière hurler contre l'arbitraire, les violations des libertés fondamentales et l'utilisation de mesures disproportionnées.

Plus généralement, je suis troublé par l'air d'autoritarisme que dégagent certains et certaines « progressistes » (ceci n'est bien entendu qu'une impression personnelle qui ne prétend pas à une verité statistiquement valide) : leurs causes sont importantes, celles des autres ne le sont pas, la fin justifie les moyens, les restrictions aux libertés qu'ils défendent ne posent aucun problème, ceux qui ne sont pas d'accord sont des réactionnaires, des crétins ou des pleurnichards. Le dialogue est difficile, voire impossible.

mercredi, octobre 7 2015

Page blanche

Il faut se rappeler que même Microsoft Word et la Recherche ont commencé par des pages blanches.

mercredi, septembre 23 2015

Quelques remarques sur l'affaire Volkswagen

Tous les médias évoquent la tricherie par Volkswagen aux tests antipollution. D'après ce que j'en comprends, le calculateur de bord qui contrôle la carburation sur certains modèles de Volkswagen diesel détecte quand la voiture est utilisée dans les conditions de conduite normalisée de certains essais officiels et applique alors un mode spécial diminuant les émissions. On peut conjecturer que ce mode induit également des performances médiocres, que les conducteurs ne toléreraient pas, et que c'est pour cela qu'il n'est pas appliqué en conduite normale.

Lire la suite...

mardi, septembre 15 2015

Le « pillage » par les industriels de l'Internet

Depuis maintenant une dizaine d'années, on entend ce message : les grandes entreprises américaines de l'Internet, notamment Google et Amazon, « pillent » les auteurs, les organes de presse, etc. français, dont les organisations représentatives pressent les pouvoirs publics d'adopter des mesures.

J'ai fait remarquer sur Twitter que tous ceux qui se sentent « pillés » par Google peuvent mettre fin immédiatement au « pillage » en demandant leur désindexation. On m'a fait remarquer que mon raisonnement est un peu court et ignore tout l'aspect concurrentiel du problème posé par les concentrations dans le domaine de l'Internet. C'est là tout le problème de s'exprimer en 140 caractères ; voici donc une explication plus longue.

Lire la suite...

dimanche, juillet 26 2015

Question historique sur la torture

Un des traits les plus saillants des la « guerre contre le terrorisme » menée par les États-Unis d'Amérique depuis les attentats du 11 septembre 2001 est l'usage officialisé de « techniques d'interrogatoires renforcées », un euphémisme pour diverses formes de torture (même si le gouvernement a initialement tenté de masquer les plus graves). Divers épisodes de la série télévisée 24, largement inspirée par la « guerre contre le terrorisme » montrent la torture de suspects comme un moyen légitime d'obtenir des renseignements. Des débats, à la fois au Congrès et dans les médias, ont montré que la torture (plus ou moins euphémisée) a des défenseurs, dans un pays qui se veut démocratique, respectueux des lois et des Droits de l'Homme.

Bien entendu, ce n'est pas la première fois que les États-Unis, ou d'autres démocraties, faisaient usage de torture. Il me semble cependant que, d'habitude, celle-ci avait lieu de façon plus honteuse : publiquement niée mais pratiquée par les unités militaires et policière, comme par la France en Algérie, ou chez des alliés auxquels on fournissait armes et instructeurs, comme en Amérique du Sud ou dans l'Iran du Shah. On peut ajouter à cela les brutalités policières intérieures, tolérées mais officiellement liées ou minimisées comme les actes de brebis galeuses. Avec la guerre contre le terrorisme, on est arrivé aux États-Unis à un débat politique où des gens parlent sérieusement et ouvertement d'autoriser la torture si les intérêts fondamentaux de l'État l'exigent.

J'aimerais comprendre d'où vient historiquement cet usage de la torture, du moins au sein des « démocraties occidentales ».

Jusqu'au XVIIIe siècle environ, les systèmes judiciaires des pays européens torturaient les suspects, pour obtenir des aveux, les noms de leurs complices, ou encore pour les forcer à plaider coupable ou non coupable. On a ensuite abandonné cette pratique comme à la fois barbare et inefficace.

Il ne me semble pas qu'au XIXe siècle, les pays occidentaux aient pratiqué la torture en dehors de leurs actions coloniales et de leur éventuel esclavagisme. Ils avaient des détenus politiques, certes (l'Autriche-Hongrie, par exemple, embastillait les indépendantistes de multiples nations qu'elle dominait), souvent dans des conditions dures, mais il ne me semble pas qu'il y ait eu de la torture au sens où on la pratiquait avant ou on l'a pratiquée après.

La question est donc de savoir ce qui a changé ensuite. J'aimerais, chers lecteurs, votre opinion argumentée là dessus.

Je verrais bien comme raisons :

  1. La montée de régimes brutaux (le fascisme, le nazisme, le communisme soviétique) qui ont fait des émules, à la fois hors et dans les démocraties.

  2. Une certaine vision scientiste et techniciste, avec toute une mythologie des « sérums de vérité » et des techniques de « lavage de cerveau » (voir par exemple le projet MKUltra).

  3. Le racisme (de la même façon qu'au XIXe siècle, les droits de l'homme étaient ceux de l'homme blanc chrétien, et pas celui du colonisé ou de l'esclave).

dimanche, mai 24 2015

L'ordinateur aux commandes

L'informatique suscite parfois certaines inquiétudes, notamment en ce qu'elle substitue la décision des machines à celle des hommes.

En 2007, je publiai une récension critique du livre de ma collègue Barbara Cassin, philosophe, où elle dénonçait la sélection automatisée des articles Web « intéressants » par les moteurs de recherche et notamment par Google, préférant une sélection par les « maîtres » au processus statistique de Google, qui ne fait que propager les goûts de la foule. On peut aussi mentionner les peurs suscitées par le projet de loi sur le renseignement et son usage d'« algorithmes » de détection de comportements suspects.

Récemment, la philosophe Cynthia Fleury affirmait dans La Croix

« On va donc liquider la pensée – qui est liée au jugement – en s’en remettant à une machine qui fait des probabilités. »

« Espérons que le médecin, demain, n’aura pas l’obligation de tenir compte des probabilités, quant à telle ou telle maladie, afin de déterminer une action thérapeutique. »

Cynthia Fleury ne le sait sans doute pas, mais cela fait belle lurette que des ordinateurs prennent des décisions de vie et de mort.

Dans un avion de ligne moderne (Airbus A320 et suivants, Boeing 777 et suivants...), la transmission des ordres des pilotes aux gouvernes ne passe plus par des liaisons hydromécaniques mais par des calculateurs électroniques (on parle de « commande de vol électrique » ou de fly-by-wire). Ceux-ci mettent en œuvre divers algorithmes qui vont bien au-delà de la transmission simple des ordres du pilote ; par exemple, la commande de vol peut pratiquer automatiquement une manœuvre anti-décrochement. Certains d'ailleurs opposent sur ce point les philosophies d'Airbus et de Boeing : chez Boeing, les pilotes ont la possibilité de mettre l'avion dans une configuration dangereuse (hors enveloppe de vol) en forçant sur les commandes au-delà d'un durcissement, tandis que chez Airbus, lorsque l'avion fonctionne en « loi normale », c'est impossible.

Lorsque nous évoquions l'utilisation de notre logiciel Astrée pour la vérification de certaines propriétés sur les systèmes de commande de vol, des personnes, inquiètes, nous disaient qu'elles espéraient bien que l'on puisse « repasser en manuel », en quelque sorte en débrayant le pilote automatique. Or, comme expliqué ci-dessus, il est impossible de débrayer totalement une commande de vol électrique… (on peut prévoir un système hydromécanique de secours sur certaines gouvernes, mais pas sur toutes).

Depuis 1993 (États-Unis) ou 2000 (Europe), les avions de ligne doivent mettre en œuvre un système d'alerte anti-collision (TCAS / ACAS). Ce système avertit les pilotes de la proximité d'autres appareils et, en cas de risque imminent de collision, leur fournit un « avis de résolution » (habituellement, l'un des avions doit monter et l'autre descendre). On peut bien sûr arguer qu'il ne s'agit que d'un avis et non d'un ordre aux pilotes… mais la réglementation de l'Organisation de l'aviation civile internationale (Airborne Collision Avoidance System (ACAS) Manual, 2006, §5.2.1.2) est claire

« Lorsqu'un avis de résolution [resolution advisory, RA] est produit, le pilote aux commandes doit réagir immédiatement en lisant les indications et effectuant la manœuvre indiquée, sauf si agir ainsi mettrait en danger la poursuite du vol. La réaction instinctive du pilote devrait toujours être de réagir sans attendre à un RA en suivant la direction et le degré indiqués. »

Cette réglementation, donnant notamment la priorité aux RA de l'ACAS par rapport aux indications des contrôleurs aériens, fait suite notamment à l'accident d'Überlingen, où les contrôleurs aériens et l'ACAS avaient donné des ordres incohérents. La solution est simple : à moins qu'il n'y ait une raison évidente et pressante, « on doit toujours suivre ce que dit l'ordinateur ».

Quant aux « probabilités » dénoncées par Mme Fleury, la nouvelle version de l'ACAS (ACAS X) est basée sur des calculs assez complexes de probabilités, le choix proposé par l'ordinateur résultant en quelque sorte d'une minimisation de la probabilité de collision.

Bien entendu, le cas des trajectoires d'avions est assez particulier. Leur physique est bien connue et donne un modèle mathématique relativement simple (relativement, par exemple, à la complexité biologique) ; par ailleurs, en cas de collision imminente, il faut une réaction rapide (pas le temps pour les pilotes de dialoguer avec les contrôleurs aériens ou à chercher à comprendre ce qui se passe). On ne saurait donc généraliser leur cas à d'autres domaines.

Pour autant, il me semble bien qu'en médecine, cela fait là aussi belle lurette que l'on est passé, du moins en théorie, de la pure intuition du médecin à la « médecine fondée sur les faits », basée sur des études statistiques et probabilistes. Autrement dit, là aussi, Mme Fleury semble s'alarmer d'une possible évolution qui est en fait déjà en vigueur.

Bien entendu, comme pour tout autre genre de modèle mathématique, il existe des usages corrects et des usages incorrects des probabilités et des statistiques. Chaque modèle est une image sélective de la réalité, et il n'est évidemment pas de mon propos, bien au contraire, d'encourager à leur usage aveugle et sans réflexion (hors de cas très particuliers comme l'aviation, où chaque seconde compte).

Venons-en maintenant à une question d'actualité. J'ai évoqué l'inquiétude de ceux qui voudraient que l'on puisse forcément « piloter en manuel ». Or, dans la dernière catastrophe aérienne en France, le vol 9525 de Germanwings, le drame est justement qu'on a laissé faire ce qu'il voulait au pilote : celui-ci a délibérément choisi une trajectoire de descente menant à une collision avec la montagne, et l'a maintenue malgré les alertes de l'avertisseur de proximité du sol (voir rapport préliminaire du BEA).

On pourrait envisager que l'informatique de bord interdise ce genre de trajectoires… (ce qui n'est pas si facile, car il faut tout de même prévoir les possibilités d'atterrissage d'urgence comme celui de l'A320 sur l'Hudson, ou celle du vol TACA 110 sur une digue). On avait même parlé de tels dispositifs pour contrer d'éventuels pirates de l'air suicidaires, comme ceux des attentats de 2001 (mais on a préféré l'installation de portes tenant les méchants hors du cockpit, ce qui n'a évidemment pas fonctionné alors que le méchant était dans le cockpit).

Les questions se posent là en nombre de vies sauvées et non en spéculations sur l'avenir de la Pensée. Il s'agit de peser ce qui est faisable ou non, à quel niveau de sûreté, et à quel coût.

dimanche, avril 19 2015

Projet de loi sur le renseignement : aucun informaticien interrogé ?

Lors de l'examen du projet de loi sur le renseignement, on a beaucoup parlé d'algorithmes, souvent entre personnes qui ne savaient pas très bien de quoi il s'agissait. Pourtant, à ma connaissance du moins, les députés n'ont auditionné aucune personnalité scientifique ou technique capable de les éclairer sur les réseaux ou la fouille de données.

Lire la suite...

vendredi, avril 17 2015

La science de Bernard Cazeneuve

Le ministre de l'Intérieur Bernard Cazeneuve a expliqué à l'Assemblée nationale (je reprends le compte-rendu officiel, même si celui-ci ne colle pas à l'intervention du ministre) :

Il est un autre point sur lequel je voudrais insister : on ne peut répéter à l’envi des choses fausses, ni considérer, madame Attard, que sous prétexte que c’est écrit dans le journal, c’est vrai. J’ai appris à l’école à ne pas croire ce qu’il y a dans les journaux ou dans les livres, à exercer mon esprit critique et user de ma libre conscience plutôt que de gober béatement et benoîtement ce que dit la presse. Je suis un esprit libre et indépendant et j’entends le demeurer. Les faits que vous rapportez figurent peut-être dans L’Obs, ou dans le Petit Bessin illustré ; mais par nature, et par essence, je n’y crois pas.

Il répondait apparemment à cette intervention de Mme Attard :

J’espère en tout cas, mes chers collègues, que vous avez pu lire pendant la pause l’excellent article d’Andréa Fradin dans L’Obs, qui explique à quel point les algorithmes seront inutiles.

Je ne peux qu'approuver Bernard Cazeneuve quant à son scepticisme à l'égard de la vérité de ce qui est publié dans la presse. De là à faire la leçon, modèle « rappels d'école », sur les moyens d'établir la vérité, à une docteure en archéologie, voilà un pas qu'il me semble assez malséant de voir franchi.

Si Bernard Cazeneuve ne tire pas ses informations sur la fouille de données de la presse, où les prend-il ? Sa formation, sa façon de s'exprimer lorsqu'il aborde des points techniques, ne laissent pas supposer une grande maîtrise personnelle du sujet : il doit donc se reposer sur d'autres.

Dans cette intervention, il nous éclaire :

Mes services de renseignement ont pu, par des échanges d’informations, savoir que des terroristes procédaient, sur le darknet, à des communications cryptées donnant des éléments précis sur leur intention de commettre des actes terroristes.

Ainsi, M. Cazeneuve s'informe auprès de ses services. Cela est bien naturel : c'est aux administrations d'informer le ministre de tutelle de réalités techniques qu'il n'a ni le temps ni les capacités d'appréhender lui-même. J'ai toutefois quelques remarques à ce sujet :

  1. Toute bureaucratie tend à revendiquer plus de moyens et moins de moyens de contrôle ou de voies de recours contre ses décisions. Il suffit de constater, par exemple, comment les administrations françaises ignorent la loi du 17 juillet 1978 sur l'accès aux données administratives ou tentent de gêner son application (manœuvres dilatoires, menaces…). Autrement dit, ce que demande une administration ne va pas forcément dans l'intérêt des citoyens, mais plutôt dans le sens de la commodité de son fonctionnement interne.

  2. Pour les mêmes raisons, il n'est pas rare que l'administration, disons, interprète la loi ou la réalité dans le sens qui l'arrange.

  3. Par « échange d'informations » il faut sans doute entendre « échange d'informations avec des services de renseignements étrangers ». Parmi les alliés de la France susceptibles de fournir des informations résultant de récolte d'informations sur Internet, on trouve principalement l'alliance UKUSA et notamment les États-Unis. Or, le gouvernement américain est susceptible de mentir quand cela arrange ses intérêts stratégiques, comme on l'a vu dans l'affaire des armes de destruction massive imaginaires de l'Irak.

  4. Il s'agit d'un argument d'autorité : « les services sont les experts du domaine, et ils m'ont dit que ». Or cet argument est invérifiable : les agents des services de renseignement sont soumis au devoir de réserve, de sorte que quelles que soient les avis que leur ministre de tutelle leur attribue, ils ne peuvent ni démentir ni apporter des corrections ou des bémols.

Regardons maintenant l'article d'Andrea Fradin, que M. Cazeneuve dédaigne en renvoyant Mme Attard à l'école. Celui-ci donne également dans l'argument d'autorité invérifiable (un docteur en intelligence artificielle qui a souhaité conserver l'anonymat), et la copie d'écran de code Python de calcul de log-likelihood a sans doute plus pour but d'impressionner que d'informer de parfaits béotiens. On trouve toutefois également des citations de mes collègues Gilles Dowek, Colin de la Higuera et Marc Schoenauer.

Or, Gilles Dowek est parfaitement identifiable : directeur de recherche à l'INRIA, il a été professeur à l'École polytechnique et directeur scientifique adjoint de l'INRIA, parmi d'autres fonctions. Il n'est spécialiste ni de fouille de données ni de réseaux, mais une personne qui a exercé de telles fonctions en a forcément beaucoup entendu parler, ne serait-ce que par nécessité d'évaluer les collègues, leurs projets de recherche, les recrutements. Par ailleurs, la parole d'un chercheur, même fonctionnaire, est de part la loi bien plus libre que celle des professionnels du renseignement.

Quant à Marc Schoenauer, il est également directeur de recherche à l'INRIA et spécialiste d'intelligence artificielle (apprentissage automatique etc.). Le professeur des universités Colin de la Higuera, quant à lui, était président de la Société informatique de France et ses recherches portent également sur l'intelligence artificielle.

Je trouve toujours troublant qu'en France, on paye des chercheurs et des enseignants-chercheurs pour être très compétents dans leur discipline et qu'ensuite on ignore superbement ce qu'ils ont à en dire.

Quant à la presse, les politciens qui la dédaignent lorsqu'elle les contredit sont souvent les premiers à la citer, ainsi que ses sondages, quand elle va dans leur sens.

PS : Quant à moi, s'il y a quelque chose dont je me méfie à part des discours mensongers et incompétents des politiciens et des approximations de la presse, c'est des discours promotionnels des industriels, notamment « technologiques », et de leurs solutions magiques.

jeudi, avril 16 2015

La machine à produire des listes de faux suspects

On nous annonce, comme remède au terrorisme, l'installation d'une détection algorithmique de comportements suspects d'internautes. Je suis sceptique. Permettez une anecdote professionnelle...

Je travaille, pour faire simple, sur la détection automatique de bugs dans les logiciels et/ou la preuve de leur absence. On pourrait croire qu'un système qui trouve automatiquement des bugs serait bienvenu dans les entreprises traitant de logiciels. Ce n'est pas forcément le cas !

À l'exception de cas particuliers (pilotage d'avion…), les logiciels sont souvent plein de bugs et les équipes de développeurs doivent gérer des listes de milliers de signalements de bugs par des utilisateurs. Le flux de bugs signalés est tel qu'il faut faire un tri, traiter ceux qui semblent les plus urgents ou importants et… « classer verticalement » ceux qu'on n'a pas le temps de traiter, voire les sortir de la liste au motif qu'on n'en entend plus parler.

Autrement dit, pour les équipes des industriels de l'informatique (*), un système automatique à trouver des bugs n'est pas pas forcément le bienvenu : il leur rajouterait des signalements dans la liste des problèmes à traiter, alors que ces signalements porteraient le plus souvent sur des problèmes potentiels mais qui ne se posent chez aucun client. Il n'y aurait juste pas le temps de les traiter.

Un système automatique qui fournit des listes de problèmes éventuels est de peu de secours pour des gens qui n'arrivent déjà pas à traiter les problèmes avérés.

Les affaires Merah, Coulibaly et Kouachi nous ont démontré que les services de police spécialisés manquent de moyens pour « suivre » des individus avec des antécédents sérieux. On se demande donc ce qu'ils pourraient bien faire de signalements automatiques, dont on peut raisonnablement soupçonner que la majeure partie seraient des faux positifs.

(*) Il me semble que le collègue qui racontait cela appartenait à la division recherche d'un grand industriel de l'informatique basé près de Seattle.

PS : Au vu de certains grands projets gouvernementaux dans le domaine informatique, par exemple de logiciels de paye, j'en viens à me demander si un but réel de ces « détections algorithmiques » n'est pas de fournir de juteux contrats à des fournisseurs de matériels et logiciels et des SSII.

mardi, avril 7 2015

Bloqué par Jean-Jacques Urvoas

Le 9 février 2015, le député Jean-Jacques Urvoas prononçait une conférence à l'Institut des Hautes Études de la Défense nationale, lors de laquelle il a affirmé :

Nous avons besoin d'analystes, nous avons besoin d'informaticiens, nous avons besoin de mathématiciens qui arrivent à manier la cryptologie, c'est-à-dire la capacité à pénétrer les réseaux Internet.

Pour mémoire, je suis informaticien et, modestement, mathématicien, et j'ai même publié des articles de recherche sur l'analyse des protocoles cryptographiques. Il me semble donc que je rentre dans les catégories dont Jean-Jacques Urvoas affirme que la défense de la France a besoin.

Suite à une mention de cette conférence sur Twitter, je postai hier cette remarque :

La cryptologie n'est pas la capacité à pénétrer les réseaux.

Cette remarque était à la fois parfaitement polie et factuelle. Pourtant, je m'aperçois aujourd'hui que M. le député Urvoas m'a « bloqué », c'est-à-dire que je ne peux suivre les messages qu'il poste (ou, plutôt, que je devrais faire une petite contorsion pour cela).

Je ne peux m'empêcher de voir dans cette réaction une curieuse conception du débat démocratique.

C'est la troisième fois en quelques années que je vois un député, fort indigné qu'un·e simple citoyen·ne lui fasse remarquer qu'il parle de ce qu'il ne connaît pas, faire preuve de morgue... et pourtant je discute rarement avec ce type de personnages. (Un jour, je raconterai ici comment Jacques Myard a voulu m'expliquer la publication scientifique.)

PS : Dans le même ordre d'esprit, le député Jérôme Lambert a fait un magnifique numéro de 'splaining à une enseignante d'histoire-géographie-éducation civique, en lui expliquant qu'elle ne comprenait pas le droit et la justice en France. Bizarrement, quand c'est une maîtresse de conférences en droit qui a donné raison à l'enseignante, on ne l'a plus entendu.

Il faut dire que M. le député estime a en bien piètre estime ceux qui s'inquiètent du projet de loi sur le Renseignement :

« mais non...ça "gueule" pas...ils ont trouvé un centre d'intérêt dans leur vie morne. C'est tout, et c'est bien ainsi »

mardi, mars 31 2015

Un constat sur la séparation des pouvoirs en France

Les parlementaires refusent de devoir justifier de l'usage de leur indemnité représentative de frais de mandat, car devoir rendre des factures à des fonctionnaires serait incompatible avec la séparation des pouvoirs, mais n'hésitent pas à voter des motifs de censure administrative (fût-ce sur Internet, toujours moins bien considéré que le papier) afin de contourner le passage devant l'autorité judiciaire.

Pas grand monde ne bronche, à part des associations comme LQDN. Il est vrai que c'est pour la bonne cause !

- page 1 de 25