J'ai lu l'article « Ces algorithmes qui nous gouvernent » paru dans le Point du 22 septembre 2016. Certains de mes collègues me l'ont décrit comme décevant ; certes, on peut déplorer quelques raccourcis, ainsi que le lieu commun assez démagogique du caractère d'« abstractions inintelligibles » des mathématiques. Je n'ai rien vu de choquant ; j'aimerais toutefois revenir sur l'introduction de cet article.

« Le 9 septembre, Erna Solberg, chef du gouvernement norvégien, poste sur son compte Facebook le célèbre cliché d'une petite fille brûlée au napalm, pris pendant la guerre du Vietnam par le journaliste Nick Ut. En 1973, cette image avait valu à son auteur le prix Pulitzer de la photographie. En 2016, ce même cliché, aussitôt mis en ligne, est censuré par Facebook au nom des règles du plus grand média mondial sur… la nudité. L'algorithme du réseau social, qui avait déjà confondu art et pornographie en censurant le tableau « l'origine du monde », vient donc aujourd'hui de confondre pornographie et Histoire. »

J'ignore, pour ma part, si les décisions de Facebook de retirer tel ou tel contenu comme pornographique sont le fait d'un algorithme de reconnaissance de formes, d'employés appliquant une grille de critères, ou d'une combinaison des deux, peut-être opérant sur la base de réclamations. J'ignore d'ailleurs si les auteures de l'article, Violaine de Montclos et Victoria Gairin, ont plus d'informations que moi à ce sujet, ou si elles ont extrapolé de la mode actuelle de voir partout les dangers des « algorithmes » que cette décision serait algorithmique. Je pense, surtout, que cela n'a guère d'importance, car en l'espèce il n'y a pas de différence entre une règle algorithmique appliquée par un ordinateur et une règle bureaucratique rigide appliquée par un humain.

Facebook a des règles d'utilisation prohibant la pornographie ainsi que les photos de nus d'enfant. L'origine du monde, faut-il le rappeler, montre le sexe d'une femme cuisses écartées, son visage absent. Quant aux photographies de nus d'enfants, on les associe de nos jours volontiers à la pédophilie.

Mais, dira-t-on, il ne s'agit pas de cela. Certes, la pose du tableau de Courbet est digne du porno hard, mais il s'agit d'une œuvre présentant un intérêt artistique et historique. Certes, la petite fille fuyant le napalm est nue, mais il s'agit d'une photographie présentant un événement historique. Et en effet, un critère de détermination du caractère obscène d'une œuvre, utilisé notamment aux États-Unis, est l'absence de caractère artistique, historique ou éducatif, l'œuvre ne visant qu'à l'excitation sexuelle. Clairement, ces deux documents n'auraient pas dû être censurés.

« Clairement » ? Comment distinguer l'œuvre de Courbet d'une vulgaire photographie exhibitionniste ? La pose serait la même, et l'on ne saurait recourir à un critère comme la distinction entre peinture et photographie. Il faut faire appel à l'histoire de l'art. Or certes œuvres ont été jugées pornographiques à leur sortie par certains avant d'être réhabilitées, par exemple Madame Bovary ; certaines photographies de Robert Mapplethorpe, et plus généralement une partie de l'art contemporain, seront jugés par les uns comme des œuvres d'arts et par d'autres comme de pornographie répugnante.

Facebook est un hébergeur gratuit, qui sert un très grand nombre de clients. Les ressources qu'il peut allouer à une décision de retrait de contenu sont limitées pour de simples raisons économiques. Il doit donc passer par des procédés algorithmiques, ou par une prise de décision simple par des personnels peu qualifiés et appliquant une grille uniforme. Bien entendu, on ne saurait attendre de ces personnels qu'ils connaissent la tradition artistique de chaque pays dans lequel Facebook est disponible et ce qui y est ou non considéré comme une grande œuvre (je suis certes bien conscient que nous sommes européocentristes en matière d'art et que nous considérons qu'un indien devrait savoir que l'Origine du Monde est une œuvre importante tandis que nous ignorons tout de l'art de son pays). Par ailleurs, avoir une grille simple, uniforme et objective limite les opportunités de contestation — « je ne comprends pas, vous avez admis telle photographie de nu mais pas la mienne ».

Tout cela n'a pas grand-chose à voir avec l'algorithmique, mais plutôt avec la bureaucratie. C'est un trait de la bureaucratie que d'avoir des règles uniformes et rigides applicables par des personnels peu qualifiés (j'entends par là en l'espèce qu'ils n'ont pas de master en histoire de l'art), et qui peuvent produire occasionnellement des résultats ridicules. D'ailleurs, quand les règles ne sont pas suffisamment uniformes et rigides, ou appliquées avec subjectivité, on accuse les personnels de rupture de l'égalité entre usagers…

Je suis d'ailleurs tout à fait d'accord avec la conclusion de l'article, qui explique notre défiance envers les algorithmes par une tendance à « imputer aux mesures ce que, en réalité, nous leur avons demandé de faire »… Cela fait une bonne vingtaine d'années que je vois des articles de presse déplorer l'accès facile à la pornographie en ligne, décrite comme un danger pour les adolescents voire pour les adultes. La pédopornographie est perçue comme un fléau social majeur ; la loi française impose d'ailleurs aux hébergeurs de contenus le retrait immédiat des contenus pédopornographiques, alors que pour d'autres contenus illicites, par exemple diffamatoires, il faut normalement l'intervention d'un juge. Comment, dès lors, s'étonner et s'offusquer de ce que Facebook mette en œuvre des procédures rapides pour supprimer les documents pornographiques, ou, pire, pédopornographiques ? Gageons que s'ils le faisaient pas, Le Point déplorerait le laxisme des pouvoirs publics envers les grandes plates-formes Internet et l'inaction de ces dernières…

Ainsi ces actions de Facebook sont la conséquence prévisible de demandes sociales, et non l'illustration d'une quelconque « prise de pouvoir par les algorithmes ». Ces demandes sociales sont la mise à disposition d'un service à la fois family-friendly et gratuit — d'où une censure low cost et ne s'embarrassant pas de subtilités. Mais, comme souvent dans les affaires politiques, on se plaint des conséquences de ce que l'on a réclamé !