Roger Penrose s'attaque à des questions débattues depuis la fin de la vie de Turing : peut-on concevoir une intelligence artificielle ? l'esprit humain peut-il se modéliser comme une machine calculatoire au sens de Turing ? À cette seconde question, il apporte une réponse négative. Je ne prétendrai pas retracer de mémoire son propos, mais voici à peu près son raisonnement :

  1. Si l'esprit humain est un processus calculatoire, il s'exprime dans un système formel. Or, un système formel ne peut prouver sa propre cohérence (théorème d'incomplétude de Gödel) ; le système formel ne peut transcender ses limites.

  2. Il y a des processus biologiques mal compris dans le cerveau humain.

  3. Ces processus ont certainement un rapport avec des phénomènes quantiques, notamment la projection de la fonction d'onde lors de l'observation (j'avoue qu'à ce point je ne suis plus très sûr de ce qu'il disait).

Une remarque préliminaire : la compréhension de chacun de ces sujets suppose un niveau d'études relativement élevé dans des domaines scientifiques différents et rarement étudiés de concert ; il me paraît probable que très peu de personnes dans l'assistance, peut-être aucune, n'aient eu les connaissances nécessaires pour jauger de la qualité des raisonnements de Roger Penrose sur ces trois points à la fois. Qui plus est, le point 2 fait appel à des recherches récentes, et les points 1 et 3 sont l'objet d'âpres débats de spécialistes. Je me contenterai donc de commenter le point 1, sur lequel j'ai quelques compétences.

La compréhension précise des théorèmes d'incomplétude de Gödel suppose des connaissances en logique formelle qu'il me semble impossible de rappeler dans le cadre d'un billet de blog qui se veut assez « grand public »; voyons en donc une version quelque peu informelle. Ceux qui chercheraient plus de détails pourront attendre un éventuel futur billet (non garanti) ou se reporter par exemple à l'ouvrage de Peter Smith, An introduction to Gödel's incompleteness theorems.

On a longtemps cherché à formaliser le raisonnement mathématique, c'est-à-dire à donner des règles précises dont l'enchaînement forme une démonstration mathématique ; on peut par exemple citer la tentative d'Euclide (troisième siècle avant notre ère) de donner des règles pour les démonstrations de géométrie. Étant donné un énoncé possible de théorème (« la somme de deux entiers impairs est paire », « les médianes d'un triangle se rejoignent en un point »), on va essayé de trouver une démonstration de cet énoncé dans le système de règles. Se posent alors deux questions :

  1. Ce système de règles est-il incohérent, autrement dit permet-il de prouver à la fois une chose et son contraire (contradiction) ? (On conçoit qu'un tel système ne soit pas très utile, quoi qu'il semble qu'il existe des logiques paraconsistantes où l'on arrive à faire quelque chose d'intéressant dans cette éventualité ; j'avoue ne rien y connaître.)

  2. Ce système de règles est-il complet, autrement dit permet-il de prouver tous les résultats « vrais » des problèmes que j'examine ?

Prenons un exemple. Jusqu'au XIXe siècle, on s'est posé beaucoup de questions sur des systèmes de règles, dérivés de l'œuvre d'Euclide, censés formaliser la géométrie plane, et notamment sur la règle dite « axiome des parallèles ». Certains pensaient que cette règle était superflue parce que les autres règles (ou axiomes) suffisaient pour démontrer tous les théorèmes de la géométrie plane, mais ils n'arrivaient pas à prouver cela. Finalement, on s'est aperçu que si on admettait non pas cet axiome, mais des axiomes contraires, on obtenait non pas la géométrie plane usuelle, mais d'autres géométries : la géométrie hyperbolique de Lobachevsky (difficile à décrire) et la géométrie elliptique de Riemann, laquelle décrit non pas ce qui se passe dans un plan, mais ce qui se passe à la surface d'une sphère (ce qui est d'ailleurs utile pour parler de géographie terrestre!). Le système d'axiomes sans celui des parallèles est donc incomplet, ce qui a beaucoup troublé les mathématiciens de l'époque.

Un système à la fois cohérent et complet permet de toujours conclure : pour tout énoncé possible, on aura une preuve soit de l'énoncé (il est alors « vrai ») soit de son contraire (il est alors « faux »). Moyennant quelques hypothèses raisonnables sur les axiomes (ils doivent être « récursivement énumérables »), on pourra même avoir une méthode automatique qui, au vu d'un énoncé, le décide en établissant s'il est démontrable ou de contraire démontrable. À l'inverse, un système incomplet laisse des énoncés que l'on ne peut pas prouver (et donc on ne peut pas non plus prouver l'inverse), qu'on dit « indécidables ».

On peut donner des systèmes d'axiomes à la fois cohérents et complets pour la géométrie plane, l'arithmétique sur les nombres réels (théorie des corps réels clos), l'arithmétique linéaire sur les nombres entiers (arithmétique de Presburger). En revanche, toute théorie permettant de parler des entiers (addition, multiplication, récursion etc.) ne pourra être à la fois cohérente et complète (1er résultat d'incomplétude).

L'arithmétique est chose très puissante. Une suite de caractères n'est jamais qu'une suite de nombres ; c'est ainsi que fonctionnent les ordinateurs pour faire du traitement de textes ! On pourra même rédiger un programme informatique qui, étant donnée une preuve rédigée dans les plus grands détails, dit si celle-ci est effectivement bien construite ou s'il y a une incongruité. On pourra même, grâce à divers artifices de codage arithmétique, rédiger une formule logique qui dit si ce programme répond « ok » ou « preuve erronée ». Au final, on pourra rédiger une formule qui dit « il n'existe pas de preuve de l'absurde à partir de ces axiomes ». Cette formule sera vraie (s'il existait une preuve de l'absurde à partir des axiomes de Peano, les entiers naturels n'existeraient pas tels que nous les pensons) mais improuvable à partir des axiomes en question (2e résultat d'incomplétude).

Tout système formel (et récursivement axiomatisable, mais souvent les gens qui évoquent Gödel oublient cette condition « technique ») dans lequel nous pouvons faire des mathématiques raisonnables est donc incomplet : si nous croyons en sa cohérence, nous ne pouvons pourtant pas l'utiliser pour prouver celle-ci.

C'est à partir de cela que Penrose déduit que l'esprit humain ne peut être un système de calcul au sens de Turing. Son raisonnement me semble être le suivant. L'esprit humain n'est pas contraint par le limites d'un système formel : il est capable de sortir de ce en quoi il croit (ses « axiomes ») pour adopter de nouvelles croyances. Donc, ce n'est pas un système formel, et donc il n'est pas simulable par un ordinateur.

J'avoue que je ne suis absolument pas convaincu par ce raisonnement. Sur un sujet aussi délicat, on pourrait attendre une argumentation soignée, des enchaînements logiques bien justifiés ; il m'a pourtant semblé que Roger Penrose assénait sa théorie comme découlant naturellement de la vérité mathématique incontestable que sont les théorèmes d'incomplétude de Gödel, en repoussant dédaigneusement les objections.

Il serait bien prétentieux de ma part de prétendre résumer les débats philosophiques sur cette question : l'esprit humain peut-il être simulé par un ordinateur (disons, une machine de Turing). Je me contenterai donc de proposer quelques objections qui me sont naturellement venues à l'esprit à l'encontre du raisonnement de Roger Penrose, sans bien entendu la moindre prétention d'originalité.

  1. Les raisonnements de type théorème de Gödel, arrêt des machines de Turing, etc., construisent (via une méthode que les mathématiciens appellent « argument diagonal ») des entiers de très grande taille. Est-ce que cela a du sens de se préoccuper d'entiers de taille arbitraire dans un univers fini ? (La même objection peut s'appliquer pour l'intérêt pratique de P vs NP : le raisonnement asymptotique est-il pertinent dans un univers fini?)

  2. On fait grand cas du fait que les systèmes formels cohérents (et récursivement axiomatisables) ne peuvent prouver leur propre cohérence. Imaginons un instant qu'un système prouve sa propre cohérence : soit nous croyons en cette preuve, mais pour cela nous supposons la cohérence du système, donc finalement ce que le système prouve ne nous avance pas plus ; soit nous ne croyons pas en la cohérence du système, et alors il nous importe fort peu qu'il prouve sa propre cohérence. En termes plus familiers, si une personne vous dit « je ne suis pas un menteur » : soit vous lui faisiez confiance et cette affirmation ne vous avance guère, soit vous ne lui faisiez pas confiance et alors pourquoi croiriez-vous cette affirmation véhémente ?

  3. On reproche aux systèmes formels cohérents de ne pas avoir de preuve de leur propre cohérence, bref de ne pas savoir prouver certains théorèmes vrais. Soit... mais le mathématicien humain n'a pas non plus de preuve de la cohérence de ses raisonnements informels, ni bien entendu de preuve formelle de la cohérence du système formel dans lequel on pourra traduire ses raisonnements. Il n'a pas de preuve, mais il y croit (ou alors il ne croit en rien, et prend cela pour un jeu formel qui lui permet de toucher un salaire, ce qui au final revient au même).

(Comme me disait récemment un étudiant, « en mathématiques : on fait de la théologie ». Il y a selon moi toutefois une différence. Il y a derrière la croyance des mathématiciens en l'axiomatique de Zermelo-Fraenkel une sorte de raisonnement inductif, pas au sens formel mais au sens classique : ça a marché jusqu'ici et, malgré les foules de mathématiciens et apparentés en activité, nous n'avons pas prouvé l'absurde. Donc on a une bonne raison de croire que ça marche tout court. C'est finalement très poppérien, comme raisonnement...)

  1. L'esprit humain ne raisonne pas formellement. On a cru, à une époque, que l' « intelligence artificielle », ce serait de savoir automatiquement raisonner logiquement, au moins dans des domaines restreints (par exemple, le jeu des échecs). On en est revenu... et on a d'ailleurs produit des systèmes informatiques qui battent les meilleurs joueurs d'échecs humains, mais sans manifester la moindre intelligence. L'intelligence humaine est malléable, informelle... et peut d'ailleurs produire des hésitations, des erreurs.

    Notons qu'il est possible de réaliser en machine des systèmes qui prennent des décisions sans qu'il y ait de raison claire pour les justifier : le système « apprend » sur des exemples et en déduit une multitude de paramètres qui font qu'il est capable de prendre des décisions semblables à celles qu'on lui a montrées en apprentissage, mais sans qu'il y ait une justification formelle de ces paramètres ou même une définition formelle de la propriété recherchée. Par exemple, on pourra apprendre à une machine à distinguer les visages féminins des visages masculins, simplement en lui montrant des exemples avec la réponse correcte, mais sans qu'il soit besoin de lui fournir une définition formelle d'être humain, d'homme, de femme, etc. Même si les calculs à bas niveau du système sont algorithmiques et expressibles dans un système formel, ils ne se connectent pas directement à des concepts exprimables sur les données sur lesquelles le système opère.

Ainsi, la façon dont Roger Penrose est passé rapidement d'un résultat mathématique (dont il a rappelé le caractère rigoureux) à des considérations philosophiques sur l'intelligence m'est apparue très hâtive, contestable, intellectuellement légère, voire, osons-le, intellectuellement malhonnête. Quand on fait un exposé grand public sur un sujet controversé, on doit avoir la décence de pointer du doigt les points contestables et même, soyons fou, mentionner les autres points de vue sans les accabler de dédain.

Mon malaise n'a fait ensuite que croître jusqu'à la fin de l'exposé. Certains sont impressionnés quand un conférencier parle de sujet « avancés », sautant de l'un à l'autre en assénant des conséquences philosophiques, sans laisser le temps à l'audience de s'interroger ; moi pas. Je me rappelle d'une visite au Musée du Quai Branly, où un guide-conférencier débitait un charabia psychanalytique et, devant la mine déconfite de la collègue qui m'accompagnait, lui a lancé un méprisant « ah, cela vous dépasse ? »... We were not amused. Je n'aime pas les arguments d'autorité, d'autant plus s'ils servent à balayer les objections à des spéculations douteuses.

J'ai ensuite discuté de tout cela avec des collègues. Voici les hypothèses qui ont été émises :

  1. Roger Penrose s'est rendu compte que pour avoir du succès en librairie, il faut parler de sujets qui font rêver (un peu comme les frères Bogdanov, qui parlent du visage de Dieu), et que pour assurer ce succès en librairie, il faut donner des conférences (voire passer à la télévision). Bref, il était en action marketing.

  2. Roger Penrose souffre d'un trouble courant chez les scientifiques vieillissants, à savoir résoudre une « grande question ». Les carrières scientifiques progressent par la publication de résultats sur des sujets ardus, techniques, spécialisés : on ne résout pas le problème de la Vie, de l'Univers, et du Reste, on donne un intervalle de confiance sur la masse d'une particule qui, dans un certain modèle, assure tel type d'interactions. C'est un peu frustrant : tandis qu'en même temps le moindre philosophe, le moindre romancier, voire le moindre acteur, peut donner son avis sur n'importe quoi, le scientifique devrait s'en tenir à des questions qui n'intéressent que la petite communauté à laquelle il appartient. Aussi, prenant de l'âge, il envisage de s'attaquer aux Vraies Questions : Dieu, l'Intelligence de l'homme, la Conscience, etc. C'est plus valorisant, et cela permet de passer dans les médias.

J'ignore ce qu'il en est. Toujours est-il que j'ai éprouvé un grand malaise de voir un scientifique réputé se parer de l'autorité de la science, et notamment de la mathématique, pour proposer des théories assez floues et contestables. Peut-être est-il plus clair dans ses ouvrages.