Quelle différence y a-t-il entre l’enseignement et la recherche en mathématiques ? Bien évidemment, il y a une différence de degré d’abstraction et de technicité entre l’enseignement, a fortiori secondaire, et la recherche. Je pense toutefois que la différence la plus importante est que lorsque l’on est élève, on sait ce que l’on doit faire, alors qu’en recherche, non.

Lorsqu’un·e enseignant·e pose un problème de mathématiques, il ou elle a en tête une façon de le résoudre en n’utilisant que les connaissances que l’étudiant·e est censé·e avoir à ce moment, et la décompose en étapes telles que chacune soit faisable sans trop de questionnements. C’est ce qui permet de poser en travaux dirigés, voire en examen, ce qui a jadis été une question de recherche. Par exemple, j’ai une feuille de travaux dirigés presque faisable en deux heures pour de bons étudiants où l’on démontre le théorème de complétude de la logique du premier ordre, lequel constituait pourtant la thèse de doctorat du célébrissime logicien Kurt Gödel.

À l’opposé, en recherche (à tout niveau), on ne sait en général pas si le résultat que l’on compte prouver est vrai, puisque c’est la démonstration que l’on cherche qui établirait cette vérité (il arrive toutefois que l’on cherche à redémontrer un théorème par une autre méthode, ce qui peut être instructif). Bien entendu, on ne va pas à l’aveuglette, on est guidé par des indices : par exemple, si des calculs numériques (approximés) semblent indiquer qu’une quantité est nulle, il est raisonnable d’essayer de le démontrer. Il est cependant périlleux de conclure que parce qu’une chose semble vraie elle l’est forcément, et plusieurs conjectures qui semblaient raisonnables ont été par la suite démontrées fausses.

Plus profondément, le mathématicien en recherche non seulement ne sait pas si le résultat qu’il cherche à démontrer est vrai ou faux, mais doit en premier lieu poser les bonnes questions, les bonnes définitions. Il ne s’agit donc pas simplement de réaliser un « tour de force » en démontrant un résultat, mais surtout de construire un édifice conceptuel (que l’on nomme souvent théorie : théorie des distributions de Laurent Schwartz, théorie de Ramsey, etc.). Pour ma part, je n’en suis pas là : je démontre modestement des petits résultats.

Quelques exemples de ce phénomène en action. Il y a quelques années, je m’étais demandé si la raison pour laquelle on avait proposé tant de méthodes partielles pour inférer ce que l’on appelle des invariants inductifs polyédraux n’était pas qu’il ne peut exister de méthode algorithmique totale. Ce problème traînait dans mon esprit. J’ai démontré un résultat plus faible que celui que j’aurais voulu ; mais peut-être est-ce que parce que le résultat plus fort serait faux ? Je n’en sais rien ! J’ai interrogé des collègues (Olivier m’a dit de demander à Joël, Joël m’a dit de demander à Olivier, etc.) ; personne ne savait comment prendre la question. De guerre lasse, plusieurs années plus tard, j’ai fini par publier mon résultat trop faible à mon goût.

Actuellement, Valentin Touzeau, doctorant, et moi-même tentons de démontrer des résultats sur la complexité de certains problèmes, c’est-à-dire leur degré de difficulté lorsqu’il s’agit de les résoudre par un algorithme (je simplifie). Avant de nous lancer là-dedans, nous ne savions pas quels résultats nous pourrions prouver (si ce n’est quelques bornes larges et évidentes pour qui connaît ce genre de questions). J’ai pu prouver qu’un des problèmes en question est NP-complet (c’est une des classes de complexité), et Valentin me dit qu’il a une idée pour montrer qu’un autre de ces problèmes est PSPACE-complet (c’est une autre classe). Je suis très excité par cette perspective, mais je reste prudent : nous ne devons pas crier victoire tant que nous n’avons pas une preuve rédigée au propre !

Si je suis excité, c’est parce que le résultat ainsi démontré correspondrait à une intuition souvent citée par les gens qui proposent des algorithmes pour résoudre partiellement les problèmes en question pour expliquer pourquoi le second est plus difficile que le premier. Mais je n'en sais toujours rien.