A la recherche de Grothendieck, cerveau mathématicien (1/3)

« Expliquer les maths de Grothendieck en termes du langage quotidien ? Ça me semble difficile… » Michel Demazure, lui-même mathématicien et élève d’Alexandre Grothendieck dans les années 1960, sait de quoi il parle. « D’une part, il y a une histoire mathématique dans laquelle il s’inscrit totalement, de l’autre son approche est très personnelle et d’une certaine manière unique. Grothendieck a reconstruit la géométrie algébrique, mais il n’a jamais écrit une équation algébrique. Il ne regardait jamais un objet particulier, le cadre était plus important pour lui que les objets qui s’y trouvaient. Tous les matheux ont des objets en tête, mais il n’avait pas les mêmes que les autres… »

Grothendieck devant l'IHES de Bures-sur-Yvette © IHES

À quels objets songeait Alexandre Grothendieck, qui s’est retiré définitivement le 13 novembre, à 86 ans, après avoir vécu en ermite pendant vingt-cinq ans dans le village de Lasserre, sur les contreforts des Pyrénées ? Considéré par nombre de ses collègues comme le plus grand mathématicien du XX^e siècle, Grothendieck était déjà une légende quarante ans avant sa mort : dans les années 1970, on évoquait, à la fac de Jussieu, le génie des maths parti élever les chèvres… Mais si l’homme est relativement connu, son œuvre reste ignorée en dehors du milieu des spécialistes. Ce premier volet d’une série de trois articles est consacré aux mathématiques de Grothendieck, que l’on s’efforcera de présenter de manière aussi accessible que possible – même si l’entreprise s’apparente par moments à vouloir gravir l’Everest en tongs ! Un deuxième volet portera sur les prolongements des travaux de Grothendieck en physique, et un troisième sur sa biographie (voir aussi l'onglet Prolonger).

Notre mathématicien a mené l’essentiel de ses recherches entre 1956 et 1970, dans le domaine de la géométrie algébrique. Cette branche majeure et particulièrement ardue des mathématiques contemporaines prend ses racines il y a 2 500 ans dans les travaux de Pythagore, ou dans ceux de Diophante d’Alexandrie au III^e siècle. Elle se rattache à la théorie des nombres, qui a de tout temps fasciné les mathématiciens. Les outils conceptuels que Grothendieck a créés ont permis de résoudre l’une des plus anciennes énigmes des nombres, le dernier théorème de Fermat, énoncé sans preuve en 1637 et démontré par le Britannique Andrew Wiles en 1994. Ils ont approfondi des notions fondamentales comme celles d’espace et de point. Et ont réduit l’opposition entre le continu et le « discret » (le monde des objets séparés, comme la suite des nombres entiers). Ils ont aussi ouvert de nouvelles portes, notamment en logique et en physique théorique (voir le deuxième volet).

Avant de connaître la gloire scientifique, Alexandre Grothendieck a vécu les persécutions nazies et la pauvreté. Il est né en 1928 à Berlin, d’un père anarchiste, russe, juif et exilé politique, Sacha Schapiro, et d’une mère allemande, militante révolutionnaire, Hanka Grothendieck, dont il gardera le nom. À cinq ans, en 1933, il est abandonné par ses parents qui fuient l’Allemagne. Il les retrouve en France six ans plus tard. Son père meurt à Auschwitz en 1942. Le jeune Grothendieck grandit sous l’Occupation, élevé par sa mère, dans des conditions de vie précaires, avant de s’intégrer, à peine âgé de vingt ans, à la crème de la recherche mathématique française.

Page de titre du premier volume des "Eléments de géométrie algébrique" © Publications mathématiques de l'IHES

À trente ans, il est la star de l’Institut des hautes études scientifiques (IHES, fondé en 1958 à Bures-sur-Yvette) et rédige, avec l’aide de son aîné Jean Dieudonné, un traité de 1 800 pages, les Éléments de géométrie algébrique, tout en animant une série de séminaires d’anthologie. Quelle que soit sa singularité, Grothendieck a été fortement influencé par ses interactions avec d’autres mathématiciens, principalement Jean-Pierre Serre, à peine plus âgé que lui et qui l’a formé, et Jean Dieudonné, son indispensable « scribe ». Ses élèves Pierre Gabriel, Michel Demazure, Jean-Louis Verdier, Luc Illusie et Pierre Deligne ont joué un rôle très important dans la rédaction du contenu des séminaires.

En 1966, Grothendieck obtient la médaille Fields, la plus haute distinction en mathématiques (et refuse d’aller la recevoir à Moscou, où venait de se tenir le procès des dissidents Siniavski et Daniel). En 1970, il démissionne brutalement de l’IHES, abandonne la recherche – même s’il y reviendra épisodiquement – et se passionne pour l’écologie radicale. Ce qui a permis à José Bové de lancer, en une hyperbole peu mathématique, que « les zadistes à Sivens ou à Notre-Dame-des-Landes sont les enfants de Grothendieck ».

Pour revenir aux mathématiques, qu’est-ce que Grothendieck a apporté à sa discipline ? Pourquoi est-il considéré comme un génie ? « Son travail constitue la base de nombreux développements mathématiques actuels, dit Allyn Jackson, rédactrice en chef des Notices de l’AMS (American Mathematical Society). Il a développé un nouveau point de vue devenu ubiquitaire, au point que les gens l’assimilent et ne peuvent plus penser d’une autre façon. C’est un peu comme la découverte du zéro. C’est devenu un concept si naturel, comment a-t-on pu vivre sans lui ? »

À la louche, on peut estimer qu’environ la moitié des domaines actuels des mathématiques pures sont affectés par les travaux de Grothendieck : ses concepts sont utilisés en algèbre, en arithmétique, ou théorie des nombres, en topologie (la forme la plus générale de la géométrie), en logique. Ils ont aussi donné lieu à une série de recherches en physique mathématique et en théorie quantique des champs, notamment sous l’influence du mathématicien russe Yuri Manin.

Au-delà des généralités, que peut-on dire de ces recherches sans recourir à des notions incompréhensibles pour le non-spécialiste ? Yuri Manin, qui a connu Grothendieck à l’IHES et a travaillé dans le même domaine, déclare tout de go, dans un e-mail qu'il nous a envoyé : « Désolé, mais je ne crois pas que l’on puisse expliquer quoi que ce soit des idées de Grothendieck dans un langage compréhensible par des non-mathématiciens. » Passant outre cet avertissement, nous faisons appel aux lumières de Luc Illusie, qui a été proche de Grothendieck et connaît ses travaux sur le bout des doigts. Il nous livre cette explication : « Grothendieck est un magicien des foncteurs ; le foncteur était une notion très abstraite dont on ne savait rien faire, il lui a donné une substance géométrique. »

Grothendieck pendant un séminaire de géométrie algébrique, entre 1962 et 1964 © IHES

Formidable, mais qu’est-ce que c’est que le foncteur ? D’après le mathématicien Pierre Lochak (Institut mathématique de Jussieu), ce serait une sorte de camion de déménagement. Métaphoriquement, bien sûr. Le foncteur est une sorte de fonction mathématique, qui transporte une catégorie d’objets vers une autre, en respectant la structure des objets. Outre son sens usuel, le mot « catégorie » renvoie ici à une notion mathématique : il existe une théorie des catégories, qui permet de définir rigoureusement une classe d’objets possédant une structure précise. En fait, c’est en utilisant systématiquement le formalisme des catégories que Grothendieck a construit la plupart de ses notions.

Grothendieck se serait donc servi d’un camion de déménagement – métaphorique – pour reconstruire la géométrie algébrique. À ce stade, ne serait-il pas plus raisonnable de lâcher l’affaire et de s’intéresser plutôt à l’écologie radicale ou aux fromages de chèvre ? Oui mais voilà : « renoncer » ne fait pas partie du vocabulaire de Mediapart…

Essayons plutôt de prendre le problème par un autre bout. Puisque tous les spécialistes sont d’accord sur le fait que Grothendieck a révolutionné la géométrie algébrique, demandons-nous ce qu’est la géométrie algébrique. Son point de départ consiste à utiliser des outils de l’algèbre pour traiter des objets géométriques (et vice versa). On en trouve déjà des rudiments il y a 2 500 ans, chez Pythagore et ses disciples, qui font des calculs en construisant des figures. L’algèbre proprement dite n’apparaît qu’au IX^e siècle, avec les mathématiciens arabes et persans, qui introduisent la notion d’équation, soit une égalité entre deux expressions qui comportent dans leurs termes une grandeur inconnue, un « x ».

La géométrie algébrique « moderne » (pas encore celle d’aujourd’hui !) a été formalisée par Descartes, qui associe, à chaque point du plan, ses coordonnées. On utilise couramment le principe des coordonnées cartésiennes quand on consulte le plan d’une grande ville comme Paris (ou New York), sur lequel les rues sont repérées par une lettre et un chiffre. En mathématiques, les coordonnées cartésiennes sont deux nombres, qui permettent d’établir un lien entre des objets géométriques et des équations algébriques.

Prenez un compas, tracez un cercle de 5 centimètres de rayon : c’est de la géométrie. Écrivez x²+ y² = 5² = 25 : cette équation algébrique représente le cercle de rayon 5 ; les points dont les coordonnées x et y vérifient l’équation sont exactement les points du cercle ; on dit aussi que le cercle est le « lieu géométrique » de l’équation x² + y² = r².

À ce stade, l’affaire reste maîtrisable avec les connaissances d’un lycéen. Pas d’inquiétude, elle va rapidement se compliquer. D’abord, l’équation du cercle est quand même un peu trop simple, c’est un innocent polynôme du deuxième degré à deux inconnues. Le troisième degré est déjà plus intéressant. Il y a neuf siècles, le mathématicien persan Omar Khayyam (1048-1131) avait trouvé une méthode pour résoudre les équations de degré 3 en recherchant l’intersection d’un cercle et d’une parabole – autrement dit en prenant deux équations de degré 2. Khayyam faisait de la géométrie algébrique, et il inaugurait la notion de « variété » : une variété est le lieu géométrique, l’ensemble des solutions, non pas d’une, mais de plusieurs équations, d’un système.

Si l’on examine la chose en toute généralité, elle devient nettement plus complexe que l’astuce d’Omar Khayyam. Les équations peuvent être à base de polynômes d’un degré quelconque, aussi grand qu’on veut, et on peut en réunir autant qu’on veut. Cela fait une grande variété de variétés…

Ce n’est pas tout. Jusqu’ici, nous avons parlé des « solutions d’une équation », sans autre précision. Ainsi, dans l’exemple du cercle, il est sous-entendu que ses points font partie d’un classique plan cartésien et que les coordonnées peuvent prendre toute valeur parmi les nombres dits « réels », comme 2, ou 3/7, ou 1,718, ou √2 ou encore π… Ainsi défini, le cercle a une infinité de points, et ils forment un continuum : une fourmi imaginaire pourrait suivre la circonférence et faire un tour complet sans avoir à sauter.

Mais supposons qu’on impose une condition supplémentaire. Qu’on exige, par exemple, que les coordonnées des points soient des nombres entiers. Pourquoi exiger une chose pareille, direz-vous ? Tout simplement parce que les nombres entiers ont toujours eu un statut particulier, et que l’on s’est toujours posé des questions sur leurs propriétés profondes. Diophante, par exemple, s’intéressait à la manière de décomposer un nombre entier N en une somme de deux carrés. En termes algébriques, cela peut s’écrire N = x² + y². Supposons que N soit lui même le carré d’un entier, par exemple qu’il soit égal à 25 : on retrouve le cercle de tout à l’heure, et son équation x² + y² = 5². Mais cette fois, le cercle a beaucoup moins de points, parce que x et y doivent être des entiers. En fait, les seules solutions sont du type x = 0, y = 5 ou x = 3, y = 4 (3² + 4² = 9 + 16 = 25).

Un cas simple de cohomologie étudié par Grothendieck © DR

À quoi il faut ajouter les variantes obtenues en permutant x et y ou en leur donnant des signes négatifs. Au total, le « cercle » en nombres entiers n’a plus que douze points. Ce n’est plus un cercle, c’est un genre de cage sans barreaux. Et encore, si l’on avait pris 4 comme rayon au lieu de 5, il n’aurait eu que quatre points. Bref, la fourmi ne peut plus faire le tour sans sauter…

Diophante est l’un des premiers à s’être demandé comment traiter « algébriquement » les nombres entiers (cette interrogation existe déjà dans une certaine mesure chez les pythagoriciens). En son honneur, on a appelé « équations diophantiennes » les équations algébriques dans lesquelles les coefficients et les solutions sont des nombres entiers. Et c’est inspiré par Diophante que Fermat a formulé son célèbre théorème, d’après lequel l’équation aⁿ + bⁿ = cⁿ n’a pas de solution en nombres entiers pour aucun exposant n supérieur ou égal à 3. Il s’agit d’une pure équation diophantienne. Pour n = 2, l’équation est vérifiée, par exemple, par le triplet 3, 4 et 5, celui de notre cercle (voir ci-dessus).

Maintenant, faisons un grand saut dans la difficulté : nous n’avons considéré jusque-là que les solutions en nombres réels ou entiers. On aurait pu aussi examiner les fractions, ou nombres rationnels. Tout lycéen sait aussi qu’il existe des nombres dits complexes, formés avec une racine carrée de -1, notée i. Pour des raisons qui seraient trop longues à exposer, les mathématiciens ont été conduits « naturellement » (il y aurait beaucoup à dire sur le naturel mathématique) à inventer d’autres espèces de nombres aux noms plus ou moins pittoresques, comme les entiers modulo p, les nombres p-adiques, les quaternions, les corps de Galois, etc.

Or, la mathématique étant le pays de la liberté, il n’y a aucune raison de ne pas considérer les solutions d’une équation, ou d’un système d’équations, pour n’importe laquelle des espèces de nombres évoqués ci-dessus. Ce qui enrichit encore considérablement la variété des variétés…

Et c’est là qu’intervient Grothendieck. Rappelons-nous qu’une variété est un objet géométrique, qui représente les solutions d’un système d’équations. Mais il y a des cas où le système n’a pas de solution, de sorte que la variété correspondante n’a pas de points. On ne peut pas la dessiner comme une figure géométrique. Mais peut-on quand même l’étudier ? L’idée de Grothendieck est de généraliser la notion de variété, en passant par les propriétés algébriques, et en « ignorant» les points : « Grothendieck ne se préoccupe pas des points, il les oublie délibérément, explique le mathématicien français Jean-Michel Kantor. Son raisonnement revient à dire : même si j’ai une équation sans solution, je veux pouvoir étudier cet objet ; donc je vais rassembler toute une série de variétés, sans savoir s’il y a des points, et je vais construire un objet plus général, qui inclut tous les cas possibles. »

Cet objet plus général s’appelle un « schéma ». L’intérêt des schémas est qu’ils élargissent le cadre de l’algèbre, tout en conservant les propriétés les plus importantes. Les schémas permettent de traiter dans le même cadre le monde des nombres entiers et celui des grandeurs continues, répondant aux questions soulevées par Diophante il y a 1 800 ans. Ainsi, avec les schémas, notre cercle peut être étudié aussi bien en considérant les nombres entiers que les réels ou un autre type de nombres. « Avec la théorie des schémas, développée dans un traité d’environ 1 800 pages… Grothendieck a donné un cadre général englobant les deux points de vue, jetant un pont – longtemps rêvé – entre arithmétique et géométrie », écrit Luc Illusie dans un article pour le Cnrs.

Grothendieck n’est pas arrivé aux schémas par hasard. En fait, il s’intéressait à un ensemble de conjectures formulées dans les années 1940 par André Weil (frère aîné de la philosophe Simone Weil). Ces conjectures portaient sur les variétés, et revenaient à estimer le nombre de solutions d’une vaste catégorie d’équations diophantiennes. Elles faisaient ressurgir la vieille question du discret et du continu : « L’aspect fascinant de ces conjectures est qu’elle présupposent une fusion des deux pôles antinomiques du “discret” et du continu, du “fini” et de l’“infini”…, écrit le mathématicien Pierre Cartier, ami de Grothendieck, dans un texte à lire ici. André Weil a aperçu la Terre promise, mais il ne peut traverser la mer Rouge à pied sec à l’instar de Moïse, et il ne dispose pas du vaisseau adéquat. »

Séminaire de géométrie algébrique à l'IHES © IHES

Ce vaisseau, Grothendieck le fournit avec ses schémas. Il ne s’entendait pourtant guère avec Weil, même s’il a été influencé par lui. Jean-Pierre Serre a assuré la liaison, en montrant à Grothendieck comment les conjectures de Weil pouvaient entrer dans son programme de recherche. 

C’est avec le projet de résoudre les conjectures de Weil que Grothendieck a développé la théorie des schémas. Il faut ajouter que Grothendieck ne fera finalement qu’une partie du chemin : c’est son élève Pierre Deligne qui a achevé la démonstration des conjectures de Weil, en combinant les concepts de Grothendieck avec une méthode complètement différente (ce qui lui vaudra la médaille Fields en 1978).

Reste que la théorie des schémas de Grothendieck a bouclé une boucle amorcée par Pythagore et Diophante, et poursuivie par Descartes, Fermat, Weil et de nombreux autres. C’est en utilisant le formalisme des schémas – mais aussi d’autres aspects de l’arithmétique – qu’Andrew Wiles a pu démontrer le théorème de Fermat. « La démonstration de Wiles, ainsi qu’une étape préliminaire due à l’Allemand Gerd Faltings, n’auraient pu être pensées sans l’apport de Grothendieck, dit le mathématicien français Lucien Szpiro, qui a lui-même participé à ces recherches. Je pense qu’il était le plus grand génie mathématique de la seconde moitié du XX^e siècle. » Les schémas ont permis de développer une « géométrie arithmétique qui traite les objets de l’arithmétique comme des objets géométriques », résume Szpiro.

Si Grothendieck s’insère dans une longue histoire mathématique, on voit aussi que c’est lui qui a su trouver le concept adéquat, que de nombreux autres ont cherché avant lui. C’est sans doute là que réside l’essentiel de son originalité, de sa singularité : « Grothendieck cherchait le point de vue le plus général sur un thème, mais en un sens précis, dit Pierre Lochak. À propos d’un objet, il demande : avez-vous besoin de toutes les hypothèses ? Ou seulement d’une partie ? Sa manière de généraliser consiste à chercher des communautés d’opérations de l’esprit. C’est-à-dire qu’il rapproche deux choses lorsqu’il voit qu’il faut faire le même genre d’opération pour les manipuler. »

Dans un hommage qui devait être publié par la revue britannique Nature (mais elle l’a jugé trop « technical » pour ses lecteurs), David Mumford, professeur à l’université Harvard, qui a mené il y a un demi-siècle des recherches en relation avec celles de Grothendieck, définit ainsi l’originalité de son collègue : « Son style unique était d’éliminer toutes les hypothèses non indispensables et de creuser dans une zone si profondément que les structures internes au niveau le plus abstrait se révélaient – et ainsi, comme un magicien, il montrait comment la solution à de vieux problèmes tombait de manière simple une fois leur vraie nature dévoilée. »

Pour prendre une autre image, le principe de l’abstraction selon Grothendieck consiste à s’élever de plus en plus haut, en laissant de côté les détails, pour apercevoir un paysage de plus en plus vaste et en appréhender les relations à grande échelle. Quand cela fonctionne, on peut apercevoir la solution au problème, et la démonstration paraît presque miraculeuse. Pierre Deligne a raconté, dans un article pour la Société mathématique de France, son « effarement » en découvrant la méthode de Grothendieck en 1965 : « Rien ne semble se passer et pourtant, à la fin de l’exposé, un théorème clairement non trivial est là. »

Selon Pierre Cartier, Grothendieck était « persuadé que si l’on arrive à une vision unificatrice suffisante des mathématiques, à pénétrer suffisamment en profondeur l’essence mathématique et la stratégie des concepts, les problèmes particuliers ne sont plus qu’un test », et se résolvent, en quelque sorte, d’eux-mêmes. Pourtant, ce n’est pas ainsi que Pierre Deligne est venu à bout des conjectures de Weil : sa méthode est l’opposé de celle de son maître. Le rêve de Grothendieck était de construire une maison si vaste que toutes les créatures mathématiques y auraient trouvé refuge. Mais la réalité mathématique est rebelle et refuse de se laisser enfermer dans un système unique, si grandiose soit-il.

Prolonger : Retrouvez toutes nos informations complémentaires sur notre site complet www.mediapart.fr.

A lire aussi sur le blog de Tuxicoman : Cacher ses adresses mail, numéros de téléphone, etc… des spammeurs sur WordPress