L' île mathématique

Introduction : l'île mathématique comme dérision sociale

S'interroger sur l'utilité - "à quoi ça sert" - et la pérennité des mathématiques, surtout celles que l'on qualifie de "pures", pourrait sembler hyper-actuel. Car à notre époque, affamée de visibilité sociale, de remise de pendule à l'heure, ces mathématiques ne seraient plus ni vraiment utiles, ni primordiales dans les enseignements du secondaire, ni indispensables au bon fonctionnement de la société, voire, en poussant cette idée à l'extrême, parfaitement remplaçables par des ordinateurs, comme l'a déclaré récemment, et sans ménagement, Claude Allègre, ex-ministre de l'Éducation et de la Recherche : "Les maths sont en train de se dévaluer, de manière quasi-inéluctable. Désormais, il y a des machines pour faire les calculs. Idem pour les constructions de courbes." Mais face au "séisme Allègre", face à ces propos, qui furent les fruits pervers d'une arlequinade gouvernementale savamment orchestrée, quelques mathématiciens professionnels se sont senti le devoir de réagir. D'aucuns ont plaidé pour une plus grande ouverture, une plus grande réceptivité au foisonnement technique, d'autres ont critiqué toute pensée réductionniste et dénoncé l'absurdité d'une demande sociale ignorante et inexpérimentée, ou ont défendu l'inventivité, la fécondité et l'excellence du conceptuel, même au niveau le plus abstrait, d'autres enfin ont montré les limites de la recherche finalisée, bref, face aux menaces qui pesaient sur leur communauté, quelques mathématiciens ont tenté de réagir avec quelques arguments philosophiques, et en se dotant d'une idéologie minimale.

Mais paradoxalement, le malaise provoqué par les déclarations ministérielles aura eu beaucoup moins d'impact dans les universités, orientées essentiellement vers la recherche, que dans les lycées et collèges, voués à l'enseignement des mathématiques élémentaires, et dont le personnel est plus largement syndiqué. Sur le fond, chacun sait que le cerveau et l'esprit des chercheurs dans les universités sont absolument irremplaçables, et qu'il n'y a pas d'alternative technologique sérieuse là-dessus - méga-ordinateurs ou pas. L'inquiétude des responsables de laboratoire s'est donc surtout focalisée sur l'attribution future des postes et des moyens de fonctionnement, qui sont vitaux pour la pérennité de la communauté. Car une nation qui peut se glorifier de posséder la troisième école mondiale en mathématiques, après les États-Unis et le Japon, aurait tort de céder trop facilement aux pressions "pragmatiques" du Marché et de sacrifier un tel "pôle d'excellence" sans résister.

Il faut dire que les mathématiques universitaires composent un monde très autonome, doté d'une richesse spirituelle extraordinaire, et traversé d'échanges intellectuels qui sont d'une vivacité sans égal, et où, par conséquent, les déclarations provocatrices, superficielles, lunatiques et sans fondement, même enflées par les media, incitent plutôt à une certaine indifférence. Pour être percutante, et pour "faire mal", la provocation doit toucher en plein coeur une vérité étouffée ou refoulée (par un individu, par une communauté). Or j'ajouterai que dans l'ensemble, les mathématiciens sont assez "philosophes" face aux problèmes de société, pour ne pas dire très détachés, peut-être un peu à cause d'une certaine distance vis-à-vis du politique, mais surtout à cause de leur engagement dans la recherche mathématique avec tout le souci qu'elle implique. En définitive, le navire continue à voguer, chacun s'affairant à son propre poste, du moussaillon au capitaine. L'insolence de l'affaire Sokal-Bricmont elle non plus n'avait pas réellement offensé les vrais travailleurs du concept, en philosophie.

Est-ce à dire que les mathématiciens, tels Vigny raillé par Sainte-Beuve, s'enferment trop facilement dans leur tour d'ivoire car il s'y trouvent très bien  ? À cette image d'Épinal de mathématiciens solitaires et déconnectés de la société, substituons une autre image, plus poétique et plus humoristique - un peu satirique, aussi -, qui est tirée des voyages de Gulliver.

Malgré ses pénibles expériences chez les nains de Lilliput et les géants de Brobignac, l'incorrigible Gulliver partira pour un troisième voyage, durant lequel, pris par les pirates, et abandonné ensuite dans un canot, il prendra pied sur une île très particulière, l'île mathématique. Gulliver est hissé par un système de poulies sur cette île, un grand corps opaque à base plate, lisse et brillante qui vogue dans les airs à une hauteur de cent toises environ au-dessus du rivage, qui ressemble à s'y méprendre au Mont Saint-Michel en dix fois plus étendu, et se dirige en direction de Lagado, la capitale terrestre du royaume de l'île. Là haut, il découvre des gens habillés de vêtements ornés d'images de soleil, de lune, et d'étoiles, et dont un oeil fixe le zénith, tandis que l'autre est tourné vers l'intérieur. Leurs têtes penchent toutes sur la droite ou sur la gauche. Au comble de l'étonnement, Gulliver remarque alors autour d'eux "de nombreux domestiques en livrée armés de vessies gonflées attachées comme un fléau au bout d'un bâton". Dans ces vessies, "il y a des pois secs ou des petits cailloux" et avec ces instruments curieux, dont Gulliver ne tarde pas à comprendre l'utilité, les domestiques "frappent de temps à autre la bouche ou l'oreille de ceux qui se trouvent près d'eux". Invité alors par les notables qui l'ont rencontré à se rendre dans la demeure royale, Gulliver observe dès son entrée que le Roi ne prête nulle attention à lui. Sa Majesté est en effet plongée dans un problème de mathématiques, et il faudra aux visiteurs attendre plus d'une heure avant que ce problème soit résolu... Enfin, lorsque le Roi a terminé, deux jeunes pages munis de ces vessies le frappent alors, l'un d'eux sur la bouche, et l'autre sur l'oreille droite, ce qui fait sursauter le Roi brusquement. Regardant vers Gulliver, le Roi se souvient de ce qu'on lui avait dit de cette arrivée, et prononce alors quelques paroles à l'adresse de l'étranger. "Aussitôt, un jeune homme à vessie vint près de moi", raconte Gulliver, "et me frappa gentiment l'oreille droite, mais je fis comprendre par signes que je n'avais pas besoin d'un tel instrument. Ce geste donna au roi et à la cour, je m'en aperçus par la suite, une mince opinion de mon intelligence."

La fiction donne ainsi l'image d'un royaume autarcique et d'une société d'amoureux égarés de mathématiques éthérées, de "professeurs Nimbus évaporés", voire même d'aimables "ayatollahs du savoir", et qui sont à ce point "dans la lune", qu'il faut les ramener à la réalité par un bruit de hochet... !

Pour contrebalancer la fantaisie de ces visions littéraires quelque peu caricaturales, pour corriger tous les stéréotypes qui circulent sur les mathématiques et qui contribuent, malheureusement, à renforcer les complexes des littéraires face aux sciences mathématiques, nous nous proposons dans cet article de produire une description à la fois didactique et anecdotique de la recherche en mathématiques, de formuler aussi quelques informations générales, et de les articuler autour des questions les plus simples que nous nous posons tous, comme par exemple : qu'est-ce que la recherche en mathématiques ? à quoi servent les mathématiques ? comment fonctionnent-t-elles ? comment vit-on quand on est mathématicien ? comment la recherche mathématique est-elle possible ? Les mathématiques ont elles une limite ? etc. Le lecteur mathématicien n'y apprendra pas grand chose, les exemples choisis étant très classiques, qu'il me pardonne ! Mais dans cet article qui n'a ainsi aucune prétention à l'originalité ni philosophique ni technique, on cherchera à offrir à l'homme lettré une présentation modeste, abordable, de ce qui constitue le monde des mathématiciens professionnels, et de quelques mythes que l'on s'y raconte. Afin d'en faciliter la lecture, les notes et les informations les plus techniques qui ne sont pas indispensables à la compréhension du texte, seront accessibles en cliquant sur des liens placés dans le cours du texte, à commencer par le titre et le nom de l'auteur...

Les mathématiques à l'école comme moyen de sélection : initiation obligée à la compétition intellectuelle

Hélas, l'image des mathématiques en France, pour le plus grand nombre, est globalemement négative. C'est le système éducatif qui en porte la lourde responsabilité, puisqu'il les utilise depuis longtemps, à la place du latin et du grec - maintenant disparus - comme moyen prééminent de sélection à l'école, et partant, comme mode direct d'exclusion, par exemple pour le passage en première scientifique, pour l'entrée dans une classe préparatoire, ou pour l'intégration d'une grande école scientifique. L'éducation utilise à ces fins élitistes les mathématiques, d'où le ressentiment, fort compréhensible, d'une part très importante de la société envers les mathématiques, ressentiment qui s'accompagne parfois d'une crainte sacrée pour un domaine prestigieux qui semble inaccessible. Mais en vérité, l'exigence de sélection provient, en amont, de la structuration de nos sociétés en sociétés de compétition "sauvage", à quelque niveau que ce soit (économie, sport, entreprises, universités, etc.). Peut-on remplacer les mathématiques par une autre matière comme moyen principal de sélection à l'école ? Possible... Car les mathématiques ne sont pas le seul moyen de sélection sociale ; de plus, à cause d'un discours gouvernemental dévalorisant, elles risquent elles aussi de tomber bientôt en désuétude, comme auparavant le latin et le grec. Quand on parle de mathématiques, le débat sur la sélection est incontournable, et c'est souvent un cercle vicieux. Mais en définitive, le vrai débat sur la compétition, qu'il faut bien distinguer de l'émulation, est un débat extrêmement difficile et profond, qu'on limite trop souvent par paresse de la pensée à un plan strictement idéologique ; un tel débat demeure malheureusement en marge sur un plan critique et philosophique universel ; il est quelque peu étouffé, passé sous silence, refoulé, mais cette question dépasse de loin les seules compétences des mathématiciens. Il serait souhaitable que cet ordre de questions ne porte pas atteinte à l'essence même des mathématiques.

Il y a en en effet France un génie mathématique de type cartésien, ancré dans nos esprits par une tradition classique, et qui imprège les grands esprits littéraires, un génie proprement français du raisonnement rigoureux, accompagné de l'impératif récurrent d'avoir, comme le disait Montaigne, la tête "bien faite". Dans les années 1950 à 1970, le cartésianisme initial a trouvé une postérité soudaine dans le structuralisme, en mathématiques (Hilbert, Bourbaki) et en sciences sociales (Levi-Strauss, Foucault). Une telle vitalité incite au respect. Aussi, ceux qui condamnent les mathématiques, ou ceux pour qui "La France ne peut plus se payer le luxe de produire du mathématicien pur" auraient tout intérêt à bien estimer d'abord l'immensité du monde mathématique et à apprendre à connaître, par des témoignages extérieurs, la richesse de ce monde qui semble véritablement indéfini quand on le contemple de l'intérieur. Tandis que le monde géographique est clairement borné et que la Terre est aujourd'hui quasi-explorée, cartographiée, photographiée sous tous ses aspects, le monde mathématique apparaît au contraire de plus en plus comme un territoire truffé de zones vierges, hérissé d'icebergs et de continents inexplorés, qu'il sera de de plus en plus difficile, pour des raisons techniques, ou métaphysiques, de conquérir. En mathématiques, la géographie virtuelle du possible est incommensurable à la géographie du connu.

Le point qui est extêmement important ici, en effet, c'est que la réalité mathématique, non seulement résiste, mais surtout qu'elle est source inépuisable d'information. Par exemple, Alain Connes, médaille Fields en 1984 et professeur au Collège de France, a beaucoup insisté pour que cette idée soit comprise, au moins intuitivement, par des non-mathématiciens : "C'est le côté inépuisable qui est crucial". "Je prétends que, ne serait-ce que dans les propriétés des entiers, il y a une quantité d'informations qui n'est pas de type fini, qui est irréductible à tout système de type fini ou même à tout système de type fini donné récursivement que l'on puisse imaginer". Ainsi, toutes les déclarations à l'emporte-pièce de l'ancien ministre de la Recherche et toutes les opinions superficielles sur les mathématiques s'écartent radicalement de la vérité. L'infini potentiel, celui qui est à notre mesure, se situe peut-être avant tout dans les mathématiques.

La compétition entre les chercheurs

La compétition à l'école - il s'agit bien sûr pour un élève doué d'avoir de meilleures notes que ses camarades - n'est en réalité qu'un phénomène banal d'initiation à la compétition sociale, et au-delà, pour ceux qui deviendront par exemple des mathématiciens, c'est une initiation à la compétition entre chercheurs d'un même domaine scientifique. Les universités et les communautés de spécialistes reproduisent à merveille un espace de rivalités propre aux adultes qui est analogue à celui de la classe pour les enfants (bons élèves, mauvais élèves, prix d'excellence, distinction honorifiques, médailles, le tout fondé très souvent sur l'opinions des "maîtres" et sur une réputation distillée par l'opinion du grand nombre). Le phénomène le plus nouveau par rapport à l'école, c'est la cristallisation des forces autour de groupes de recherche ou de laboratoires, voire de "collèges invisibles", et la naissance de rivalités entre équipes concurrentes qui concentrent et unissent des forces individuelles, y compris en mathématiques. Mais une telle structuration a globalement moins d'effets pervers que d'effets dynamisants, incitatifs et moteurs.

À ce sujet, le sociologue Bruno Latour a d'ailleurs défendu l'idée que la compétition dans les milieux scientifiques était, en moyenne, beaucoup plus sévère, beaucoup plus accentuée et beaucoup plus impitoyable que dans l'entreprise privée. Sans s'engager dans de telles considérations de sociologie des sciences, disons qu'en recherche, il faut sans cesse être meilleur que les autres sur des terrains virtuellement communs d'exploration, et d'ailleurs, très souvent, le travail du meilleur chercheur éclipse, voire annihile la valeur du travail des autres : cela n'aurait en effet pas de sens de faire publier parallèlement un très bon résultat et un résultat plus faible qui ont été découverts en même temps sur le même sujet. En toute rigueur, si vous voulez triompher d'un mathématicien, vous devez donc en triompher mathématiquement, par la démonstration ou par la réfutation, avec des armes mathématiques. De fait, la compétition est extrême entre les chercheurs.

Le génie mathématique

Car les mathématiques ont toujours exigé une absorption totale des forces de l'esprit. Tandis que la compétition économique et scientifique actuelle nous présente ses aspects plutôt étroits, tandis que l'isolement volontaire nous paraît aujourd'hui impensable, l'histoire nous remémore une autre image de la recherche en mathématiques, où les mythes vont bon train et se construisent facilement.

Gauss

À cet égard, l'exemple du mathématicien allemand Karl-Friedrich Gauss (1777-1855) est spectaculaire. Surnommé le prince des mathématiciens (Princeps mathematicorum), Gauss entrevit en 1792, à l'âge de quinze ans, la possibilité des géométries euclidiennes ; en 1796, à dix-neuf ans, il démontra qu'il était possible de construire à la règle et au compas un polygone régulier de 17 côtés, inscrit dans un cercle, alors que ce problème était considéré comme insoluble pour les polygones de plus de 5 côtés depuis l'antiquité ; en 1801, à vingt-quatre ans seulement, il publia un traité de Recherches arithmétiques (Disquisitiones arithmeticae), de plus de cinq cent pages, contenant une théorie des congruences de nombres entiers, une théorie des formes quadratiques, quatre (!) démonstrations de la loi de réciprocité quadratique, qui avait été démontrée de manière incomplète par Legendre, une théorie nouvelle sur les extensions de corps cyclotomiques, qui lui permit de généraliser considérablement son résultat de 1796 sur la division du cercle en dix-sept parties égales, et d'obtenir une condition nécessaire et suffisante pour qu'un polygone régulier à un nombre entier n de côté soit constructible à la règle et au compas, etc. En 1827, après plus de quinze ans de travail, Gauss publia ses recherches sur les surfaces (Disquisitiones circa generales superficies curvas, traité qui devait révolutionner la conception de la géométrie, grâce aux interprétations et aux travaux subséquents de Riemann (1826-1866) et d'Einstein (1879-1955).

De plus, la personnalité de Gauss et son choix de vie apparaissent habituellement très fascinants aux yeux des mathématiciens, et son expérience témoigne d'une possible autonomie complète de l'activité mathématique (cf. supra "l'île mathématique" de Swift). Gauss s'était en effet convaincu, à partir d'expérience vécues, qu'il n'aurait que peu de choses à apprendre à vouloir communiquer et à échanger avec les autres mathématiciens... Aussi préféra-t-il s'isoler presque complètement du champ des influences de l'activité mathématique de l'époque.

Galois

La personnalité du célèbre jeune mathématicien républicain Évariste Galois (1811-1832) offre un autre exemple qui témoigne à la fois de l'importance de l'autonomie absolue du génie mathématique et d'une exigence d'implication totale dans l'activité mathématique. En dépassant largement les travaux de ses aînés et quasi-contemporains Lagrange (1736-1813) et Legendre (1752-1833), Galois a résolu complètement le problème qui était central à l'aube du dix-neuvième siècle, à savoir la résolution des équations algébriques de degré supérieur à quatre, par une méthode originale et entièrement nouvelle, et a dégagé le concept mathématique très important de groupe mathématique qu'il trouva alors sur son chemin et qu'il inventa - le terme "groupe d'une équation algébrique" est en effet dû à Galois. La vie de Galois ressemble véritablement au passage d'une comète. Et cette vie exemplaire a contribué à ancrer dans les consciences le mythe du mathématicien génial, très précoce, très fort de caractère, complètement autonome dans ses lectures et dans ses recherches, disparu - hélas ! - prématurément, ayant surtout découvert un théorème très important, ou résolu une question très difficile ; ce jeune savant a été ignoré de ses contemporains, ses travaux ayant été exhumés de nombreuses années après sa mort. Mais sincèrement, la fulgurante épopée galoisienne est véritablement fascinante, et la réalité dépasse en la matière largement la fiction.

En février 1830, Galois remet à l'Académie des Sciences un mémoire sur les conditions pour qu'une équation soit soluble par radicaux, en vue de concourir pour le Grand Prix de Mathématiques. Au mois de de Juin 1830, il apprend la perte de son mémoire présenté à l'Académie : il était chez M. Fourier qui devait le lire, et, à la mort de ce savant, le mémoire a été perdu. Qu'à cela ne tienne ! Chassé de l'École Normale Supérieure durant la révolution de 1830, après avoir critiqué publiquement le directeur M. Guignaut dans la Gazette des Écoles, Galois se verra conseiller par Poisson de présenter à nouveau un mémoire à l'Institut en Janvier 1831. Entre-temps, il fut arrêté le 7 Mai 1831 à la suite d'un toast régicide qu'il avait porté, poignard à la main, lors du banquet républicain aux Vendanges de Bourgogne, puis il fut défendu dans le journal Globe et finalement acquitté le 15 Juin. Mais le 4 Juillet, Poisson présenta son rapport, négatif, dans lequel il mettait en doute son théorème central et déclarait ses raisonnements incompréhensibles. La rancoeur de Galois fut immense, et il se jeta à corps perdu dans la lutte politique, oubliant presque entièrement ses recherches mathématiques. Emprisonné par deux fois à partir du 14 Juillet 1831, il décèda le 30 Mai 1832 des suites des blessures causées par un absurde duel dû à une obscure querelle amoureuse entre hommes pour une "midinette". Galois s'était rendu au duel avec l'idée qu'il allait mourir et avait rédigé dans la nuit précédant le drame un testament mathématique fourmillant d'idées nouvelles que la postérité allait confirmer. On a beaucoup commenté l'importance des conceptions de Galois et rêvé sur ce qu'il aurait pu continuer à inventer s'il n'était pas mort si prématurément.

La part de rêve et d'intuition

En définitive, les aventures de Gauss et de Galois (et d'autres), qui sont exemplaires sur le plan historique, symbolisent une part d'idéalité et de rêve dans l'activité de tous les mathématiciens, chez qui on retrouve la stupéfiante précocité d'un Victor Hugo, d'un Arthur Rimbaud, cristallisant une rêverie qui oscille entre mythe et réalité. À l'époque de Fermat, on pouvait faire des mathématiques en amateur, par passion. Au dix-huitième siècle, on pouvait "faire des mathématiques par lettres". Au dix-neuvième siècle, on pouvait faire de l'algèbre et de la géométrie hors contexte axiomatique, hors contexte structural, avec des moyens intuitifs et heuristiques qui n'étaient pas ressaisis dans un langage aux apparences rigoureuses, bref en utilisant des méthodes à caractère "génétique" ou quasi-empiriques. Mais aujourd'hui, la virtuosité des jeunes chercheurs ne se déclare plus en moyenne avant l'âge de vingt-cinq ou de trente ans. Car aujourd'hui, il y a beaucoup à apprendre avant de commencer à chercher, aujourd'hui, les mathématiques se sont institutionnalisées et popularisées, elles se sont considérablement fortifiées, spécialisées et même raffinées à l'extrême sur le plan technique (qu'on songe à l'évolution hyper-abstraite de l'arithmétique depuis les it Disquisitiones arithmeticae de Gauss, déjà hautement techniques, et qui ont aujourd'hui près deux cent ans) et ainsi, des enjeux d'un type nouveau sont aussi apparus quant à la constitution d'un domaine que l'on peut désigner comme celui de la recherche en mathématiques. Mais c'est un domaine qui apparaît très mystérieux de l'extérieur et l'on se demande souvent pourquoi les mathématiques existent et comment elles peuvent exister pour ceux qui en font tous les jours.

Conditions de possibilité générales pour ce que l'on peut désigner comme la recherche en mathématiques

Trois conditions

(i) La première condition de possibilité de la recherche est primordiale : c'est qu'il existe des "problèmes ouverts" à résoudre et pour lesquels personne n'a idée de la solution, et plus généralement, qu'il existe des champs de "choses à faire", qu'il existe des objets à étudier, mais qui "résistent" fortement, qu'il reste à traiter des cas "difficiles", même si la vision de toutes ces possibilités laissées dans l'ombre demeure assez imprécise et vague, sauf peut-être pour les spécialistes, même si l'issue d'une recherche est très souvent imprévisible, même si personne, ni aucune institution ne peut prendre la responsabilité de dire que telle recherche donnera sûrement des résultats positifs. Cela peut paraître extrêmement banal, mais c'est un fait : en mathématiques, "il y a des choses à faire", "il y a du nouveau à chercher", et ces choses ne sont pas seulement de l'ordre de la répétition, de la duplication, de l'imitation, ou de l'application de mathématiques toutes faites au monde technologique et industriel.

(ii) La deuxième condition de possibilité de la recherche en mathématiques, c'est le rapport fondamental au monde physique et économique, comme univers d'inspiration, comme réservoir sans fin de problématiques. Il s'agit du rapport entre le monde abstrait et le monde concret, et de "l'efficacité déraisonnable"- et mystérieuse - des mathématiques dans le monde physique. Ce rapport est crucial pour le développement du monde abstrait. Le mathématicien français Joseph Fourier (1768-1830) avait défendu l'idée d'une fécondation réciproque double entre ces deux mondes : "toute question physique se ramène à une recherche d'analyse mathématique et la physique est un moyen assuré de former l'analyse mathématique elle-même".

(iii) La troisième condition de possibilité, pour la recherche en mathématiques, et la plus prosaïque, c'est l'attribution de moyens concrets de fonctionnement par les gouvernements, par les instances politiques : locaux, crédits, création de postes, voyages à l'étranger, renouvellements de contrats d'Unités Mixtes de Recherche, etc. Il y a environ 60 000 mathématiciens chercheurs "professionnels" dans le monde (universités, organismes de recherche, grandes entreprises, micro-informatique) et près de 6 000 en France.

Parmi les trois conditions de possibilité ainsi dégagées : l'ouverture intrinsèque des mathématiques, la fécondation par le monde physique, et l'attribution de moyens de fonctionnement, je choisirai de me limiter ici à l'exposé de quelques aspects simples et accessibles de la première. C'est en effet l'autonomie du questionnement mathématique qui reste le plus difficile à saisir de l'extérieur.

La présence de questions ouvertes

En effet, ce n'est que de l'intérieur que l'on peut vraiment apprendre à voir l'importance des questions ouvertes, leur articulation générale les unes avec les autres, leur interdépendance, leur réciprocité et les projets et les enjeux qu'elles représentent. On entend par question ouverte une question mathématique qu'il est possible de formuler à partir d'une connaissance théorique précise, qui semble intéressante en elle-même, mais dont personne ne connaît la réponse. Paradoxalement, ce qui rend les mathématiques possibles, leur ouverture intrinsèque, demeure éternellement ce qui est le plus difficile à voir... En effet, la spécialisation et le raffinement de l'activité sont devenus tels, que dans la plupart des domaines pour lesquels existe une très longue tradition, comme l'arithmétique ou la géométrie algébrique, il est presque impossible de voir de l'intérieur les questions ouvertes, à moins d'avoir reçu une formation très rigoureuse et très longue, à moins d'avoir consacré une grande partie de sa vie presque exclusivement à la recherche, et qui plus est, dans un domaine précis et restreint. Mais néanmoins, on peut donner, à partir d'exemples classiques, un petit aperçu sur l'ouverture propre aux mathématiques, grâce à quelques "questions-phare" qui sont faciles à exprimer, mais qui sont néanmoins restées ouvertes très longtemps, ou qui le sont encore.

Équations diophantiennes

Par exemple, l'arithmétique des équations diophantiennes recèle de nombreuses conjectures arithmétiques simples, faciles à exprimer, et presque "gratuites", mais qui sont la plupart très difficiles à résoudre. On appelle équation diophantienne la donnée d'un système d'équations polynomiales à coefficients entiers :

f₁(x₁,...,x_n)=0,...,f_r(x₁,...,x_n)=0

à résoudre en nombres entiers, x₁...x_n. De nombreux exemples peuvent être inventés. On sait depuis les travaux de J. Robinson, Yu. V. Matijasevic et d'autres (peu avant 1970) qu'il n'existe pas de procédure algorithmique universelle permettant de décider si une équation diophantienne possède des solutions en nombres entiers, ou n'en possède pas. Les équations diophantiennes les plus célèbres sont :

a La conjecture de Fermat : pour n>2, l'équation :

xⁿ+yⁿ=zⁿ

n'a pas de solution en nombres entiers positifs avec xyz différent de 0. Pour n=2, c'est l'équation de Pythagore, qui admet une infinité de solutions. Dans la première moitié du XVII^ième siècle, Pierre de Fermat avait prétendu être en possession d'une démonstration de cette assertion, au moins pour les cas n=3 et n=4. Le cas n=4 fut démontré noir sur blanc par Frénicle en 1676 en utilisant la méthode de descente infinie de Fermat. Le cas n=3, plus délicat, fut ébauché par Euler en 1774, puis précisé par Gauss. Legendre mit au point en 1823 le cas n=5 par méthode de montée infinie. Lamé en 1837 établit le cas n=7. Puis, vers 1850, Kummer vint rafler tous les exposants premiers inférieurs à 100, sauf 37, 59 et 67, et de nombreux autres au-delà. En 1893, Mirimanoff démontra le cas n=37. En 1968, le théorème de Fermat était démontré pour tous les nombres premiers jusqu'à 125 000 et d'autres au-delà. Mais ce n'est qu'en 1993-1995 que le mathématicien britannique Andrew Wiles obtint des résultats qui impliquaient le théorème pour tous les nombres n>3.

b. L'équation de Pell-Fermat :

x²-dy²=1

où l'on suppose d sans facteur carré, qui possède une infinité de solutions.

Par extension, on appelle aussi équation diophantienne exponentielle une équation dans laquelle les exposants figurent parmi les inconnues.

c. La plus fameuse de ce type est l'équation de Catalan :

x^m-yⁿ=1

à résoudre en entiers (x,y,m,n) au moins égaux à 1. Catalan (1814-1894) affirmait qu'elle n'admettrait pas d'autres solutions que 3²-2³=1. En 1976, R. Tijdeman a montré que l'équation de Catalan n'a qu'un nombre fini de solutions, et n'en avait aucune au-delà d'un certain rang, mais en donnant une borne véritablement colossale : il n'y a plus de solutions pour n^m > exp(exp(exp(250))). Après le résultat de Tidjeman, la vérification de la conjecture de Catalan était ainsi réduite à un nombre fini - mais très grand - de calculs. Malheureusement, cette borne se situe bien au-delà des limites de calcul - par vérification mécanique au cas par cas - que possèdent les plus puissants ordinateurs actuels ou futurs. Un vide énorme subsiste donc entre cette borne, et ce que l'on sait atteindre par une vérification mécanique de la conjecture de Catalan pour des entiers x,y,m,n bornés. Et ce vide constitue peut-être une figure originale et paradoxale - bien que transitoire - de l'infini potentiel : l'infini, ce ne serait pas l'infini illimité, ce serait un infini limité qui se situerait dans l'entre-deux entre le calcul accessible par ordinateur et ce qui est inaccessible à ce dernier, pour de simples raisons de taille physique indépassable, actuellement ou dans l'avenir.

Conclusion

Ainsi, il existe quelques questions ouvertes sur lesquelles des générations de chercheurs se sont acharnées avant qu'une solution complète et satisafaisante ne soit apportée. Certaines sont toujours ouvertes. Il faut dire que l'intérêt pour les questions arithmétiques n'est pas partagé par tous les mathématiciens. Vladimir I. Arnold n'écrivait-il pas, à propos du théorème de Fermat-Wiles : "Il est clair que non seulement cela ne provoque pas une grande admiration pour la mathématique, mais qu'au contraire cela suscite des doutes sur la nécessité de tels efforts (comparables à l'escalade de rochers difficiles) pour résoudre des problèmes exotiques dont on peut se demander à qui et à quoi ils vont servir." Heureusement, il existe des questions arithmétiques qui exigent de l'escalade de très haut niveau et que tout mathématicien reconnaîtra "utile au premier degré". Par exemple, la question la plus importante depuis près d'un siècle et demi, celle dont la réponse aurait le plus de retombées et de corollaires, non seulement en arithmétique, mais dans de nombreuses autres branches des mathématiques, est la conjecture dite de Riemann sur les zéros de la foncion zeta. Mais il existe plus généralement de nombreuses catégories de questions ouvertes, plus ou moins locales, particulières, techniques et spécialisées. En général, les domaines précis des mathématiques, comme l'algèbre différentielle, la topologie algébrique ou les équations aux dérivées partielles, sont tendus vers l'étude de multiples objets complexes que l'esprit interroge sans relâche. Il serait difficile d'en parler sans rentrer dans les détails, ce qui demande une formation spécifique à chacun de ces domaines, mais nous pouvons d'ores et déjà conclure que les mathématiciens s'immergent dans les questions ouvertes, que c'est ce qui rend leur activité possible et que leur travail "pour l'honneur de l'esprit humain" répond lui aussi à une demande sociale d'élévation de l'esprit.

Se maintenir disponible face à l'imprévisible et lui réserver une place de choix

La troisième condition de possibilité est la plus paradoxale - ce qui explique qu'il soit possible d'en jouer facilement comme le fit Claude Allègre qui souhaitait "brader" les mathématiques, et d'autres choses. Car les dispositifs institutionnels - universités, organismes de recherche, ministères - se trouvent confrontés à un problème apparemment insoluble : programmer l'inventivité, prévoir l'imprévisible, contraindre l'invention à être inventive. Le paradoxe est de taille..., c'est presque une aporie. Il s'agit de préserver un maintien de disponibilité face à la surrection de l'événement et de la découverte. Et l'installation dans la durée, dans l'indétermination, dans l'indécision et dans l'hésitation semble nécessaire. Sinon, la recherche, qui demande du temps, serait abandonnée avant d'être commencée. En définitive, il semble que la recherche soit redevable d'une confiance dans la puissance de construction à long terme qu'offrent le temps et la durée. Ainsi, le financement des institutions de recherche tient compte intrinsèquement de la durée. Et l'idéal serait de prendre sans cesse des dispositions nouvelles pour réanimer le sens de l'inventivité à long terme. Mais aucun argument philosophique, politique ou technocratique ne peut étayer la nécessité de cette disponibilité : on sait seulement que de telles dispositions, décidées à un niveau politique, sont favorables à la réussite scientifique. Le rôle de l'État et des institutions est bel et bien de garantir et promouvoir la possibilité et la mobilité de l'inventivité contre certaines forces puissantes (le marché, le profit à court terme, la rentabilité des capitaux) qui vont en sens inverse. On comprend alors rétrospectivement combien ont pu paraître ineptes et dégradants les propos de Claude Allègre, qui pouvaient être interprétés à juste titre comme une volonté de faire jouer ces forces puissantes contre les forces de l'esprit et de les faire jouer, sans mobile apparent, contre certains pôles d'excellence en France (littérature, mathématiques, physique des particules).

Le travail de réécriture, l'évaluation, la réception et l'acceptation d'un résultat par la communauté

Près de quatre-vingt dix pour-cent du temps de l'activité en mathématiques est consacré à réécrire des textes, des articles et des livres : réécriture de ses propres manuscrits, simplification et réécriture de théorèmes connus, réécriture de livres, ajouts de chapitres, réorganisation du plan d'un livre, etc. Par exemple, la rédaction de chacun des fascicules du célèbre traité Éléments de mathématique de Bourbaki se faisait en général en sept ou huit fois. Une première rédaction était confiée à l'un des membres de Bourbaki. Cette première version était alors lue à haute voix lors d'un congrès, comme test, elle était alors impitoyablement critiquée par les autres membres, et ensuite, la rédaction d'une deuxième version était confiée à un autre membre, plus ou moins choisi au hasard, jusqu'au prochain congrès... et ainsi de suite jusqu'à ce que le processus converge, parfois par lassitude, vers une septième ou huitième version unanimement acceptée et prête à la publication. C'est le choix d'une personne différente pour chaque rédaction successive et la lecture critique en commun qui ont fait la force du procédé d'écriture du groupe Bourbaki. L'intersubjectivité, gage de rigueur, est essentielle : elle offre des possibilités de reconstruction et d'amélioration sans égal. Dans la recherche mathématique contemporaine, la relecture et la réécriture occupent aussi une place centrale pour la stabilisation et la reconnaissance des résultats. Lorsqu'un chercheur a longtemps travaillé sur un sujet et obtenu des résultats qu'il juge satisfaisants, sans erreur et dignes d'être publiés, il soumet son manuscrit à une revue, à un journal, un peu comme un écrivain, célèbre ou inconnu, soumet un roman aux Éditions du Seuil. Dans ce dernier cas, un comité de rédaction examine, le plus souvent lors d'une réunion commune, la valeur du travail soumis. Mais chez les mathématiciens, la technicité du travail et la spécialisation, font que peu de gens peuvent lire les travaux soumis. D'où la nécessité de confier ce travail à des rapporteurs (referees, en anglais) spécialisés dans la même discipline, et qui sont le plus souvent des concurrents directs de la personne qui soumet son travail, ou des mathématiciens établis qui ont peu de temps à consacrer à une lecture très attentive du travail soumis et qui distribuent le travail à leurs élèves. Il faut savoir que l'examen précis d'un article peut demander plus de cinquante heures de travail. Il y a essentiellement deux règles de sélection : la première, facile à respecter, c'est que le travail puisse être jugé intéressant, digne de publication et fécond par la suite. Sur ce point, une opinion rapide peut être émise. La seconde, plus difficile à suivre, c'est que le travail en question soit juste, exempt de toute erreur, parfaitement prêt pour la publication. Alors il faut entrer dans le détail. C'est le cas lorsqu'un résultat important, comme la solution à la conjecture de Fermat, est annoncé. Si quelque chose de vraiment nouveau a été inventé sur le plan conceptuel, le délai d'attente peut devenir très long. Par exemple, le premier manuscrit de Galois (cf. supra), avait été égaré par Fourier. Poisson ne réussit pas à comprendre le second, long d'un quinzaine de pages seulement, et il écrivit un rapport négatif en Juillet 1831, au bout de... six mois ! En fin de compte, il fallut attendre le travail de Camille Jordan (1838-1922) dans son Traité des substitutions (1870), plus de trente ans plus tard, pour que l'ampleur des conceptions de Galois fût dévoilée. Si quelque chose de vraiment nouveau sur le plan technique a été inventé, le délai de vérification des détails techniques peut être aussi très long. Souvent, les rapporteurs mettent presque un an à "éplucher" un article. Car il leur faut lire seul et sans explications informelles un travail où tout a été compressé. Contrairement aux mémoires de mathématiques du dix-huitième et du dix-neuvième siècle, les écrits mathématiques contemporains sont en effet écrits dans un style ultra-compact, qui est le fruit de réécritures et de simplifications extrêmement nombreuses. En voici trois exemples.

a. En Juillet 1993, lors d'une conférence sur la théorie des nombres organisée par son ancien directeur de thèse John Coates, Andrew Wiles annonçat qu'il était en mesure de démontrer une partie importante de la conjecture de Shimura-Taniyama-Weil, partie qui suffirait pour établir la fameuse conjecture de Fermat. Tous les grands noms de la théorie des nombres étaient présents. Wiles était engagé depuis Mai 1993, date à laquelle il eut une idée qui permettait de débloquer une situation délicate, dans une course contre la montre pendant laquelle il rédigea un manuscrit de plus de deux cents pages, qu'il termina juste avant de prendre l'avion pour la conférence. Vint ensuite le moment de soumettre ce travail à la critique. Les deux cent pages furent donc envoyées à plusieurs chercheurs éminents dans le domaine de la théorie des nombres. Et Katz, amis de Wiles à Princeton, buta sur un problème à première vue anodin, mais que Wiles ne parvint pas à fixer. Parallèlement, de nombreux mathématiciens dans le monde étaient parvenus à la même conclusion. Alors la démonstration s'écroula comme un château de cartes. Le 4 décembre 1993, Wiles finit par annoncer publiquement que son manuscrit ne devait plus être distribué comme prépublication et qu'il espérait corriger l'erreur lors de son prochain cours à Princeton en février 1994. Mais ce n'est qu'en septembre 1994 que Wiles réussit à combler le trou laissé dans sa démonstration, en utilisant la théorie horizontale d'Iwasawa, qui lui était familière depuis sa thèse....

b. Il y a près de quarante ans, René Thom avait formulé une conjecture, dite conjecture du gradient, sur les tangentes à la trajectoire d'une courbe intégrale d'un champ de vecteurs à coefficients polynomiaux. Soit P(x)=P(x₁,...,x_n) un polynôme à n variables (ou une fonction analytique). On considère les trajectoires de l'équation différentielle d'ordre un :

où

est le gradient de P, et t réel. En supposant que la solution existe pour tout t positif, on démontre que la limite

existe toujours dans l'espace à n dimensions Rⁿ. Soit x₀ cette limite. Thom avait conjecturé que, de plus, la limite des sécantes :

existe toujours elle aussi. Cette conjecture constituait le dernier problème ouvert de la théorie classique des ensembles algébriques. Deux mathématiciens polonais, C. Kurdyka et T. Mostowski, ont annoncé en 1996 une solution à cette conjecture, dans un article touffu, de près de soixante pages, que très peu de spécialistes ont réussi à lire. Deux ans après, A. Parusinski s'est joint à ce travail, l'a lu, et l'a considérablement simplifié. Une nouvelle version, longue de dix-neuf pages de pages seulement, a alors circulé à partir de 1999, et paraîtra bientôt aux Annals of Mathematics.

c. Voici un troisième exemple très spectaculaire de réécriture d'un théorème mathématique. En 1916, le mathématicien allemand Bieberbach avait conjecturé que tous les coefficients a_n d'une fonction holomorphe

définie et univalente dans le disque unité :

satisfont l'inégalité :

et que cette inégalité est optimale. Près de mille articles avaient été publiés sur ce sujet jusqu'à ce qu'en 1984, le mathématicien américain Louis de Branges apporte une solution, qui est restée célèbre dans les annales. En Avril 1984, de Branges se rendit exprès à Leningrad, pour visiter les spécialistes russes de ce domaine qu'on appelle la théorie géométrique des fonctions de variable complexe, muni d'un manuscrit énorme de... trois cents quatre-vingt-cinq pages typographiées ! Dans ce projet de livre, de Branges élaborait toute une nouvelle théorie d'analyse fonctionnelle entièrement orientée vers une démonstration finale de la conjecture de Bieberbach dans le dernier chapitre. Il exposa sa preuve aux membre du séminaire de Leningrad, Emeljanov, Kamoskii, Kuz'mina, Milin, Goluzina et d'autres, qui avaient d'abord accueilli la nouvelle avec méfiance et circonspection, mais qui bientôt furent convaincus de la véracité de la preuve. Que firent-ils alors ? Eh bien, ils réécrivirent en cachette de nombreux passages de la preuve, en la traduisant dans leur langage et en essayant d'éviter tout recours à cette "théorie" nouvelle d'analyse fonctionnelle que De Branges avait bâtie. Tant et si bien qu'à la fin du séjour de De Branges, ils lui proposèrent avec insistance de publier seulement une version résumée de cette preuve dans le langage classique qu'ils utilisaient. Il fallut convaincre de Branges, qui refusa d'abord de jeter tout son livre aux oubliettes, mais il finit par être convaincu de l'intérêt de publier une preuve courte et élégante, que les Russes avaient considérablement simplifiée, et ils décidèrent d'un commun accord de faire un preprint à Leningrad, qui fut publié ensuite dans le journal suédois, Acta Mathematica. En définitive, les concurrents directs de de Branges, ses interlocuteurs principaux, l'ont ni plus ni moins forcé à réécrire son théorème avant qu'il ne soit publié !

Épilogue

Ces trois derniers exemples montrent parfaitement l'importance des interactions, des échanges, de l'intersubjectivité et de la réécriture dans la recherche mathématique contemporaine : jeu de renvois spéculaires entre la production d'un résultat et sa réception par la communauté scientifique. Ces pratiques sont aussi un travail collectif, et la stabilisation des résultats se construit lentement dans le temps, car le temps de la recherche est très extensible. À cause des simplifications et de la réécriture, le délai entre une découverte et sa publication peut parfois dépasser cinq ans (Section 7 b supra). Et les communautés de spécialistes, ces "îles mathématiques" autonomes, qui sont multiples et nombreuses, ont elles aussi comme d'autres communautés une vie propre, ce sont des "collèges insulaires" dans l'immensité du monde mathématique, des collèges qui s'ouvrent sur le possible par certaines lucarnes vitales dont seuls les spécialistes reçoivent l'infime lumière qui leur permet de progresser. Par exemple, la théorie des nombres est organisée comme un grand archipel, comprenant les îles dans lesquelles Wiles et ses collaborateurs évoluent (Section 7 a). De même, l'étude des propriétés métriques, différentielles et topologiques des ensembles algébriques ou sous-analytiques est une autre "île mathématique", dont les habitants vivent notamment en France, en Pologne, aux États-Unis (Section 7 a), etc. On ne peut donc que louer l'ingéniosité de Swift, qui regroupait tous les mathématiciens sur une île quasi-céleste mise en lévitation sur le monde, à ceci près qu'aujourd'hui, plusieurs îles, liées par des fils plus ou moins ténus, voguent en apesanteur, pareilles à de véritables archipels dans un océan d'inconnu.

Mais dans cette structure en archipel, où certaines îles naissent brusquement comme des volcans en mer, et d'autres ne cessent de s'enrichir par le travail patient de leurs habitants, il devient difficile pour une seule conscience de continuer à saisir l'unité des mathématiques, qui demeure pourtant essentielle. Et on s'entretient beaucoup, entre mathématiciens, sur les effets limitants de la "compartimentation" entre les domaines de recherche, car l'histoire a montré que de grandes idées naissent souvent d'un rapprochement théorique fécond entre deux ordres indépendants de pensée, par exemple entre l'algèbre et la géométrie depuis le livre fondateur La Géométrie de Descartes (Leyde, 1637), puis dans un mémoire de Dedekind-Weber (1882) reconstituant algébriquement la théorie des surfaces de Riemann, et dans les Éléments de géométrie algébrique de Dieudonné-Grothendieck (1960-70), etc. En définitive, le monde mathématique est très vaste, il ne cesse de s'étendre. Mais le plus important dans ce monde, c'est la présence et l'existence de questions ouvertes, inscrites dans le temps de la recherche (historique, collectif et individuel) et dont on ne perçoit l'ampleur et tout l'éveil qu'elles suscitent que de l'intérieur. Finalement, la nostalgie que l'on a d'une époque révolue où pouvaient exister des hommes de science universels ressemble à un aveu d'impuissance : aujourd'hui, il devient de plus en plus impossible à une conscience de s'installer dans un intérieur encyclopédique lui permettant de voir l'unité des mathématiques, et donc de voir ce qui manque à cette unité, c'est-à-dire l'ouverture de l'unité et toutes les possibilités inexplorées de rapprochement qui en découlent.

Enfin, on aurait pu parler plus longuement de la nécessité pour un chercheur de s'isoler et d'accepter la souffrance, l'échec, l'inquiétude, et le fait de "sécher" longtemps sur une question. Tous ces éléments d'incertitude entrent pour une part importante dans la vie d'un mathématicien. À ce sujet, l'académicienne Michèle Vergne déclare que l'insatisfaction et l'exigence l'ont toujours forcée à continuer : "Comprendre quelque chose de nouveau est un intense bonheur. Je voudrais aussi mentionner les longues périodes de vide, où mon jugement sur mes capacités se fait sévère. Cette alternance douloureuse entre satisfaction éphémère et doute total m'a toujours forcée à travailler."