Dire le monde avec les mathématiques

Je me permets de citer Hervé Queffélec pour illustrer la difficulté à tenir un discours vulgarisateur sur les mathématiques : il « souffre souvent de ne rien comprendre, ou presque, aux articles [​…] présentant un résultat important. Et il mettrait plutôt un point d’honneur à être ici compréhensible au lieu d’incompréhensible, malgré la technicité du sujet abordé […] L’enfer est pavé de bonnes intentions… et la haute technicité de l’article discuté ici […] ne se prête pas idéalement à un développement simple et lumineux. Il s’agit plutôt d’un tour de force; et on ne pourra pas complètement éviter d’être à la fois un peu vague et trop spécifique³. »

Les dispositifs de popularisation des mathématiques véhiculent souvent une image de leurs acteur·rices comme des athlètes de haut niveau, qui se posent des défis qu’ell·eux seul·es peuvent comprendre et dont ell·eux seul·es peuvent prendre la mesure (une étude de corpus comme celui des articles de David Larousserie dans Le Monde⁴ ou celui des billets du site https://images.math.cnrs.fr/⁵ reste à mener).

En fait, l’interaction entre journalistes et mathématicien·nes tend à produit une image réductrice qui véhicule l’inaccessibilité des mathématiques : les seconds cherchent à adapter leur discours aux premiers, ce qui les mène à se focaliser sur des faits et constats accessibles mais à l’écart de leurs préoccupations.

L’institution mathématique se structure en cohérence avec l’enseignement des mathématiques et la sélection qu’il opère, produisant au passage des impressions durables (dont les émotions d’échec et de réussite de l’élève sujet·te à l’évaluation). Ces impressions sont souvent celles d’une science incompréhensible et incommunicable, voire initiatique. L’enseignement fait l’impasse sur l’objet de cette science, son lieu, son temps, et aussi sur les raisons pour lesquelles les citoyens devraient s’intéresser aux mathématiques. Le discours tenu souligne plutôt une certaine esthétique de l’ordre : les structures qu’elles introduisent, les diagrammes tracés et les transformations envisagées, les classifications opérées.

À partir de ces constats, il me semble désirable de mieux comprendre l’attitude adoptée par les mathématicien·nes et leur public vis-à-vis de cette institution.

Voici un premier jet de verbes qui visent des aspects du travail mathématique : discuter, expliquer, lire, rédiger, relire, corriger, incorporer, comprendre, commenter, proposer, distinguer, organiser, réorganiser, réfléchir, reconnaitre, aviser, concevoir.

Cette liste de verbes capte-t-elle une spécificité du métier de mathématicien·ne ? Quelle serait cette liste pour le métier d’écrivain ? Je perçois qu’ils ont en commun d’explorer un monde en sélectionnant des faits, en s’attachant à certains d’entre eux qui leur semblent exemplaires, en les présentant d’une manière cohérente.

Les mathématicien·nes mettent autant l’accent sur ce travail primaire de création que sur le travail secondaire de lecture et d’écoute des travaux des autres pour s’orienter dans un monde qui est ainsi créé collectivement. Les mathématiques sont à l’œuvre dans ce travail primaire et secondaire.

On peut opérer une distinction horizontale de trois types de travail :

1. le travail conceptuel qui consiste à forger des concepts à même de donner une forme aux faits qu’on observe;
2. le travail définitionnel qui consiste à observer et à circonscrire des propriétés saillantes de ces concepts;
3. le travail démonstratif qui consiste à imaginer ce qui pourrait être vrai en le mettant à l’épreuve et en essayant de démontrer que c’est le cas en construisant des argumentations : c’est un travail de logique au sens où on réfléchit à la manière dont les faits se combinent.

Ces trois formes de travail s’enchevêtrent et avancent de concert, chacune demandant le concours des deux autres; elles sont classées ici de la plus lente à la plus rapide dans le développement des mathématiques.

On peut aussi opérer une distinction verticale de quatre types de travail :

1. la recherche (le travail décrit jusqu’ici en propre);
2. la présentation des résultats de la recherche aux collègues;
3. la rédaction de ces résultats (noter cependant qu’à des degrés variables, la forme écrite est comme une sédimentation qui introduit un décalage avec le contenu des échanges oraux, c’est-à-dire que ce n’est qu’une trace de l’entreprise de recherche, ce n’est que le trésor dans lequel on expose les plus beaux accomplissements sans que l’art qui a permis de les réaliser soit réellement dévoilé);
4. la transmission de ces résultats dans le cadre de la formations des étudiants.

Un premier exemple de non-dit mathématique est le non-dit ontologique dans la géométrie du premier livre des Éléments d’Euclide⁶. Il y introduit les points, les lignes, les figures, les surfaces, les angles, sans aucun discours sur la constitution de la matière, alors que les écrits de l’Antiquité regorgent de réflexions sur la continuité ou au contraire sur l’existence d’indivisibles (voir Aristote⁷).

La découverte de grandeurs incommensurables comme le sont la diagonale d’un carré et son côté (c’est-à-dire l’hypoténuse d’un triangle rectangle isocèle et sa cathète) conduit à l’impossibilité de définir leur rapport à l’aide des nombres entiers et oblige les mathématicien·nes grec·ques à considérer les grandeurs géométriques comme irréductibles aux nombres. On peut considérer tout le traité comme une réponse étincelante à la question « comment faire de la géométrie sans savoir de quoi les grandeurs géométriques sont faites ? », mais cette question n’est jamais explicitée. Et pourtant, elle peut être considérée comme le cœur brulant de toute la géométrie, et le traité, à défaut d’accéder à la vérité des grandeurs géométriques, propose un discours vraisemblable; elle en est la raison et « le cœur a ses raisons que la raison ne connait point » (Pascal⁸). Ce non-dit collectif est une motivation essentielle du traité et il explique sa démarche.

Notons que dans les sciences, les réponses prennent souvent le dessus sur les questions, comme le montre exemplairement le traitement scolaire du paradoxe de l’Achille attribué à Zénon d’Élée, dans lequel la possibilité du mouvement est affirmée doctement comme une conséquence de la définition de la somme de la suite des distances parcourues par le poursuivi (la tortue) et le poursuivant (Achille), accompagnée de la démonstration de leur convergence⁹.

Comme David Rabouin le relève dans Mathesis universalis : l’idée de « mathématique universelle » d’Aristote à Descartes¹⁰ (pages 187-191) au sujet du second prologue du Commentaire sur le premier livre des Éléments d’Euclide de Proclus, l’imagination des mathématicien·nes a besoin d’un réservoir d’opacité dans lequel leur recherche puise comme dans un gisement dont ils extrairaient le pétrole (et on pourrait filer la métaphore en décrivant le travail de recherche comme une raffinerie). C’est le sensible chez Proclus, ce sont les illimités chez Philolaos, ce sont les fonctions dans la théorie des types de Martin-Löf.

Herbert Mehrtens étudie dans Moderne – Sprache – Mathematik: eine Geschichte des Streits um die Grundlagen der Disziplin und des Subjekts formaler Systeme¹¹ l’attrait de Paul Mongré [Felix Hausdorff] pour la philosophie de l’éternel retour de Friedrich Nietzsche, en particulier dans son œuvre Das Chaos in kosmischer Auslese : ein erkenntniskritischer Versuch¹². Elle fait du désordre insondable du concept d’ensemble le réservoir d’opacité pour la théorie des ensembles que les deux éditions de sa Mengenlehre (1914, 1927¹³) ont placé durablement au centre des mathématiques.

On peut voir les mathématiques à l’œuvre selon le couple dialectique de l’ordre et du désordre : ordonnatrices, elles sont à l’affut du désordre résiduel qu’il s’agit d’expliquer et qui motive la poursuite de la recherche. Le désordre de l’ensemble des égalités numériques qu’on peut écrire à l’aide d’additions et de multiplications, comme

le désordre des sous-ensembles de l’ensemble des entiers naturels (l’argument diagonal de Cantor produit un sous-ensemble inédit à partir de toute suite donnée de sous-ensembles¹⁴); le désordre des fonctions (le concept de fonction comme correspondance arbitraire élaboré par Dirichlet et Lobatchevski a été une étape importante dans l’émancipation des mathématiques par rapport à la physique¹⁵ et a donné lieu à une tératologie de fonctions pathologiques¹⁶); la profusion des contre-exemples.

Le non-dit reste présent dans les mathématiques, les réflexions sur la constitution des choses y sont rémanentes, mais leur développement les mène à être structurelles et à s’exprimer seulement sur les liens entre les choses. Ce faisant, elles répondent aussi à un besoin d’efficacité qui passe par le refus des abimes du doute et de la signification évoqués par Robert Musil dans son essai L’Homme mathématique¹⁷.

Voici comment la déesse s’adresse à Parménide dans son poème.

Apprends donc toutes choses,
Et aussi bien le cœur exempt de tremblement
Propre à la vérité bellement circulaire,
Que les opinions des mortels, dans lesquelles
Il n’est rien qui soit vrai ni digne de crédit;
Mais cependant aussi j’aurai soin de t’apprendre
Comment il conviendrait que soient, quant à leur être,
En toute vraisemblance, lesdites opinions,
Qui toutes vont passant toujours.

Le discours de vraisemblance promet une stabilité qui fait office d’ancrage et de repos des mathématiques en elles-mêmes. L’efficacité de la théorie du réel qu’elles fournissent se lit dans la limpidité des démonstrations qu’elles recueillent.

Ces deux questions vont dans des directions opposées sans pour autant mettre en jeu le couple de contraires de l’invention et de la découverte des concepts mathématiques, qui peuvent très bien s’accommoder de chacune. En effet, ce qu’on découvre peut être de l’ordre du ressouvenir (Proclus¹⁸), du synthétique à priori (Kant), des structures mêmes de notre cerveau (Jean-Louis Krivine¹⁹); ce qu’on invente peut être un outillage qui nous permet de réfléchir sur ces ancres et d’en jeter d’autres.

Mais on peut reformuler cette opposition ainsi : les mathématiques sont-elles à domicile dans ce monde ou hors de ce monde ? Le hors-sol renvoie aussi au paradis de Cantor évoqué par David Hilbert²⁰, dans lequel on tutoie l’infini en s’arrogeant des pouvoirs divins, qualifiés de principe d’omniscience par Errett Bishop²¹ : ceux d’opérer d’un coup une infinité de choix, de concevoir les faits mathématiques comme étalés devant nous hors du temps et selon une infinie précision, indépendamment de la connaissance que nous en avons. Bishop soutient au contraire que le sens émerge des expériences que nous pouvons réellement mener, c’est-à-dire des constructions.

Une réponse affirmative à la première question mène au constat enveloppé de mystère de la déraisonnable efficacité des mathématiques (voir le texte de Wigner²²) : on s’étonne alors de leur applicabilité à la description de la nature en oubliant qu’elles ont été élaborées elles-mêmes à partir de l’observation de la nature. Une réponse affirmative à la seconde question permet à Guy Wallet²³ de lever ce mystère de manière frontale.

Voici la réponse que j’adopte : les mathématiques observent comment notre entendement s’adapte à notre environnement, comment il crée des artéfacts pour faire sens de ce qui a lieu autour de lui : la répétition, la causalité, les faits, le mouvement. Nos expériences vécues sont la base de « métaphores conceptuelles » (George Lakoff et Mark Johnson²⁴).

Comme Galilée²⁵, je crois que le rapport entre les sphères matérielles et les sphères mathématiques n’oppose pas un objet physique à un objet idéal, mais que cette opposition peut être pensée complètement à l’intérieur des mathématiques comme une tare qu’on défalque de l’objet physique pour obtenir l’objet idéal, et que l’on peut tenir compte de cette tare dans tous les théorèmes qui traitent de l’objet idéal pour les appliquer à l’objet physique.

Comme les arts, les mathématiques changent notre manière de regarder. C’est l’effet profond de l’art sur notre vie, qui donne à l’esthétique toute son ampleur. Les mots un, deux, variable, fonction, convergence, égalité, paramètre inondent notre manière de penser, et ce d’autant plus profondément que le concept est élémentaire (voir les motifs psychanalytiques évoqués dans Moderne – Sprache – Mathematik).

Dans ce rôle, les mathématiques se distinguent des sciences naturelles et physiques (c’est-à-dire des sciences au sens anglais du terme). Leur analyse ne repose pas sur des substances et des matières : elles ne parlent pas de cellules, de roches, de forces, mais des concepts qui sont forgés pour les évoquer. On peut considérer cela comme un processus d’abstraction : les mathématiques consistent à faire abstraction des objets considérés et à observer ce qui subsiste au cours de ce processus, comme lorsqu’on étudie le corps humain et qu’on fait abstraction de la chair pour observer le squelette. Des problèmes apparaissent lorsqu’on essentialise le résultat de ces abstractions plutôt que de fonder les concepts abstraits sur le processus qui les fait naitre : par exemple, les nombres sont simplement une abstraction de l’opération de compter.

Ce processus est accompagné de l’invention d’un langage qui exprime ces concepts abstraits : les numéraux, les lettres qui désignent les points de la géométrie euclidienne et font le rapport entre les diagrammes et les démonstrations, les locutions répétitives et incantatoires, les fonctions considérées dans leur singularité et dans leur généralité. Lorsque je constate l’usage de ces concepts et de ce langage dans ma perception du monde, je constate la spécificité mathématique de mon regard sur les choses.

La géométrie telle qu’elle est présentée dans les Éléments d’Euclide est déjà une mise à jour issue d’une développement sans doute très long mais non documenté (voir cependant les livres d’Olivier Keller²⁸). Elle-même sera, malgré son extrême longévité comme livre de référence, sujette à des mises à jour et à des transformations : la géométrie cartésienne introduit les équations algébriques entre coordonnées, la géométrie projective met à jour la dualité entre point et droite en introduisant le point et la droite à l’infini; la géométrie axiomatique impose l’autonomie de la théorie mathématique par rapport à son objet, l’espace physique, et permet de considérer de nouvelles questions tout aussi autonomes comme la complétude et la décidabilité de cette théorie; les logiciels de géométrie dynamique introduisent la variation de paramètres (comme la position d’un point) dans les figures géométriques.

Voici un exemple plus récent. La théorie multiplicative des nombres et son théorème phare, le théorème de décomposition des nombres en facteurs premiers est lui aussi mis à jour par la considération de cadres de pensée de plus en plus généraux : les entiers de Gauss, les corps cyclotomiques de Kummer, les concepts de nombre idéal et de valuation, celui de régularisation introduit par Lorenzen pour circonscrire les identités algébriques introduites par la considération d’anneaux de valuation, celui de relation implicative qui fournit le formalisme approprié²⁹.

J’aime à voir ces mises à jour cycliques comme des étapes de réflexion sur une forme de calcul qui donne lieu à un nouveau calcul d’une autre nature. On peut encore les voir comme des étapes de réflexion sur le langage utilisé qui donne lieu à un nouveau langage. En changeant la manière de parler des objets de notre enquête, elles ont pour effet de mettre aussi à jour notre lien avec eux, de sorte que nous les pensons autrement, dans un cadre renouvelé. Ainsi, nous acquérons de nouveaux moyens d’expression pour nos observations et nous les appliquons de manière plus générale, comme Robert Musil l’illustre dans L’Homme sans qualités³⁰.

Réciproquement, notre perception du monde et notre vie sociale affectent nos mathématiques : en interagissant d’une autre manière avec notre environnement, nous envisageons d’autres mathématiques (c’est le lieu de rencontre entre l’épistémologie et la sociologie des sciences). Voici des exemples de lentes métamorphoses : l’abandon des grandeurs au profit des nombres voulu par Dedekind³¹, l’autonomie que les mathématiques ont acquise par rapport à la physique, la notion d’appartenance et de correspondance, la matière mouvante des topos. Ces changements sont souvent subtils et insensibles.

En mathématiques aussi, on peut observer que nommer donne d’abord lieu à des noms propres, c’est-à-dire à des noms attribués en propre à un objet : en arithmétique, le un (mais ce un devient aussitôt un nom commun à tous les uns que nous pouvons concevoir) ou l’identité \eqref{org8a6c9e8}. En algèbre, les faits nommés sont les identités algébriques, à commencer par l’associativité

Nommer rend visible, mène au jour ce qui auparavant était invisible : la chose nommée devient un objet du discours.

Lorsqu’on nomme en mathématiques, on est aussitôt confronté à ceci : le nom qu’on donne à une chose lui appartient en propre, mais cette chose elle-même est le résultat de l’histoire qui l’a fait apparaitre, et cette histoire n’appartient pas à celui qui nomme. C’est ainsi qu’en arithmétique le nom « deux » appartient en propre à la chose considérée dans un calcul donné, et cela aura lieu à chaque fois qu’un calcul mène à considérer deux unités. C’est dans ce sens qu’il s’agit de définitions de chose.

En géométrie, les points considérés sont nommés depuis la géométrie des Grecs par des lettres, et ces noms sont relatifs au problème considéré. La géométrie euclidienne du plan, qui ne traite que des points, des droites, des cercles et de leur position relative, développe pourtant un vocabulaire très étendu pour ses besoins, comme en témoignent les 456 pages du Dictionnaire historique de la terminologie géométrique des Grecs de Charles Mugler³².

En arithmétique, après les nombres, on donne des noms à des structures (les groupes, les anneaux…), qu’on peut décrire à l’aide des catégories. On nomme aussi des conjectures. On nomme au fur et à mesure des besoins; ce faisant, on ordonne et on discrimine. Les nombres ordinaux en sont un exemple élémentaire : la règle qui engendre les ordinaux dénombrables est de nommer un nombre zéro, ainsi que toute suite de choses déjà nommées. Ce qui n’est pas encore nommé git dans le réservoir d’opacité évoqué dans la section 1.3.

Comme Pascal l’a relevé dans son opuscule De l’esprit géométrique (1655³³), le nom qu’on donne est arbitraire et ne sert qu’à distinguer les choses et à abréger leur désignation. En nommant, on introduit un nom pour une chose construite : il suffira d’évoquer ce nom pour y avoir accès, plutôt que de refaire la construction : c’est le cas pour le nombre, qui évite le dénombrement; c’est le cas pour le nom d’une ligne, qui évite de désigner son tracé; le nom de la suite tient lieu d’une réitération infinie; l’intégrale tient lieu du calcul d’approximations. Les notations aussi sont des abréviations pour donner un accès aux objets et en faire des objets du discours. En revanche, nommer sans prendre le soin de référer à une chose construite recèle le danger de profiter indument de la puissance évocatrice du nom pour justifier le recours à un objet incréé.

Les faits sont ce qui peut être immédiatement constaté. En arithmétique, il s’agit de l’ensemble des identités numériques qu’on peut écrire avec des additions et des multiplications, comme \eqref{org8a6c9e8}. Ils posent problème par leur profusion, leur caractère disparate, leur défaut de structure innée. Ce sont les arbres qui cachent la forêt. C’est pourquoi l’arithmétique s’éloigne des faits pour pouvoir les penser. Une théorie mathématique déploie un chapelet de théorèmes qui semble ne plus évoquer ces faits, dont elles sont pourtant l’objet.

Est-ce que le monde mathématique est pour autant atomisé en faits ? La structure argumentative d’une théorie met en exergue des théorèmes qui deviennent à leur tour des faits d’une nature bien plus complexe et rendent visibles des rapports que les faits élémentaires cachaient (c’est à mon sens un argument contre l’atomisme logique).

Il y a un temps mathématique au sens du temps nécessaire au déploiement de cette science, dans lequel les rythmes de travail des scientifiques se superposent et interfèrent. Les étapes élémentaires de ce temps sont les étapes des calculs effectués (fût-ce par un microprocesseur) et des démonstrations menées. La mesure de ce temps donne lieu à la notion de complexité (et à celle d’ordinal si nous voulons tenir compte des étapes dans lesquels nous faisons usage de notre capacité à concevoir la régularité d’une progression infinie de pas).

Il y a le temps social du développement de cette science dans nos vies, au cours duquel se construit l’intérêt pour les concepts et les faits objets de cette science (ce temps de la sociologie des sciences est en compétition avec le temps épique de l’histoire des idées).

La nécessité de penser le temps est soulignée par Roger Apéry³⁴ pour dénoncer l’éternité envisagée par celles et ceux qui voient dans l’expérience de l’objectivité des considérations mathématiques la preuve qu’elles réfèrent à un savoir hors du temps, dont notre activité n’est qu’un ressouvenir  (c’est-à-dire un transport du haut vers le bas, de Dieu vers les tribulations des mortel·les) : l’éternel retour repris par Hausdorff en est une variante extrême, dont Das Chaos in kosmischer Auslese propose chemin faisant une réflexion ambitieuse sur la nature du temps (voir la section 1.3). Je voudrais appeler à comparer cette éternité à celle bien provisoire des mots, des verbes être et avoir, de la grammaire de nos langues. Par ailleurs, les mathématiques s’attèlent à rendre compte du changement, des processus, de la dynamique, de la continuité.

Le temps appelle une réflexion sur ce qui permet de commencer et de terminer, de passer d’une étape à l’étape suivante, sur ce qui se passe entre ces étapes. Dans ce sens, un calcul et une démonstration sont déjà des fictions, et la possibilité de les concevoir dans leur unité et dans leur continuité repose sur les mêmes ressorts que la fiction littéraire.

Marion Renauld³⁵ affirme que ce sont plutôt les mathématiques qui permettent de réfléchir aux ressorts de la fiction littéraire que l’inverse. Le modus ponens et l’oubli qu’il opère quant aux hypothèses, l’irréversibilité qu’il instaure à l’instar du temps thermodynamique, le passage d’une hypothèse à une conclusion, la signification de l’implication

tout cela réclame le recours à l’imagination, la présence de l’avenir et du passé, la construction d’un rapport au temps comme construction d’un ordre logique.

Les mathématiques ne se font pas sur le mode du Ménon de Platon, où Socrate fait découvrir à un esclave comment, à partir d’un carré, en tracer un autre de surface double : comme Jacques Rancière³⁶ l’observe, Socrate détient déjà ce savoir et œuvre seulement à inséminer l’esclave de ce savoir tout prêt.

Les mathématiques se font d’abord à deux ou en petits groupes devant un tableau : celui-ci accueille les inscriptions qui matérialisent les pistes de l’un·e ou de l’autre, et tou·tes réfléchissent ensemble pour contribuer à la recherche, partagent ce qu’elles savent, ce qu’elles ignorent, ce qu’elles espèrent. Il y a des calculs, en particulier pour étudier un exemple qu’on espère paradigmatique, des figures, des schémas, des observations, des exercices. L’organisation de ce discours se fait en cherchant à comprendre le pourquoi des choses et en essayant de décrire le paysage que nous devinons. Souvent, un exemple donne lieu à un raisonnement qui en reprend les points saillants et les particularités essentielles.

La publication mathématique se conçoit comme une chambre d’enregistrement, dans l’idée qu’elle persistera. C’est pourquoi elle a tendance à être programmatique, à ne pas se contenter de présenter son enquête. L’auteur se veut exemplaire sur la manière de la présenter, ce qui lui donne aussi une dimension idéologique : mode d’exposition et d’organisation, usage ou non des diagrammes et des tableaux. Elle développe sa propre dramaturgie (voir Blaise Pascal : littérature et géométrie de Dominique Descotes³⁷ pour le cas du Traité de la roulette³⁸). Elle résulte aussi d’un dialogue, fût-il intérieur : selon la terminologie de la logique dialogique de Paul Lorenzen³⁹, le « proposant » tient la plume, pianote sur le clavier sous l’œil sévère voire intransigeant de l’« opposant » qui veut savoir et comprendre, et pour ce faire met le premier au défi de justifier ses explications.

Lorsqu’une œuvre dispose d’archives qui documentent sa genèse, on peut davantage saisir dans quelle mesure l’œuvre publiée, l’organisation de celle-ci sont adressées à son public. Par exemple, les manuscrits de Richard Dedekind présentés par Emmylou Haffner⁴⁰ sont très différents des publications auxquels ils ont mené : on y trouve tous les calculs, tous les outils de visualisation imaginés pour deviner l’ordre qui régit les structures étudiées, alors que les articles publiés en font l’économie. Notons au passage que ceux-ci n’ont trouvé leurs lectrices et leurs lecteurs que trente ans plus tard, bien après le décès de l’auteur.

Les mathématiques publiées maintiennent le dialogue qui leur a donné naissance : l’auteur dialogue avec le lecteur et organise le discours pour favoriser son rôle actif de recréateur dans l’imagination de l’enquête relatée.