Esthétique et mathématiques : une exploration goodmanienne, de Caroline Jullien. Presses universitaires de Rennes, 2008 (Rennes), 274 p. ISBN : 978-2-7535-0619-0, 18 EUR.

L’auteur étudie la signification et le rôle de l’esthétique dans les mathématiques. Elle introduit la théorie développée par Nelson Goodman dans Langages de l’art, qui propose un vocabulaire précis, rigoureux et technique, ainsi que des symptômes pour l’esthétique. Il s’agit de montrer que « le fonctionnement des mathématiques en tant que système symbolique requiert un versant esthétique au sens de Goodman » et d’obtenir une description du fonctionnement des mathématiques qui serait indépendante du statut ontologique accordé aux objets mathématiques : pour y arriver, il faudra détourner son attention de l’objet et la reporter sur le symbole et sur la manière dont il réfère à l’objet. Art et sciences ont en commun de créer des représentations d’objets, conçues pour nous aider à comprendre ces objets. Mais ils démontrent différemment : l’art en montrant, les mathématiques par un raisonnement.

Voici les symptômes de Goodman, élaborés dans le cadre d’une théorie générale des symboles, qui recouvre tant les mots que les images. Ils sont centrés sur une analyse de la référence du prédicat vers l’objet (dénotation) et de l’objet vers le prédicat (exemplification.)

– Toute différence entre symboles picturaux est susceptible de prendre une valeur : dans un dessin au trait, tous les aspects comme l’épaisseur et la couleur de la ligne participent à sa construction ; on dit qu’il est saturé.

– L’impossibilité d’une notation, d’un alphabet pour la peinture est due à sa densité syntaxique.

– Les langages permettent d’exprimer des distinctions infiniment fines, mais ne sont pas capables d’une précision absolue : cela les distingue des notations et correspond à leur densité sémantique.

– Un symbole symbolise en servant d’échantillon pour les propriétés qu’il possède littéralement ou métaphoriquement : le chiffre « 1 » est formé d’un trait ; on parle d’exemplification.

– Un « itinéraire de référence » multiple et complexe.

Voici comment l’auteur applique ces symptômes, au besoin en les adaptant, à trois exemples mathématiques.

1. La démonstration de l’irrationalité de \sqrt{2}. Elle repose sur l’exemplification du prédicat « être pair : » l’hypothèse à infirmer, que \sqrt{2} puisse s’écrire sous la forme d’une fraction \frac{a}{b}, est transformée en l’équation « a^{2} = 2b^{2} » qui exemplifie « être pair » au sens que « 2 » y apparaît comme facteur et qu’on en déduit par le lemme de Gauss que a est pair, puis que b est pair ; or on pouvait présumer qu’ils ne le fussent pas tous les deux. Cette démonstration est saturée au sens où chaque propriété évoquée est nécessaire à la démonstration. Cette saturation devient explicite avec le mouvement de généralisation qui donne un nom à la propriété des entiers utile au raisonnement : ils forment un anneau factoriel.

2. Le théorème des lunules d’Hippocrate. Selon l’auteur, la figure ci-dessous est syntaxiquement dense dans la mesure où il est impossible d’isoler ses éléments et qu’il faut considérer la figure dans sa globalité et non comme une juxtaposition de marques, c’est-à-dire du triangle, des demi-circles construits sur ses côtés et du demi-cercle complémentaire construit sur l’hypoténuse qui, retranché aux deux autres demi-cercles, définit les lunules. On pourrait tout autant soutenir que la figure est sémantiquement dense ; eu égard aux Éléments d’Euclide, dont chaque proposition contient aussi un mode d’emploi complet pour tracer la figure correspondante, on pourrait arguer que la géométrie euclidienne admet une notation et n’est donc pas syntaxiquement dense. La figure est saturée au sens où elle ne contient aucune marque accessoire. Le triangle rectangle y est une étiquette, c’est-à-dire qu’il tient lieu de tous les triangles rectangles

Figure 1 – L’aire des deux lunules d’Hippocrate égale l’aire du triangle.

possibles. Il exemplifie aussi le théorème de Pythagore généralisé des carrés aux demicercles : il en est un échantillon. L’auteur conclut que la référence au triangle rectangle est multiple et complexe et que la figure fonctionne comme une œuvre d’art au sens où elle invite à une démonstration immédiate. Je dirais que la compréhension de la figure est un processus qui peut aboutir aux causes de l’égalité des aires : mais ce processus se passe-t-il de mots ? Notons que l’analyse de l’auteur passe sous silence l’étape préalable à la compréhension de l’énoncé même du théorème : le cercle circonscrit à un triangle rectangle est centré sur le milieu de son hypoténuse.

3. Le théorème de Rolle. Selon l’auteur, les figures ci-dessous sont syntaxiquement

Figure 2 – La dérivée d’une fonction s’annule entre deux points où elle est égale.

denses : en particulier, la représentation graphique d’une fonction ne se décompose pas en les quantités infinitésimales qui permettent de définir la dérivée et d’accéder à la démonstration. Elles ne sont pas saturées au sens où elles exhibent des exemples de fonctions et non une fonction générique, contrairement au triangle rectangle ci-dessus. L’auteur estime que la figure incite à croire que la dérivée d’une fonction serait continue et à appliquer le théorème des valeurs intermédiaires : elle aurait pu tout autant soutenir que la figure incite à voir que la fonction atteint son maximum. Même s’il faut conclure que le théorème de Rolle énonce qu’un nombre dérivé est nul, elle aurait aussi pu évoquer le théorème de Darboux selon lequel toute fonction dérivée satisfait le théorème des valeurs intermédiaires pour justifier son intuition,

Ce livre propose de jeter un regard neuf et littéralement superficiel sur le fonctionnement des mathématiques. Il n’a malheureusement pas bénéficié d’une relecture qui aurait corrigé une excessive lourdeur de l’expression et les coquilles.

Stefan Neuwirth.