La dimension complexe en mathématiques

Gottlob Frege et Bertrand Russel

André Deledicq et Mickaël Launay racontent dans Dictionnaire amoureux des mathématiques comment Frege a vu sa belle théorie des ensembles dynamitée par un pétard d’apparence anodine, posé par Russel.

Nous sommes en 1902. Les logiciens comme Frege tentent de faire des ensembles le noyau fondamental sur lequel construire toutes les mathématiques. Les opérations arithmétiques deviennent ainsi des cas particuliers de manipulations sur les ensembles. L’un des postulats de Frege est que quel que soit le type d’objet mathématique, il est toujours possible de considérer l’ensemble des objets ayant la même propriété. Le postulat s’applique aux ensembles eux-mêmes, toujours susceptible d’en former un autre.

Un paradoxe logique

C’est là que Russel place son pétard. Considérons l’ensemble de tous les ensembles. En étant un lui-même, il se trouve donc à l’intérieur de lui-même ! Pourquoi pas ? Prenons alors cette propriété bizarre pour trouver l’ensemble de tous les ensembles qui ne l’ont pas (ceux qui ne se contiennent pas eux-mêmes). Cet ensemble se contient-il lui-même ?

Il n’y a pas de bonne réponse. C’est un paradoxe logique. Russel l’illustrait par une histoire plus concrète : Dans un village le barbier rase tous les hommes qui ne se rasent pas eux-mêmes. Le barbier se rase-t-il lui-même ? Pas de réponse logique. S’il se rase il doit cesser puisqu’il ne rase que ceux qui ne se rasent pas eux-mêmes. S’il cesse il rejoint le groupe de ceux qui ne se rasent pas eux-mêmes et devrait donc se raser. Un tel barbier ne peut exister. De même que l’ensemble de tous les ensembles qui ne se contiennent pas eux-mêmes. Le postulat de Frege ne tient pas.

La complexité aurait sauvé Frege

Il existait pourtant une manière de sauver la théorie des ensembles, que Russel a proposée : définir autrement ces super-ensembles récalcitrants, les appeler ‘classes’, pour les sortir des propriétés applicables aux ensembles.

Assez tristement, Deledicq et Launay signalent que Frege ne publia plus grand chose après cette histoire. Il s’isola et mourut démoralisé en 1925. C’est bien navrant car sa théorie n’a rien d’un échec. Elle s’est seulement inscrite dans un regard horizontal, sans pensée verticale. Frege ne s’est pas trompé de chemin, comme le disent à tort les auteurs. Il manquait le cadre complexe où le situer. Et Russel n’a pas plus formalisé ce cadre que Frege. Il a simplement montré que la logique ne pouvait rester dans le précédent.

Alléchante équation du Tout

Mathématiciens comme physiciens sont fascinés par l’idée qu’il puisse exister un principe fondamental, éventuellement matérialisé par une équation, d’où naîtrait tous les objets de leur discipline. “Theory of everything” chez les physiciens, théorie des ensembles chez Frege. Dans le couple induction/déduction, qui permet de passer du général au particulier et vice versa, c’est l’aspect universel du général qui fascine. Une équation ultime est l’équivalent du divin chez le scientifique. Le monde, dans son incommensurabilité, se rend enfin à notre esprit. D’insignifiant fétu, il devient personnalisation du principe créateur.

Frege a cru accéder à cette illumination. Espoir brutalement discrédité. La lettre de Russel, sous son apparence délicate et polie, « Je suis d’accord avec vous sur quasi tout ce qui est essentiel […] Il n’y a qu’un seul endroit où j’ai rencontré une difficulté », est un coup de poignard dont l’âme de Frege ne se relèvera pas. On est loin d’un simple débat intellectuel. Le mathématicien est humain donc mystique. La recherche mathématique est théologique par bien des aspects, avec un énorme stimulant : le chercheur écrit l’évangile autant qu’il le consulte.

Qui est propriétaire des maths?

Si j’insiste sur cet aspect de la mathématique, c’est qu’il influence beaucoup la question de savoir s’il s’agit d’un langage ou de la réalité même, traduite en signes. Notre esprit ne fait-il qu’interpréter la réalité en soi à sa manière, propriétaire, sans pouvoir aller plus loin ? Ou accède-t-il à l’essence fondamentale de la réalité, conforme aux idéaux mathématiques ?

J’accentue volontairement une différence entre les 2 positions, qui n’est pas si tranchée. Il s’agit après tout d’une relation esprit-réel, dans laquelle aucun participant ne peut englober entièrement l’autre. Chacun communique, c’est-à-dire accède à la partie de l’autre qu’il peut représenter. Cette partie ressemblante est codifiée par le langage de communication. La question précédente devient : Qui a mis au point ce langage ? L’esprit ou le réel ? Difficile de répondre, dans cette affaire de poule et d’oeuf. Sauf à se chercher une ascendance divine, l’esprit se pense issu du réel. Donc la mathématique est, à l’origine, propriété du réel. Mais l’esprit a construit une indépendance relative, en coopération avec d’autres. Il vit dans une représentation du réel qui s’en éloigne par beaucoup d’aspects.

Effleurer le réel

Autant les langages artistiques semblent dédiés à l’éloigner davantage du réel, autant la mathématique semble l’en rapprocher. Le mathématicien s’éprouve comme un astéroïde qui orbitait loin dans les ténèbres, croisant des fantômes du réel, et se rapprochant de son essence solaire quand il suit les flux d’équations. La mathématique, parce qu’elle se découvre, semble étrangère à son esprit. Donc s’il faut lui désigner un propriétaire originel, c’est le réel.

Ce processus de découverte est fort différent des langues parlées, qui s’apprennent, et n’ont parfois aucune logique. Leurs “raisons” se perdent dans l’histoire humaine. Strictement humaine. La séparation du langage oral et mathématique apparaît ainsi comme une itération du dualisme esprit/matière. Chacun sa manière de s’exprimer. Mais ce dualisme est-il encore tenable ? La science contemporaine efface le fossé. Les mathématiciens sont généralement matérialistes, peu enclins à adouber une origine biblique à l’esprit. La séparation des langues parlées et mathématiques n’est-elle pas, alors, la survivance d’un dualisme obsolète ?

Source humaine vs surnaturelle

La différence est un ressenti. Nous retraçons facilement la naissance de la langue dans notre esprit. Parents, éducateurs, nous l’ont transmise par apprentissage. Elle n’a rien d’universel. Un autre peuple en parle une entièrement étrangère, qui décrit la réalité aussi précisément. Création humaine.

La mathématique se présente à nous comme par magie. Peu importe le peuple, tout chercheur qui analyse la réalité forme la même langue, avec une équivalence entre les signes, des théorèmes identiques. Celui attribué à Pythagore était connu des scribes mésopotamiens plusieurs siècles avant sa naissance. Le mathématicien a l’impression de mettre à jour une structure de réalité qui a toujours été là, que n’importe quel autre esprit saisira de la même façon s’il cherche à le comprendre. Création du réel.

Accès conscient final, pas intégral 

Mais accédons-nous à l’intégralité de notre esprit ? Non. La conscience n’en représente qu’une infime partie. Couche attentionnelle sophistiquée qui rétro-contrôle des pensées, la plupart d’entre elles surgissant de nulle part. Même quand leur filiation nous est claire, nous serions bien en peine de prédire où elles vont aller. Nous sommes un mental, et simultanément si une partie s’émancipe pour l’observer elle n’en connaît qu’une fraction minuscule.

D’où vient l’illumination d’un théorème ? A posteriori sa mécanique est limpide, a priori nous ne savons rien de la façon dont cette mécanique s’enclenche. Il existe des rouages, dans notre inconscient, qui sont assez mathématiques pour les fabriquer. Consciemment nous contemplons le tissu final, représentons la technique de tissage, et renvoyons des ordres pour l’améliorer. Mais la machine n’est pas dans le champ conscient.

Le réel en temps que machine inconsciente

Cette machine hors de portée de la conscience, c’est cela vraiment que le mathématicien appelle “réel” et non la réalité en soi. Les deux sont bien entendu en relation étroite. Pas de mental sans matière. Mais l’esprit doit rester averti que sa propre indépendance, qui lui permet de représenter, crée automatiquement une distanciation avec le réel.

Il en trouve la preuve facilement quand une démonstration mathématique est fausse. Le langage se tient, respectant sa cohérence interne, mais l’application au réel ne tient pas. Le langage n’est pas la réalité. Les mathématiques créent un univers mental qui, fréquemment, recoupe la réalité en soi. D’autres parties ne le font pas. L’univers mental est moins vaste que le réel, en volume d’information, mais plus varié. Parce que bien plus haut situé dans la dimension complexe.

Le platonisme est une religion

Les mathématiciens cachent un autre dualisme, très ancien également : le monde des idéaux de Platon. Comme le réel ne semble pas héberger toutes les mathématiques possibles, il faut loger celles-ci dans un monde virtuel plus vaste, superposé au réel. De quelle manière ces deux mondes communiquent-ils ? Profond mystère qui met le platonisme au rang des religions.

Pour échapper à cette critique, certains mathématiciens ont élargi le champ du réel pour l’inféoder à la mathématique. Si celle-ci est l’essence de la réalité, alors toutes ses formes doivent exister réellement. Toute nouvelle structure mathématique découverte correspond forcément à un univers, même si nous n’avons aucun moyen de l’observer. La cohérence intrinsèque du langage est transposée au réel, par extraversion. L’univers mental du mathématicien devient entièrement réaliste, dans une version computationnelle du solipsisme.

Échapper au religieux par la complexité

Le solipsisme n’est pas dénigrable dans l’absolu. J’ai traité ce sujet ailleurs. Le solipsisme de groupe est encore moins facile à dénigrer, dissimulé derrière un faux collectivisme : « Regardez, nous sommes tous parvenus à la même conclusion, donc c’est un principe universel ». Je préfère donc vous proposer une solution alternative, moins axiomatique, en recourant à la dimension complexe.

Cette approche ne vise pas à nous débarrasser de la séparation esprit/matière mais au contraire de la multiplier, entre plans de réalité successifs, à tel point qu’elle finit par ressembler à une continuité. Monisme né d’une division frénétique, famille de systèmes en indépendance relative.

Multiréalisabilité

Partons de la mathématique en tant que langage, seul aspect dont nous sommes certains, puisque manipulé directement par notre esprit. Est-il propriété foncière du réel ? Laissons pour l’instant cette question en suspens.

Comme tout langage la mathématique peut s’appliquer à une multitude d’objets différents. Multiréalisabilité. Par exemple je prends le langage des parallélépipèdes pour stocker des dalles dans un appentis ou des livres dans un carton. Les mêmes équations me permettent de connaître le volume du contenant et du contenu, pour vérifier qu’ils sont compatibles. J’ai appliqué un langage unique à des objets très différents.

L’inconscient connaît les maths

Indice supplémentaire: même ignare en mathématiques, même sans sortir règle et calculette, j’utilise inconsciemment des mathématiques pour arranger les objets. Il semble que l’apprentissage ne fasse que formaliser un langage que je possède déjà, dont se servent les couches inaccessibles de ma raison.

Multiréalisabilité aussi pour les abstractions. Notre mental pioche constamment dans ses modèles existants pour des représentations nouvelles. Et entre objets abstraits et concrets ? Des équations semblables s’appliquent à des flux de la finance et des échanges biologiques.

Chaque système crée son langage

La dimension complexe attribue une indépendance relative aux systèmes. Un système est auto-déterminé par les relations de ses éléments. Chaque système crée son langage autonome, parlé collectivement par ses éléments. De même que la force de l’anglais est d’être connu d’une majorité d’humains sur la planète, la force des mathématiques est d’être parlées de manière commune par les systèmes physiques.

Le rapprochement vous semble spécieux ? Entre une langue apprise et une autre exprimée ontologiquement ? Pourtant nous pouvons dire que les éléments physiques “apprennent” leur langage de leurs propres ascendants, de ce qui les a fait naître. Adopter ce regard est facile en abandonnant la religion des ‘lois fondamentales’, bien mystérieuses dans leur propre origine.

Communauté n’est pas structure

Des mathématiques qui s’appliquent avec le même bonheur à différents systèmes traduisent une communauté étroite entre différentes parties de la dimension complexe. Cette traduction n’en est pas la structure. Pas tant que nous n’avons pas trouvé une équation qui transforme chaque modèle en son successeur. Le principe existe certainement puisque la réalité est une. Mais ce principe est-il une équation ? Non. Une équation en sera toujours une représentation mentale, propriété partielle de l’humain et non le principe en soi. Ce point est justifié plus complètement dans Surimposium.

Le 1er avantage de la mathématique est sa cohérence intrinsèque inégalable. Le second est sa souplesse, à travers la multitude de ses sous-langages. Poussons cette souplesse jusqu’à dire que chaque système étant propriétaire de ses relations, il a également la propriété partielle de ses maths. En faire une mathématique universelle est faire du réel un Grand Tout indivisible, ce qu’il n’est clairement pas.

Mathématique universelle ou humaine?

Les maths universelles sont en vérité leur appropriation par l’esprit humain, pas leur délégation au réel. Elles facilitent le travail de l’esprit mais ne reflètent pas la versatilité du réel. Celui-ci construit ses fantaisies avec un dynamisme qu’aucune mathématique ne permet d’englober. Relativisons alors nos fragments de langage à ce que les fragments du réel semblent parler. Si nous parvenons à relier ces fragments, tant mieux. Mais sans théorie du reliement, impossible d’en faire une continuité.

Chaque système parle sa propre itération des maths, à laquelle nous appliquons notre version standardisée. Ça fonctionne très bien au bas de la complexité, moins en s’élevant. Mais il s’agit toujours d’une approximation. En adoptant cette idée, il faut redonner également au système la propriété relative de son cadre. Il n’existe plus de cadre universel. Seulement celui auto-créé par un système dans son niveau de réalité.

Un cadre pour chaque système

Le cadre spatio-temporel universel est obsolète. Il n’est généraliste que pour des éléments physiques intégralement décrits, collectivement, par ce cadre. Car ils en sont propriétaires. D’autres systèmes plus complexes incluent le cadre spatio-temporel, mais lui surimposent d’autres couches de signification qui personnalisent leur ‘cadre-système’. Exemple: la diffusion des mèmes, ces objets mentaux partagés par les esprits humains, n’obéit pas au cadre spatio-temporel des particules physiques, bien que celui-ci soit toujours présent, par la localisation des cerveaux.

Tout ceci est un changement de regard fondamental sur la mathématique. Purement philosophique ? Les mathématiciens font souvent la moue devant l’absence de débouchés pratiques. En voici un, sous forme de théorème : Quand ils tombent sur un paradoxe logique, ils sont devant un franchissement de complexité mathématique.

Le cadre a changé. Le précédent n’a pas disparu. Il faut lui en surimposer un autre. ‘Classes’ par dessus les ‘ensembles’…

*