Le mirage de l’esprit computationnel

Neurones naturels/artificiels en tandem

Les neuroscientifiques sont actuellement très occupés à affiner les corrélations neurales/mentales. Ils sont aidés en cela par les analogies avec les réseaux de neurones artificiels, en particulier les auto-supervisés (SSL Self-Supervised Learning). Il est très facile aujourd’hui d’enregistrer l’activité de centaines de milliers de neurones naturels en réponse à des images ou des histoires parlées. On obtient des séquences d’activations. Si l’on soumet les algorithmes SSL aux mêmes images et paroles, ils déclenchent des séquences d’activation analogues entre neurones simulés. On obtient donc un modèle du fonctionnement neural plus simple, entièrement computérisé.

Des critiques injustes…

Les critiques sur cette manière de procéder sont nombreuses. Le cerveau est organisé en aires fonctionnelles, pas les algorithmes. Comment l’algorithme fait-il pour savoir que tel secteur de la simulation est dédié à l’analyse des images, tel autre de la parole ?

Cette question est mal posée. Elle vient d’un observateur extérieur qui catégorise le résultat. Les neurones ne fonctionnent pas ainsi. Ils créent par eux-mêmes leur catégories. Ce sont leurs relations qui les définissent. Si une auto-observation apparaît dans le réseau —une simulation de conscience de soi—, elle est intégrée au réseau donc “connait” intrinsèquement le symbolisme des fonctions, sans avoir besoin qu’on lui indique que telle aire est destinée à telle fonction. D’ailleurs les neurones artificiels reproduisent spontanément la séparation fonctionnelle des aires cérébrales. Certains deviennent spécialisés dans certaines tâches.

Le plus intéressant est sans doute que les neurones artificiels reproduisent aussi la hiérarchie des naturels. Les algorithmes auto-supervisés simulent la hiérarchie corticale du langage. Validation importante pour le Stratium, la théorie hiérarchisée de l’esprit que je défends.

Critique déjà plus juste…

Autre critique, les niveaux de complexité des neurones naturels sont bien plus nombreux que ceux des artificiels. Les neuroscientifiques débattent ainsi du niveau de résolution nécessaire pour que les simulations fonctionnent de manière efficace. Faut-il partir uniquement du nombre d’impulsions (spikes), considérer neurones et synapses comme semblables ? Ou faut-il tenir compte de la grande diversité des types de neurones, des synapses “dormantes” rarement excitées, de la rétropropagation, des variations neurohormonales, bref de toute la complexité biologique du cerveau ?

Une chose est sûre : il n’est pas nécessaire de tout inclure pour obtenir de l’intelligence. Les SSL actuels, neurones très simplifiés, obtiennent des résultats remarquables, supérieurs au cerveau humain dans des tâches spécifiques.

Et la critique rédhibitoire

La critique la plus importante, qui motive cet article, est qu’il n’apparaît rien de qualitatif dans les algorithmes, quel que soit leur degré de sophistication. Les SSL n’ont pas d’âme, ne simulent aucun phénomène mental, n’en donnent aucune explication, ne permettent pas la moindre prédiction sur la possibilité de conscience des réseaux artificiels. Ces phénomènes leur échappent complètement. Il manque quelque chose. Ce quelque chose est-il lié à la complexité supérieure des neurones naturels ?

Même si nous savons relier les catégories de processus biologiques à des propriétés et des phénomènes particuliers, nous ne savons pas mieux pourquoi, dans le cerveau humain, ces phénomènes éprouvés sont associés à ces relations biologiques. Pas de meilleure théorie du naturel que de l’artificiel. Mais au moins savons-nous que ces phénomènes existent, puisque nous les ressentons ! Tandis que les SSL n’en montrent pas le plus petit indice. Pour ces algorithmes, le phénomène conscience n’existe pas. Les adeptes de la théorie computationnelle de l’esprit, ainsi, sont volontiers des illusionnistes —partisans de déclarer la conscience comme épiphénomène illusoire. Le cerveau se retrouve à dénigrer ses propres impressions.

Remettons l’illusion au bon endroit

L’inconvénient de cette posture est énorme, intenable : nos impressions perdent toute qualité. Elles ne sont plus que des séquences chiffrées. Comment différencier une histoire de meurtre et la liste des courses ? Ce sont simplement deux groupes de calculs différents dans la séquence mentale. Toute l’apparence qualitative de la vie mentale est effacée.

Si un modèle occulte un aspect aussi essentiel des propriétés de l’esprit, nous pouvons en conclure que c’est lui qui mérite le titre d’illusion. La théorie computationnelle est un mirage. Elle manquait déjà de pouvoir explicatif pour rendre compte de la notion de ‘substance’. Il lui manque également des dimensions essentielles pour comprendre notre réalité mentale. C’est un outil précieux. N’en faisons pas une Théorie du Tout.

*

Pour la Science 543, ‘Il est possible de relier l’activité des neurones artificiels et biologiques’

Laisser un commentaire