L’objectif de John Searle en 1980, en concevant cette expérience de pensée, était de dénigrer la possibilité de compréhension et de conscience dans une intelligence artificielle. Searle s’imagine enfermé dans une chambre avec un catalogue de règles permettant de répondre à des phrases en chinois, langue qu’il ne connaît pas. Avec ces règles syntaxiques il peut répondre en chinois. Un vrai locuteur, à l’extérieur de la chambre, croit ainsi qu’il échange avec un autre sinophile, alors que Searle ne fait qu’exécuter un travail syntaxique sans rien comprendre à ses propres réponses. C’est le mode de fonctionnement d’une IA, qui ne comprend rien à ses résultats, conclue-t-il.
L’esprit humain réduit perd aussi sa conscience
En fait la Chambre Chinoise est une expérience très courante dans la réalité quotidienne : Un élève apprend par coeur un exercice mathématique, sans le comprendre. Il peut le refaire si les chiffres sont remplacés par d’autres, mais pas si la formulation change. L’élève a acquis la sémantique mathématique, pas sa compréhension.
Malheureusement cette expérience est erronée. Elle se contente de mettre l’accent sur un mode de fonctionnement virtuel purement sémantique, auquel l’humain est lui-même capable de se réduire, devenant ainsi l’équivalent d’un chatGPT. La Chambre Chinoise nous éloigne radicalement d’un esprit construisant ses propres règles, tel que le nôtre.
Incarnation et phénomène
L’incarnation corporelle de l’esprit est souvent citée comme élément essentiel de la conscience. Mais ce dont elle rend compte est seulement le phénomène associé, pas l’existence même de la compréhension et de la conscience. Ces propriétés sont fondées sur l’auto-organisation du réseau virtuel qui symbolise les données. C’est la limite actuelle de l’IA, qui est organisée mais pas auto-organisée. Elle est dotée de profondeur complexe mais n’est pas propriétaire de son résultat. Celui-ci appartient au programmateur. Insatisfaisant il entraîne une modification du programme. La fenêtre de l’IA sur le monde est minuscule. Même si elle disposait d’assez de transistors pour simuler l’immense étendue du réseau neural, sa conscience serait celle d’un prisonnier au fond d’un cachot, qui n’a jamais eu de contact avec ses congénères, auquel on a donné pour toute distraction un livre de Morse.
L’humain exécute lui aussi une multitude d’automatismes, en particulier de langage, sans ‘conscience’ perceptible. La conscience s’étoffe progressivement de la complexité de ces micro-robots assemblés en niveaux plus synthétiques, au gré de l’esprit. Ce libre-arbitre en expansion depuis la naissance aboutit à la diversité phénoménale de notre espace de travail conscient. Tout processus artificiel qui reproduira la même complexité fournira logiquement une conscience du même ordre. Le phénomène éprouvé sera différent dans des réseaux numériques et organiques. Pas le même qualia.
Une expérience populaire sans réelle utilité
Au final les défauts rédhibitoires de la Chambre Chinoise sont d’utiliser un code sémantique non propriétaire et la contrainte externe sur le résultat, qui empêchent toute possibilité d’auto-organisation, et d’élévation du processus dans la complexité.
Cette expérience doute de la possibilité de conscience chez une IA… parce qu’elle la réduit à un niveau de fonctionnement qui n’est pas conscient chez nous non plus. Malgré sa popularité, elle n’a jamais eu de réelle utilité.
*