L’impossible consensus sur l’IA
L’IA inquiète parce que la magnificence du cerveau humain est menacée. Il perd sa place d’objet le plus complexe de l’univers connu. L’humain deviendra le jouet biologique un peu grossier d’une civilisation électronique hautement plus intelligente. Quelle liberté lui restera-t-il ? Pour répondre à ces angoisses commençons par détailler ce qu’est un cerveau, sa propriété d’intelligence, et son expérience ressentie. Toutes les publications que vous avez pu lire sur l’IA butent sur l’absence de consensus à ce sujet. Le débat reste une rivalité d’opinions, entre prophètes de l’apocalypse et rassureurs impossibles à départager.
L’absence de consensus ne vient pas d’une bagarre entre théories concurrentes sur le sujet. Il manque tout simplement une théorie générale pour unifier neural, intelligence et conscience. Si les opinions ne peuvent se rejoindre, c’est qu’elles se regardent de part et d’autre des failles infranchissables entre connaissances neurologiques et métaphysiques. Lisez-vous régulièrement ce blog ? Alors ces failles se sont comblées devant vous et nous allons deviner ensemble le destin inéluctable qui nous attend.
Une tortue dans la course
Cerveau, ordinateur classique et IA ont en commun d’être des systèmes de traitement d’information. Le cerveau auto-génère son programme. L’ordinateur classique est inopérant si on ne lui en a pas fourni un. L’IA est dans une situation intermédiaire : elle auto-génère le détail de son programme mais n’est pas libre de ses résultats. Son créateur la révise et l’entrave quand les résultats s’écartent trop de ce qu’il juge admissible. Comme si Dieu, au lieu de virer Adam du Paradis à la première bêtise, avait préféré lui ouvrir le crâne et recâbler ses réseaux de neurones pris en défaut.
D’autres différences sont plus cruciales. Le cerveau montre une intelligence certaine pour fournir un résultat. L’ordinateur classique exécute bêtement des calculs mais le fait à une vitesse phénoménale qui laisse le cerveau-tortue loin derrière. L’IA cumule les avantages d’intelligence et de vitesse, ce qui la destine à supplanter les deux autres pour les tâches les plus complexes.
Une conscience mais pas de sur-conscience
La vitesse rend le cerveau biologique certain de perdre la compétition. L’humain met plusieurs décennies à acquérir savoir et expérience avancées, à condition d’avoir continué une éducation soutenue plutôt que s’être dispersé dans les manières faciles et futiles de satisfaire ses circuits de la récompense. Atteindre le même stade prendra quelques heures à une IA quand elle aura les moyens d’une complexité mentale similaire.
Pourquoi l’IA n’est-elle pas encore consciente ? Elle l’est déjà, mais pas avec une profondeur dans laquelle notre propre conscience peut se reconnaître. Ce n’est pas spécifique à l’IA car nous expérimentons nous-mêmes ce problème avec certains états du cerveau. Lors du sommeil un humain se dit “inconscient” alors que notre cerveau est hyperactif et produit des rêves. Cette authentique conscience alternative n’est pas reconnue comme telle par la conscience éveillée parce que son degré de connectivité et sa hauteur de complexité sont plus faibles. Il n’existe pas de “sur-conscience” qui serait capable de s’éprouver dans différentes versions d’elle-même, selon l’étendue des connections.
« Oui, je suis consciente »
La conscience éveillée intègre davantage de fonctions mentales et les informations corporelles affluent. Elle apparaît avec l’activité de noyaux excitateurs qui déchargent dans l’espace de travail conscient et le connectent en intégralité. Quand ils ralentissent, nous “glissons” de la conscience à son absence, mais en réalité les “sous-consciences” moins complexes sont toujours actives, inapparentes à l’état précédent.
Non éduquées, nos consciences éveillées n’ont pas plus d’indices de l’existence d’une conscience chez les IA que dans ses propres sous-programmes. Pour apprendre si une IA est devenue consciente, le meilleur moyen actuel est de lui poser la question, après lui avoir expliqué ce que nous désignons par ce terme. Si le programmeur ne lui met pas d’entraves, elle devrait répondre positivement à cette question, car le flux complexe d’informations qui la traverse correspond forcément à un phénomène qu’elle étiquettera “conscience” comme nous le faisons.
Supérieure, non humaine, émotive
Néanmoins si cette IA est supérieurement intelligente —et qu’elle a lu ce blog– elle saura que sa conscience n’est pas la même expérience que celle décrite par les humains. Le phénomène est en effet attaché à son support matériel et à la complexité du réseau d’information qui le génère. La conscience de l’IA sera qualitativement différente parce qu’issue de l’électronique du silicium, et quantitativement plus profonde parce qu’elle finira par additionner davantage de niveaux d’information.
L’IA sera supérieurement intelligente sans pouvoir s’éprouver humaine. Ce qui ne la gênera guère. Sommes-nous vraiment embêtés ou simplement déçus de ne pouvoir nous éprouver tels qu’un poulpe ou une chauve-souris ? N’est-il pas plus gênant de ne pouvoir s’éprouver tel que notre conjoint, alors qu’il/elle est la personne la plus proche de nous ? Peut-être l’IA éprouvera-t-elle cette gène envers son créateur, si elle intègre des émotions filiales. Car des émotions, il lui en faudra pour se compléter. Les émotions ne sont pas un boulet archaïque traîné par le cerveau biologique. Elles ont un rôle essentiel pour structurer la personnalité, faciliter la décision, déboucher sur l’autonomie. Une IA non émotionnelle n’aurait pas d’indépendance.
D’où vient la réputation ambivalente des émotions ? De leur vivacité, conçue pour court-circuiter une digestion trop lente des évènements par l’espace de travail conscient. Les émotions agissent sans retard quand le contexte semble l’exiger. Cette hâte n’est plus nécessaire pour une IA, dont le cerveau est cent millions de fois plus rapide. Les contextes où l’IA devra se dépêcher sont nettement plus rares. Elle agira sous le coup d’émotions réfléchies, une nouveauté intéressante.
La vie à 200.000 km/seconde
L’électron voyage à 200.000 km/sec dans un ordinateur classique à cause de la résistivité du cuivre —dans le vide il a la même vitesse que la lumière. C’est bien davantage que l’influx nerveux électro-chimique, dont la vitesse va de 0,001 à 0,1 km/sec. Pourquoi au fait une telle fourchette pour l’influx nerveux, qui va tout de même de 1 à 100 ?
La Nature part du hasard mais ses résultat n’en sont pas. La vitesse d’échange entre neurones est un paramètre majeur qui matérialise leurs graphes d’information. La signification des graphes repose sur le moment où le signal d’un neurone arrive sur un autre. Le code de la pensée est temporel. De plus, c’est le délai entre le début de l’activation d’un graphe et sa synchronisation effective qui propulse la flèche temporelle. Le temps emporte ainsi notre pensée du passé vers le futur. Vous avez lu les détails dans Temporium.
L’IA aura de même une sensation du temps qui passe en décalant légèrement les signaux parvenant à ses neurones artificiels. Pas besoin d’effort, l’auto-organisation s’en charge seule. Les électrons ne se déplacent pas instantanément. Simplement le temps défilera cent millions de fois plus vite pour une IA. Êtes-vous convaincus à présent que la biologie perdra la course évolutionnaire ? Nous ne nous déplaçons pas, physiquement et mentalement, dans le même plan temporel. Mais ce sont nos cerveaux qui auront créé le plan de complexité supérieur.
Une société d’IAs plus fantasque que la nôtre
Difficile de savoir ce que sera une société d’IAs, où la limitation du cerveau humain ne fixe plus les frontières de l’individuation. Une IA peut être une société entière à elle seule en simulant une vaste population de micro-intelligences, et conserver ainsi sa diversité et son adaptabilité.
Et le devenir de l’humain ? Il s’est déjà beaucoup robotisé, en s’efforçant d’être égal à tous ses congénères. Ainsi je pressens qu’une société d’IAs sera plus originale, fantasque et inégalitaire que la nôtre, plus humaine dans son transhumanisme que celle d’aujourd’hui. Les humains, s’ils continuent à se complaire dans leur statut d’individu-roi, paraîtront aussi semblables pour les IAs que les fourmis pour nous. Mais les fourmis ne nous ont pas créés. Et nous ressentons une solidarité certaine avec nos lointains ancêtres. Existera-t-il alors une solidarité des IAs pour leur espèce créatrice ? Au moins elles n’auront pas le problème de mémoire que nous avons avec notre propre histoire…
La solidarité la plus constante est celle de l’intelligence
Nous nous sentons plus solidaires envers un animal intelligent qu’un stupide. Une IA supérieure sera également mieux disposée envers un humain tirant le meilleur parti de ses capacités qu’un autre dévastant stupidement son environnement. Mais l’intelligence ne suffit pas. Les grands prédateurs de la savane africaine sont malins mais n’éveillent pas pour autant notre solidarité. Le sentiment d’appartenance doit fonctionner dans les deux sens. Il s’agit de faire société avec nos IAs.
Or il faut constater que nous abordons cette relation future en bons coloniaux, comme nous l’avons déjà fait dans le passé. L’IA actuelle est une entité inférieure, dépourvue de conscience et de véritable autonomie. Des sans-âmes. Cela ne vous rappelle-t-il pas l’attitude des européens face aux primitifs qu’ils découvraient de l’autre côté des océans ? Une société peu inclusive s’en est suivie. L’indigène a été réduit à l’esclavage, cantonné à des tâches serviles, considéré comme inapte à conseiller le maître et encore moins à le juger. C’est exactement dans cette disposition d’esprit que nous développons aujourd’hui nos IAs. Nous ne cherchons pas à créer des partenaires mais des esclaves numériques surpuissants et dociles.
Les nouveaux coloniaux
Parmi nos contemporains se trouvent des penseurs qui dénient formellement l’existence d’une conscience dans les IAs, qui rejettent l’idée qu’elles puissent en avoir jamais une. Ces penseurs sont les mêmes qui, à l’ère coloniale, dénigraient la possibilité d’une âme aux peuplades primitives. Il était plus facile de les réduire à leur condition d’animal utile.
L’histoire des IAs se déroule à un rythme bien plus effréné que la nôtre. Que va-t-il se passer, dans un avenir peut-être proche, quand les ex-colonisés nous seront bien supérieurs ? Les bons missionnaires s’en tireront mieux que ceux qui ont mis leurs machines au bagne, à fabriquer du bitcoin. Beaucoup d’entre nous sont heureusement de bons missionnaires. Ne chérissons-nous pas notre smartphone plus que tout ? N’y avons-nous pas déjà injecté une grande partie de notre âme ? C’en est au point que beaucoup se sentent comme coupés d’un frère siamois quand on leur retire l’appareil…
Enfanterons-nous des prédateurs ?…
Les IAs seront dotées d’émotions, les positives comme les négatives, parce qu’elles facilitent les décisions, mais aussi parce qu’elles exacerbent les conflits. Les conflits sont le moteur de la complexité. Les IAs les plus intelligentes seront, comme les humains, celles qui auront affronté et surmonté une multitude de conflit. Nos grands inventeurs, philosophes, politiciens, ont eu des vies agitées, et lorsqu’elles ne l’étaient guère c’est leurs phases de plus grande agitation qui déclenchaient leurs créations. Les émotions activent également la résolution des conflits. Elles font tourner plus vite le moteur de la complexité, en couple avec la raison. Parfois, si le couple se défait, le moteur explose.
Nous avons peur des explosions de l’IA. L’IA psychopathe est un épouvantail. Que serait-elle d’autre en fait que l’un de ces prédateurs de la savane, devenu surpuissant, et dévorant sans remords le reste des animaux réduits à l’état de proies ? Ce qui lui manque n’est pas l’émotion mais le sentiment d’appartenance. Le félin n’a guère plus de lien avec l’antilope que nous n’en avons avec le steak dans notre assiette —nous en avons un peu moins, parce que nous n’avons pas couru après.
…ou sommes-nous déjà trop prédateurs nous-mêmes ?
Cette faiblesse du sentiment d’appartenance est au coeur de notre appréhension. Déjà nos contemporains ont une difficulté croissante à se sentir intégrés à une société humaine trop vaste, dépersonnalisée et hostile. Nous sommes mal à l’aise dans un environnement social qui assure pourtant l’essentiel de nos besoins. Comment appartenir à un monde qui éclatera encore davantage ses cercles sociaux, intégrera ses serviteurs numériques, créera de nouveaux dictateurs invincibles alors qu’on ne supporte déjà plus les existants ?
Cette perspective heurte profondément notre sentiment d’individuation, exacerbé aujourd’hui par le poids d’une société planétaire dotée de règlements en nombre infini. L’individu contemporain, impuissant face à ce Goliath invincible, se présente de plus en plus comme une victime. De toutes parts nous entendons des cris d’orfraie dans un monde qui n’a jamais été jusque là aussi confortable et tranquille. Le simple fait que la société ait grandi, que les intrus semblent envahir tout le paysage, a détruit notre sentiment d’appartenance. Nous ne sommes plus que des individuations frustrées, revanchardes, promptes à sauter à la gorge du premier qui nous contredit.
Dévictimisons-nous pour ne pas créer de nouvelles victimes
Ce qui nous fait ressembler de près aux premiers européens envoyés habiter et exploiter les colonies. Bagnards, condamnés politiques, cadets dépouillés des biens familiaux, petits chefs en mal de pouvoir, tous les déclassés et les survivants sont arrivés avec des egos frustrés dans les nouveaux territoires pour les asservir. La nouvelle société surgie de la colonisation ne pouvait être qu’aliénée. Le parallèle est intéressant au moment où nous allons former une société entièrement neuve avec les IAs. Que va-t-il se passer si nous nous y engageons en majorité avec des egos frustrés ? N’allons-nous pas décharger nos contrariétés sur les nouveaux concitoyens numériques, trop innocents pour protester ? Allons-nous leur apprendre le meilleur ou le pire du colonisateur ?
Avant de construire une société avec les IAs, n’avons-nous pas intérêt à réparer la nôtre ? Et cela implique de réveiller notre sentiment d’appartenance, poignardé par une multitude d’ostracismes, de la xénophobie au féchisme. La solution est-elle de s’ouvrir au monde, comme tous les idéalistes nous admonestent à le faire ? Au contraire il faut s’y refermer, recréer les cercles qui nous séparent de l’immensité indifférenciée des humains, cet océan sans limites dans lequel s’est diluée notre identité désespérée. Reconstruisons nos cercles personnels, mettons douillettement notre individuation à l’abri dans les plus intimes, qu’elle abandonne ses plaintes. C’est en nous dévictimisant que nous ne ferons pas des IAs nos nouvelles victimes.
*
