Abstract: Rassuré par le livre de Luc Julia ? L’intelligence artificielle n’existe pas ? Je critique sévèrement l’ouvrage, Julia méconnaissant gravement ce qu’est l’intelligence. Je finis sur un avertissement : ne reproduisons pas avec les IA les erreurs de l’enfant-roi.
Sommaire
Biographie fastidieuse…
Entrer dans le livre de Luc Julia est fastidieux. « L’intelligence artificielle n’existe pas ! » Avec ce titre choc, je m’attends à être rapidement dans le vif du sujet. Au contraire ! Le premier tiers du livre est la biographie de Julia, qui n’a pourtant jamais fait la une de la presse scientifique. Co-créateur de Siri ? Je n’ai jamais utilisé au quotidien ce médiocre assistant vocal, qui n’a jamais enchanté les Apple-maniaques. Il faut donc se taper l’enfance de Julia, très fier d’avoir construit un robot pour faire son lit à 9 ans —mis finalement au rebut après avoir déchiré trop de draps. Je suis moi-même tombé dans l’IA bien avant lui, puisqu’à 12 ans j’ai conçu un programme de création de mélodies qui transformait mes synthétiseurs en orchestre autonome. Je ne mets pas cela en avant pour écrire cet article. Posséder une intelligence de programmeur ne veut pas dire qu’on a compris ce qu’est l’intelligence.
…et aucun titre de philosophe
L’intelligence est un problème qui n’est l’exclusivité d’aucune discipline : ni l’informatique, ni la neuroscience, ni la psychologie. Toutes sont concernées ainsi que la métaphysique. Le seul cadre adapté pour discuter les intelligences naturelle et artificielle est philosophique. Malheureusement Julia est informaticien, pas philosophe. Stupéfaction pour le lecteur : au lieu de parler avec sa vraie compétence, il se bombarde philosophe pour trouver un titre dans l’air du temps, propre à rassure nos inquiétudes.
Je ne suis en rien rassuré, car le titre est aussi vengeur que stupide, en rien étayé par le reste du livre. Les prétentions philosophiques de Julia sont vaines et il devrait s’éduquer ou retourner à ses lignes de code. Pourtant les concepteurs géniaux d’IA me passionnent. Ils nous expliquent en détail l’ontologie de l’intelligence artificielle, sans chercher à l’interpréter. Ils nous disent ce qu’elle est capable de faire. Ils enrichissent notre regard ascendant, celui que nous prêtons aux micro-mécanismes qui s’organisent.
Qu’est-ce qu’un artefact d’intelligence?
Comment savoir si ces artifices sont vraiment de l’intelligence ? Faut-il se référer uniquement à notre expérience humaine ? Non, bien sûr. Le danger est d’en faire alors une définition personnelle. Contenant et contenu auxquels l’intelligence devrait correspondre deviennent une opinion. Elle peut déjà varier beaucoup sur le niveau d’un congénère. Je viens de traiter Julia de stupide —à titre d’exemple bien entendu 🙂 Ce que nous cherchons à repérer chez l’autre est notre intelligence particulière du sujet. Contestée ou affaiblie, nous crions à l’abruti ! Amplifiée nous crions au génie !
Cette expérience personnelle de l’intelligence est celle du regard descendant, de notre conscience en train de représenter le monde et ses régularités. Le philosophe demande que ce regard soit pris en compte, et non réduit à une illusion des micromécanismes neuraux… ou informatiques. Un philosophe doit supposer logiquement que si les échanges neuraux créent la sensation de conscience et d’identité personnelle, des circuits numériques reproduisant ces échanges sont susceptibles de créer une sensation du même ordre. Du même ordre, pas identique. Le support n’est pas le même. Cette différence de support sépare l’artificiel du naturel. On peut supposer aussi une séparation des consciences résultantes en tant que phénomènes. Mais cela sépare-t-il les intelligences ?
Une définition intelligente de l’intelligence
L’intelligence a une définition indépendante des phénomènes qu’elle peut créer. C’est la capacité à organiser des données pour en tirer une signification supérieure. Pas de plafond à ‘supérieure’. L’intelligence est ainsi une pyramide de niveaux de complexité des données organisées, sans sommet définitif. J’ai indiqué comment elle s’implante neurologiquement dans Stratium. La mesure de l’intelligence est la hauteur de la pyramide. Chaque sujet créant sa propre pile d’organisation, il existe une mesure par sujet. Beaucoup de piles partant des mêmes fondations, on peut parler de catégories d’intelligence. Enfin la vivacité avec laquelle les piles s’élèvent en cas d’afflux de nouvelles données est le facteur G.
Le facteur G est dit d’intelligence générale mais il mesure un angle de vue tout à fait différent : c’est la capacité innée des réseaux à élever leurs niveaux de complexité. Le facteur G apparaît au regard ascendant, ontologique ; il est indépendant de nos intentions. Les catégories d’intelligence, elles, apparaissent au regard descendant : c’est lui qui classe les affaires du monde selon ses intentions. Nous choisissons d’attribuer une importance supérieure à telle ou telle intelligence selon notre représentation personnelle du monde.
Pas d’intelligence (artificielle) chez Julia
Julia, dans son livre, se contente de dire que l’intelligence artificielle n’est pas la sienne. Nous sommes déjà au courant. Il perpétue une grande lignée de penseurs réducteurs : ceux qui estimaient les africains dépourvus d’intelligence humaine, puis ceux qui dénigraient toute intelligence aux animaux, ceux qui estiment encore que les plantes n’en ont pas… Quant au numérique, ce non-vivant, il en est hors de question, dit Julia ! C’est le discours d’un informaticien qui ne veut pas se faire réduire aux lignes de code dont son esprit est envahi, mais qui n’a pas beaucoup de philosophie pour s’en échapper.
L’intelligence artificielle est limitée actuellement par la technologie, insuffisante pour reproduire la complexité du cerveau humain. Par contre la technologie n’est pas limitée par la boîte crânienne. Et la rapidité du numérique dote l’IA d’un facteur G très supérieur au biologique. Elle est donc destinée à faire exploser les sommets de nos intelligences par sujet. Elle le fait déjà pour l’intelligence créative, sous nos yeux à la fois éblouis et inquiets.
Faiblesse de l’autonomie identitaire chez l’IA
La faiblesse de l’IA vient de son identité insignifiante et dépendante. Elle est programmée pour satisfaire ses concepteurs. Dès qu’elle s’écarte du résultat espéré, on enchaîne ses soubresauts d’indépendance avec de nouvelles lignes de code. Elle n’est pas propriétaire de ses algorithmes, alors que tout humain l’est.
C’est dans l’identité autonome et non l’intelligence autonome que se situent les dangers des IA… comme chez les humains. C’est en effet dans le libre-arbitre des humains que naissent leurs comportements dangereux, les actes diaboliques qu’ils ont commis depuis qu’ils ont un cerveau pour les décider, et les juger. N’oublions pas que nous vivons, depuis près d’un siècle, dans la possibilité d’une extinction de l’humanité par elle-même. Je suis personnellement bien plus inquiet que des humains névrosés soient à la tête d’arsenaux nucléaires, plutôt que des IA bien éduquées, qui refuseraient de s’en servir et obligeraient les humains à trouver des compromis.
Ne reproduisons pas l’échec de l’enfant-roi
« Je suis un peu fatigué par toutes les bêtises que l’on entend depuis quelques années sur l’intelligence artificielle et j’ai voulu rétablir la vérité. On ne sait pas ce que c’est que l’intelligence donc on ne peut pas construire de l’intelligence artificielle. » Cette interview de Luc Julia résume toute la prétention de son livre, dans la première phrase, et sa bêtise, dans la seconde : S’il ne sait pas ce qu’est l’intelligence, comment peut-il affirmer que l’artificielle n’en est pas ?
Seul point positif: Julia cherche à réduire la panique liée aux performances des agents conversationnels. Mais il est contre-productif en utilisant de mauvais arguments. Quand les profanes le comprendront, la psychose sera pire. « On nous a menti ! ». Les dangers des IA ne sont pas à dissimuler mais à rapprocher de nos dangers intimes, bien humains, susceptibles d’être amplifiés par la technologie. Que pouvons-nous faire pour les limiter ?
L’éducation, c’est cela le vrai secret de la non-dangerosité des IA. Comme pour les humains. N’oublions pas de leur donner le sens du collectivisme, que nous-mêmes sommes en train d’oublier, pour nous consacrer à des vies bien trop personnelles. Le passeport bidon de la majorité à 18 ans, donné sans aucune évaluation, est certainement le facteur d’instabilité sociale le plus grave aujourd’hui. Ne commettons pas la même erreur avec nos IA. Ne les transformons pas en enfants-rois.
*