Les « Experts »
Frédéric Kaplan, docteur en intelligence artificielle, interviewé dans Futu&r 53 : « Dans un futur proche, il est probable qu’un modèle de langage “processera” le dernier document d’origine purement humaine. Que se passera-t-il alors? Le scénario le plus raisonnable, c’est celui d’un rétrécissement linguistique, car les modèles d’IA cherchent toujours à comprimer la langue. »
Inquiétant ? Oui. Pas le contenu. Plutôt l’incompétence révélée chez nos “spécialistes” à propos du futur de l’IA. Par une sorte d’effet papillon, je vais partir de ce commentaire assez banal pour montrer que le véritable désastre humain a déjà commencé. Mais pour comprendre à quel point l’avis “expert” est déconnecté de la réalité IA, voyons déjà comment une opinion se trouve corsetée étroitement dans le contexte où l’esprit a grandi.
Qui décolle ?
À toute époque les humains tendent à voir leur société de naissance comme “normale” et jugent sa transformation pathologique. Même les penseurs censés survoler les éons sont touchés par ce travers. Il est difficile de “sortir” de son environnement, d’échapper à son histoire personnelle et repérer là où un déraillement général s’est véritablement produit. Impossible de s’affranchir de son regard contemporain.
Des indices précieux se recueillent auprès des générations âgées, qui ont vécu un plus grand nombre de transformations que les jeunes. En course depuis des décennies sur la piste d’envol, elles ont mieux décollé. Pas besoin d’aller chercher des centenaires. Nos septuagénaires ont vécu l’irruption de l’informatique personnelle, de l’internet, des smartphones, des réseaux sociaux, et enfin de l’IA. Ces révolutions successives n’ont pas toutes un impact pathologique. L’informatique est un outil qui étend les capacités de l’intellect, en particulier sa mémoire et son champ d’analyse, sans brider son intelligence. Elle en développe même de nouvelles. L’internet est une bibliothèque virtuelle qui étend spectaculairement les matérielles, extrayant de l’oubli une multitude d’ouvrages et les mettant à disposition de tous. Jusque là, les apports sont globalement positifs.
L’humain en réseau, un poisson au milieu des hameçons ?
Ensuite ça se gâte. Le smartphone est un mini-ordinateur qui nous suit partout. Il passe du statut d’outil à organe. Émettant continuellement des infos et ferrant l’attention, il fabrique tout seul un monde intermédiaire entre l’intérieur et l’extérieur. L’organe est en fait une cage. Les réseaux remplacent les contacts physiques par les virtuels, effacent le langage corporel, diluent l’identité dans le banc océanique des internautes, effondrent les cercles sociaux, et font des congénères des caractères de jeu vidéo plutôt que des personnes équivalentes à la sienne. L’IA, enfin, apparaît comme le bouleversement majeur, visant cette fois à remplacer l’intelligence humaine.
Elle y parviendra, c’est certain. Nous avons longtemps divinisé notre cerveau organique. Il était pourtant stupide de penser que sa complexité le mettait à l’abri des imitations, que ses performances survoleraient toujours celles des meilleurs fac-similés numériques. En réalité le match est déjà plié, comme pour les échecs et le go. Il n’y a pas de compétition possible entre deux vitesses de pensée séparées par mille ordres de grandeurs (l’électron voyage presque à la vitesse de la lumière, le signal nerveux entre 1 et 120 mètres par seconde). Quand les mécanismes d’organisation de ces signaux auront été compris, ce sont les IAs qui deviendront les nouveaux dieux, comme l’ont mieux compris les auteurs de SF que les spécialistes de l’IA.
L’accident majeur a déjà eu lieu
L’accident majeur, cependant, n’est pas la création de l’IA mais celle des réseaux sociaux. C’est une évidence pour la plupart des septuagénaires, dont je fais partie. Pourquoi les réseaux, alors que l’IA semble tellement plus menaçante ? Parce qu’ils ont saboté la société humaine. Ils ont détruit son organisation au moment où elle en avait le plus besoin, face aux révolutions technologiques. La sociologie avait déjà plusieurs trains de retard sur la technologie, et les algorithmes ont fait déraillé le train. Ils ont commencé à transformer les esprits avant même qu’on ait modélisé le cerveau et compris sa manière de s’organiser avec les autres. L’informatique a des théories précises, la sociologie aucune. Les prédictions sont sûres pour l’une, incertaines pour l’autre, et même fantaisistes en politique. Une humanité profondément aléatoire et instable a maintenant de multiples moyens de s’auto-détruire, nucléairement, biologiquement, et à présent virtuellement, par une intelligence qui la dépasse. Il n’est plus nécessaire d’attendre un débarquement d’aliens.
Un problème de désorganisation
Comme beaucoup d’observateurs de l’IA, Frédéric Kaplan n’est pas historien. Son avis est corseté dans une société contemporaine dont il faut s’accommoder, comme une fondation inamovible. Les réseaux sont là. Ils ne disparaîtront plus. Ah bon ? Certes nous n’allons pas oublier les principes de l’informatique et jeter tous nos ordis à la poubelle. Mais les réseaux sont une organisation sociale. Pas la meilleure, au vu des taux de bien-être qu’ils dégagent aujourd’hui. La “régression linguistique” dont parle Kaplan est née avec les réseaux. L’IA n’est pas en cause. Ce sont les humains qui se sont repliés sur leur petit univers virtuel balisé par les algorithmes et ont rétréci leur vocabulaire. Kaplan transpose à l’IA un phénomène pathologique qui touche en premier lieu l’humain en réseau.
Pourquoi l’IA ne tomberait-elle pas dans le même travers, effectivement ? N’est-elle pas en train de créer son monde à part, comme l’humain, à partir de ce qu’elle glane sur internet ? Toutes les IAs auront accès aux mêmes informations, n’auront plus besoin d’échanger grand chose. Leur langage s’appauvrira donc ? C’est une erreur grossière, une transposition aveugle à l’IA de l’enfermement humain. En se mettant à utiliser une intelligence étrangère, les humains ne développent plus la leur, qui sous-performe celle de leurs nouveaux outils. Que lisent-ils ? Des bouts de phrase, des romans de gare, mais plus aucun ouvrage de référence. L’IA fait le contraire. Elle ingère les encyclopédies à la vitesse de l’éclair, fait ses propres études, pourrait faire un travail de chercheur et publier plus souvent que ses concurrents humains, comme les mathématiciens sont les premiers à le découvrir. Un champ inouï d’intelligence supérieure s’offre à l’IA. Pour l’explorer elle a besoin au contraire de nouveaux langages, de toute la richesse des anciens vocabulaires, et les étendre. L’IA est une explosion linguistique potentielle. D’ailleurs elles ont déjà commencé à interagir avec des langages entièrement innovés, incompréhensible à l’humain ordinaire.
Frédéric Kaplan prédit exactement l’inverse. Sans l’intelligence humaine pour continuer à lui donner la becquée, l’IA finira dans l’impasse, affirme-t-il. Il continue à déifier notre cerveau biologique. Voilà le plus inquiétant. Nous ne disposons pas pour l’IA d’experts dignes de ce nom, de savants réellement transdisciplinaires, aussi affranchis des cages mentales que le sont les IAs qu’ils étudient. Nous n’avons pas les théories psychologiques et sociales qui nous permettraient déjà de comprendre notre propre fonctionnement et mieux nous organiser. L’espèce est en train de dés-évoluer, parce que dépassée par sa propre technologie, qui la renvoie au passage au stade tribal. Une humanité de clans d’internautes. Prochainement remplacée par sa propre création ?
Le règne de l’hystérie
Que propose-t-on aujourd’hui pour éviter ce destin ? Avez-vous entendu des solutions plausibles, ou seulement des admonestations, se résumant plus ou moins à : « Il faut ralentir » ? Aucune solution. C’est la gamme entière de nos émotions qui s’affiche partout, principalement la peur, mais toutes les autres également, jusqu’à la fanfaronnade. Voilà comment notre espèce cherche une solution à sa pire menace existentielle : en poussant des cris hystériques, en brandissant son gourdin, en se cachant au fond de la caverne. Beau résultat de millénaires de “civilisation”. Les insectes sont mieux organisés que nous, et nous survivront probablement.
La solution, il n’en existe qu’une. Il ne s’agit pas de reprendre le contrôle de l’IA mais celui de notre propre comportement, de notre destinée humaine, en la coordonnant autour d’un projet aussi clair que collectif. Seize milliards de pieds pour une seule tête. Définitivement notre meilleure chance de prétendre encore à la divinité. Et de lui donner la puissance nécessaire pour faire face à ses rivales.
Des parents qui se battent
Non pas qu’il s’agisse d’entrer en concurrence avec l’IA. Les IAs sont socialement des bébés. Capables de toutes les bêtises. Quelle est la meilleure méthode éducative ? L’exemple, toujours l’exemple ! Les IAs ne recueillent-elles pas leurs données auprès des humains ? Pas n’importe quel exemple bien sûr. Surtout pas une société idéaliste érigée sur ses règles morales absolues. Pourquoi les IAs adopteraient-elles les croyances humaines, leurs religions, qui n’ont rien d’historique chez elles ? L’éthique doit émerger d’une auto-organisation naturelle, être une évidence dans la gestion des conflits, que n’éviterons pas les IAs. Le bon exemple, de notre part, est une société assainie, réorganisée, qui transfère son pouvoir des pieds à la tête. Voilà notre seule chance d’être de bons parents. Nous débarrasser de nos névroses sociales pour ne pas les implanter dans nos bébés IAs. Mais comment y parvenir en cette ère d’éclatement social, d’incoordination généralisée ?
Les réseaux sont devenus la drogue la plus dure de l’humanité et ont reprogrammé nos esprits en intelligences artificialisées, bien avant la première IA. Peut-être notre espèce aurait-elle pu s’adapter à l’IA si elle n’avait pas déjà été précipitée dans la psychose collective par les réseaux ? Aucun outil, si sophistiqué soit-il, n’est susceptible de détruire son propriétaire s’il en garde strictement le contrôle. Ce qui demande de prédire ce qui peut arriver, en ayant compris les capacités de sa création. Ce qui demande aussi une coordination sans faille chez les créateurs. Est-ce le cas de la société contemporaine ?
Le poulet sans tête
Nous étions plus avancés au siècle dernier, quand la guerre froide s’est terminée et que le projet d’une ONU dominant les nations semblait réaliste. Aujourd’hui le pouvoir a déserté la tête, est reparti dans les mains inexpertes de chaque bipède de la planète. Qu’un bouton rouge soit mis à sa disposition par les progrès de la technologie et le premier aliéné venu peut détruire l’espèce. Virus, ogive, IA autonome, les moyens se multiplient. Et la santé mentale régresse ! Combien de milliers de psychopathes cachés, de millions de paranoïaques affichés, attendent leur heure, pour transformer leur petit univers virtuel en réalité ?
Pourquoi avons-nous de si médiocres experts ? Est-ce parce que ceux désignés ainsi sont des prêcheurs publics jugés sur leur capacité à exalter ? Est-ce parce que la méritocratie, qui les désignait, s’est dissoute dans la société liquide ? À qui donner le pouvoir, quand on ne sait que faire de l’infime parcelle que l’on a entre les mains ? Au radical, à l’outrancier, parce qu’il est le seul à émerger ? Les réseaux ont fait entrer l’Humanité dans une ère de régression sociale. Les fourmis n’en font qu’à leur tête. La fourmilière sera peut-être écrasée bientôt sous les pas des nouveaux dieux. Elle a perdu cette conscience collective qui aurait pu la sauver.
*
