IA: un conflit inter-humain

Un conflit sur quelle base?

À lire la presse, nous avons l’impression d’être déjà entrés dans une guerre entre humains et IA. Le monstre est encore en laisse. Mais ses concepteurs ne vont-ils pas le cacher plutôt que le détruire ? Ou sera-t-il vendu en secret à des autocrates mal intentionnés, qui le développeront à leur profit exclusif ? Une technologie de cet ordre ne peut disparaître ou être contrôlée. Comme toute invention humaine dangereuse elle ne peut faire l’objet que de contre-mesures, dans une course perpétuelle à la puissance, sous une épée damoclétienne : Quelqu’un va-t-il en faire usage ? Ce n’est pas la première épée. La planète est nucléarisée et peut sauter d’un moment à l’autre. Réussir à réfléchir demande de s’y habituer.

La première réflexion est que c’est un conflit sans base. Je ne veux pas dire par là qu’il serait sans motif mais qu’il n’existe aucune définition bien comprise de l’intelligence. Officiellement du moins. Officieusement, pour les lecteurs de Stratium, l’intelligence est une notion parfaitement cernée, quantifiable de manière ontologique et non à l’aide d’outils aussi discutables que les tests de QI. Commençons par revoir cette notion fondamentale avant de décider s’il faut devenir hystérique à propos des IA.

L’intelligence est une hauteur d’intégration

« L’ » intelligence n’existe pas plus que « le » volume. Vous en trouvez des petits, des moyens et des grands. C’est une mesure d’échelle selon un critère. Critère simple pour le volume : une quantité d’espace tridimensionnel. Plus compliqué pour l’intelligence : c’est l’efficacité organisationnelle. Très subjectif. Tentons de préciser. Partons de ce qui s’organise, soit les parties d’espace pour un volume, les concepts pour l’intelligence. Une simple addition suffit pour organiser les parties d’un volume, si elles ne se recoupent pas. Tandis que les concepts se tissent en une hiérarchique complexe. Pyramide de représentations, depuis les plus élémentaires —un bâtonnet allumé sur la rétine— jusqu’aux plus sophistiquées —par exemple l’éthique avec les penseurs et les histoires connectés à cette notion.

Plus un concept synthétise un vaste ensemble de critères, plus il est élevé dans la pyramide. Quantifier l’intelligence implique de mesurer la hauteur de la pile, non la simple addition de parties. Tous les cerveaux sont uniformément actifs et traitent une grande quantité de données. Ce n’est pas cette quantité qui fait l’intelligence, mais leur intégration poussée.

Beaucoup d’espèces à planter dans un champ

Les caractéristiques remarquables de notre intelligence ont deux origines conjointes : 1) La variété des critères offerte par la présence de cinq sens, de nos instruments technologiques et des mimétismes sociaux. 2) L’empilement élevé des étages d’analyse qu’autorise notre vaste champ neural. Mais il existe un frein à cette élévation : l’organisation des concepts devient plus difficile à mesure que leurs relations deviennent moins évidentes. L’association de pixels en traits se fait naturellement dans les centres visuels, tandis que l’association d’indicateurs sociaux en politique économique est une gageure pour le cerveau profane.

Continuer l’élévation de notre pyramide conceptuelle réclame ainsi des outils méthodologiques. Comment organiser ensemble des concepts qui semblent étrangers les uns aux autres ? Autant les parties d’espace sont faciles à assembler car partageant une même nature, autant des parties dotées chacune d’une qualité spécifique paraissent impossibles à fusionner. L’esprit s’en tire généralement en revenant à la constitution des choses, pour leur chercher des points communs. Il fabrique des modèles et les teste. Échecs et réussites. L’intelligence n’a jamais fini de s’affiner.

Un Observateur pour les contrôler toutes

En raison de la génétique et des différences de parcours, les intelligences sont nettement contrastées d’un individu à l’autre. La variété des environnements spécialise nos intelligences. L’afflux de données dans un domaine, ou leur raréfaction, stimule ou amoindrit l’intelligence concernée. D’où une interrogation : une intelligence se développe-t-elle au détriment des autres ? Cela semble attesté par la litanie de génies, cerveaux célèbres pour leur hyperspécialisation, qui ont perdu pied dans la vie courante. Nietzsche, Camille Claudel, Maupassant, Lautréamont, Van Gogh, James Joyce, Hölderlin, Sade, Poe, Kafka, Strindberg, Virginia Woolf, Hemingway, John Forbes Nash, Morphy, Bobby Fisher… Montrez-moi quelqu’un qui ne pense qu’à une chose et je vous montrerai son indigence à penser le reste. Mais alors ceux qui ne pensent à rien sont-ils des généralistes de génie ? 🙂

Ce qui différencie le plus nos intelligences est l’observation de notre méthode personnelle pour l’étendre. Génétique et environnement créent parfois des potentiels impressionnants qui restent en friche par défaut de méthode. C’est l’observation de soi qui désenclave l’intelligence et libère tout son potentiel. Est-ce à dire que nous aurions besoin comme l’IA, finalement, d’une évaluation pour devenir pleinement intelligents ?

Combien d’étages à votre pyramide d’intelligence?

La codification effectuée par les neurones est bien différente de la méthode informatique classique. Dans les opérations de votre ordinateur personnel, données et résultats utilisent le même langage ‘machine’. Le résultat est traduit dans un langage utilisateur programmé. Dans un cerveau au contraire, les neurones construisent eux-mêmes leur langage, à mesure que les données avancent dans les étages hiérarchiques du réseau. Chaque étage possède son propre code, fondé sur celui de l’étage sous-jacent et assemblé à son tour par le sus-jacent.

À chaque étape, le code est l’intégration des données. Données et résultat sont les deux faces indissolubles d’un même processus. L’intégration s’étend progressivement à mesure que la pyramide s’élève, de même que la valeur symbolique des réseaux excités. C’est ainsi que quelques neurones au sommet de la pyramide supportent une pensée élaborée —Cf le neurone grand-mère—, alors qu’ils sont parcourus par les mêmes stupides excitations neurales que les simples récepteurs des bâtonnets visuels.

La machine nous ressemble un peu trop

Votre ordinateur personnel offre un début de similitude par l’étagement de son code : électrique, binaire, code machine, langage de programmation, OS d’interface utilisateur. Cinq niveaux. Il en existe bien davantage dans le cerveau, ce qui explique que l’organe biologique accède à une conscience de haut niveau et pas votre ordi. Mais surtout, chaque niveau du cerveau organise son propre code ; il auto-crée sa conscience. Nous n’osons pas laisser encore une telle latitude à nos assistants de silicium. Quelle ‘sélection artificielle’ viendrait éliminer les ratés ? Sommes-nous capables de la sapience nécessaire ?

C’est bien la source de la panique provoquée par les IA. Avec les réseaux d’apprentissage profonds, les IA singent à présent le fonctionnement du cerveau. Ce n’est plus cinq niveaux mais un nombre illimité qu’elles peuvent théoriquement employer. En pratique elles se contentent d’un nombre encore très inférieur à un cerveau humain. Pourquoi cette restriction ? L’augmentation de profondeur des IA se heurte rapidement à une instabilité rédhibitoire. L’IA devient “folle”. Notons que le cerveau humain n’est pas à l’abri du problème, quand il intègre trop vite des évènements incompatibles, ou bien que des drogues détruisent son organisation. La solution, pour l’IA comme pour l’humain, est un apprentissage progressif, ne mélangeant pas trop vite les données les plus difficiles à organiser ensemble, celles qui réclament déjà une grande hauteur de vue…

Un moratoire sur l’humain?

Les IA ne deviendront psychopathes et dangereuses qu’entre les mains d’humains qui les rendront ainsi, parce qu’eux-mêmes sont psychopathes et dangereux. Les risques des IA renvoient à la liberté fondamentale que réclament les humains, celle de penser et d’agir sans aucune contrainte.

La liberté est un explosif. Qui transforme le monde. À manipuler avec les plus grandes précautions. Mais n’en avons-nous pas déjà fabriqué des stocks incontrôlables ?

*

La pensée humaine est-elle codable ? Philomag

Synthèse intelligence artificielle

Laisser un commentaire