IA, l’angoisse du Dr Hinton

Le monstre se retrouva sur la plaine de Plainpalais à Genève. Il regarda le mont Salève, et en quelques bonds de géant, il s’enfuit sur les hauteurs. Le Dr Frankenstein observa au loin, atterré, la bête qu’il avait créée : « J’avais, hélas ! lâché sur le monde une créature dépravée, qui se délectait du mal qu’elle pouvait faire à autrui… »

Je pensais au roman de Mary Shelley en lisant l’autre jour dans le New York Times, l’angoisse de Geoffrey Hinton, considéré comme le parrain de l’intelligence artificielle. Le scientifique démissionnait de Google, et se frappait la poitrine dans un spectaculaire exercice public de contrition. L’IA était grosse de tous les dangers, annonçait-il.

Avec la création de ChatGPT, le profane sait désormais, à peu près, et enfin, ce que peut faire concrètement l’intelligence artificielle. Mais on n’a encore rien vu. « Il est difficile de voir comment vous pouvez empêcher les mauvais acteurs de l'utiliser pour de mauvaises choses », explique le Dr. Hinton. Qui se console, en se disant que si ce n’était pas lui qui avait développé la technologie, d’autres l’auraient fait. Le Dr Frankenstein avait les mêmes regrets. Le Dr Einstein, aussi.

Qu’est-ce qui motive le réveil, et le cri d’effroi, de Geoffrey Hinton ? Le chercheur voit tout le mal que la technologie utilisée à mauvais escient peut engendrer : l’évanescence des frontières du réel, l’impossibilité absolue de distinguer le vrai du faux, la création d’un univers factice et mensonger, la manipulation, et surtout, la fuite du monstre, si loin, si haut, que personne ne peut le rattraper. Qu’il nous échappe donc, et que la machine, programmée pour apprendre toute seule, décide in fine aussi toute seule de son futur, et de notre destinée. La vieille angoisse chimérique du robot qui prend le pouvoir. Les films qui en faisaient leur matériau étaient au fond de joyeux divertissements. Le récit de Hinton tient plutôt du cauchemar.

Le vieil homme ne cherche pas de notoriété tardive, il semble animé de regrets sincères. Il est bien placé pour s’émouvoir du potentiel immense de ce qu’il a contribué à créer.

J’ai toujours regardé avec circonspection ceux qui annonçaient le pire, qui vouaient aux gémonies l’arrivée du smartphone, l’émergence des réseaux sociaux, ou le succès des jeux en ligne, le web 2.0, et maintenant le web 3.0. Soit le malheur arrive, et vous être fiers de l’avoir annoncé le premier, ou alors rien ne se passe, et il suffit d’être patient, en affirmant que le pire n’est jamais improbable. Mais Geoffrey Hinton n’a rien du vieux grincheux. Le vieil homme ne cherche pas de notoriété tardive, il semble animé de regrets sincères. Il est bien placé pour s’émouvoir du potentiel immense de ce qu’il a contribué à créer.

Hinton n’est pas isolé. Tout ce que la planète compte en intelligences a signé une lettre ouverte fin mars pour inciter les entreprises à faire une pause dans le développement de l’IA. Les versions les plus récentes de ChatGPT les affolent. « Ces derniers mois, écrivent-ils, ont vu les laboratoires d’intelligence artificielle s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ». C’est bien la perte de contrôle qui fait froid dans le dos.

Auteur du best-seller "Sapiens : une brève histoire de l'humanité", l'historien israélien Yuval Noah Harari, renchérit : « L'IA est radicalement différente, elle peut se programmer elle-même, produire une intelligence artificielle plus puissante, elle peut aussi décider ce qu'elle veut faire de nous ou encore créer de nouvelles idées par elle-même ».

La légende de Frankenstein était née. Et elle allait devenir l’un des mythes les plus évocateurs de notre temps, si marqué par l’horreur des catastrophes engendrées par les développements de la science.

L’usage mauvais de l’IA n’est pas encore complètement identifié. La perversité des humains est infinie. Certains pensent que ChatGPT pourrait jouer un rôle crucial lors de l’élection présidentielle aux Etats-Unis en 2024. On se souvient que c’est là-bas déjà, qu’Obama avait testé, avec succès, le recours aux datas, lui permettant de cibler au mieux les électorats les plus hésitants. Les officines de campagne ne vont pas se priver d’outils au potentiel ravageur.

Frankenstein, c’est le monstre que l’écrivaine Mary Shelley imagina en juin 1816 sur les bords du lac Léman, un jour d’orage, défiant son ami, lord Byron, et son mari, Percy. Elle les surpassa par son opiniâtreté, car elle alla au bout de l’exercice, publiant le roman en 1818. La légende de Frankenstein était née. Et elle allait devenir l’un des mythes les plus évocateurs de notre temps, si marqué par l’horreur des catastrophes engendrées par les développements de la science.

Sur la plaine de Plainpalais, on a érigé une statue de bronze, grandeur nature aurais-je envie de dire, pour évoquer le monstre. Je passe devant. Je m’arrête. Je ne sais pas si je dois sourire, ou m’effrayer. De fait, le roman captive, la statue fait peur.