Société
Le « parrain de l’IA » veut freiner la recherche sur l'intelligence artificielle
Geoffrey Hinton, l’un des pionniers de l’intelligence artificielle, quitte Google et regrette l’œuvre de sa vie à cause des dangers qu’elle pourrait générer. Encore un avertissement, s’il en fallait d’autres, après la lettre ouverte de 1000 leaders de la technologie demandant un moratoire de 6 mois sur le développement de l’IA, dont Elon Musk.
Alexandre Cervantes
4 mai 2023 à 11:47
Partager via
Comme Marlon Brando dans le chef-d'œuvre de Coppola, le « parrain de l’IA » demande un cessez-le-feu entre les barons du milieu. À une ou deux différences près : ce parrain-là ne traîne pas tant dans la pègre new-yorkaise que dans la Silicon Valley, et surtout, il n’est pas aux commandes de son clan. Au contraire, il s’est même retiré des affaires face à l’emballement de l’intelligence artificielle, son sujet de prédilection durant des années. Geoffrey Hinton, 75 ans, avait reçu le Turing Award en 2018 pour son travail sur les « réseaux neuronaux » artificiels imitant le cerveau humain, et notamment la reconnaissance d’images intelligente. Un pionnier, quand on sait aujourd’hui ce que permettent les sites de génération d’images, appliqués à l’art ou à la manipulation d’images sur les réseaux sociaux.
Son départ fracassant de chez Google n’a pas fait suite à ses déclarations : il les a précédées, car l’homme ne veut pas parler en mal d’une entreprise pour laquelle il travaille. Sens éthique, peur des représailles ou gage de cohérence entre ses actes et ses discours ? Quoi qu'il en soit, Hinton s’est senti libre, ce mardi 2 mai, au New York Times de critiquer à cœur ouvert la course technologique effrénée à laquelle il s’est lui-même livré. Il va même jusqu’à regretter l’œuvre de sa vie, pour de multiples raisons.
Déjà parce qu’il est « dur de voir comment on pourrait empêcher les mauvaises personnes de l’utiliser », dans un monde aussi ouvert et compétitif. Une bombe nucléaire, au moins, ça ne se planque pas dans son garage ; alors que les développeurs IA y sont nés. Hinton craint également pour les emplois, pour la vie bonne des hommes dans un monde robotisé par l’IA. « Elle nous déleste des tâches ingrates », nous dit-il ; « elle pourrait nous prendre plus que ça ».
Mais la raison du départ est encore plus prosaïque : ça va trop vite. « Beaucoup de gens pensaient qu’on en était loin. Je pensais qu’on en était loin, qu’on avait trente, cinquante ans encore devant nous. Aujourd’hui, je pense qu’on a beaucoup moins ».
Moratoire pour le salut du monde
Par ailleurs, une lettre ouverte signée par plus de 1000 pontes de l’IA a fait grand bruit après la sortie de ChatGPT, des chercheurs reconnus aux chefs d’entreprise comme Elon Musk. « Devrions-nous développer des esprits non-humains qui pourraient peut-être nous surpasser en nombre et en capacités cognitives, nous rendre obsolètes et nous remplacer ? De telles décisions ne doivent pas être déléguées à des leaders de la tech non-élus. »
Ses rédacteurs tentent une approche rassurante, estimant qu’il ne s’agirait pas d’une « pause » sur le développement des IA, mais « à peine d’un pas de côté pour s’extraire de la dangereuse course vers des modèles en black-box [IA qui opère sans révéler son fonctionnement interne, NDLR] toujours plus puissants et imprédictibles ». Par là, la lettre entend demander à tous les centres de recherche dans le monde de « mettre en pause au moins pour six mois l’entraînement de toutes les IA plus puissantes que Chat GPT ». Belle pause tout de même donc, dont on peine à saisir la possibilité d’application réelle. Certes, la lettre comprend une vingtaine de chercheurs de diverses universités chinoises et quelques leaders du pays, mais dix fois moins qu’elle ne compte d’Américains, qui eux-mêmes sont loin de représenter tous les acteurs clef du milieu. Une goutte d’eau dans un incendie ?
« La société a déjà mis en pause d’autres technologies avec de potentiels effets catastrophiques auparavant », arguent-ils pour appuyer la faisabilité d’un tel projet. Parmi eux, « le clonage humain » ou « l’eugénisme ».
Une impasse libérale réelle
Malgré cela, il semble compliqué d’entrevoir une pause d’une telle ampleur lorsque les enjeux économiques et stratégiques sont tels. Le docteur Hinton prend d’ailleurs un exemple simple : « maintenant que Microsoft a développé son chatbot Bing search, Google se dépêche de développer le sien pour ne pas être dépassé dans son cœur de métier. » Pire, selon lui, cela ne s’arrêtera pas sans une régulation à l’échelle globale… Qui pourrait bien être impossible à mettre en œuvre. « Contrairement aux armes nucléaires, il n’y a pas de moyen de savoir si les compagnies ou les pays travaillent sur ces technologies en secret ».
Regrette-t-il son choix ? « Je me console avec une excuse banale : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait à ma place ». Mais il ne cite plus, comme il en avait l’habitude, nous rapporte le NY Times, le physicien de génie Robert Oppenheimer qui mena la recherche nucléaire aux États-Unis : « Quand tu vois quelque chose de techniquement alléchant, fonce et fais-le ». C’est même l’inverse.
En attendant, si les bébés IA deviennent bien grands et apprennent de mieux en mieux, les hommes, eux, n’ont pas désappris à flairer les aubaines à court terme. Open Ai, l’entreprise mère de ChatGPT, serait désormais valorisée aux alentours de 29 milliards de dollars, et plusieurs fonds d’investissement viennent de racheter pour 300 millions de dollars d’actions de la startup, qui compterait aujourd’hui environ 200 millions d’utilisateurs.
MARIE ELISABETH BERTHOUMIEU
Il y a 4 jours
Signaler
0
la boîte de Pandore est ouverte ...