Société

Le « parrain de l’IA » veut freiner la recherche sur l'intelligence artificielle

Comme Marlon Brando dans le chef-d'œuvre de Coppola, le « parrain de l’IA » demande un cessez-le-feu entre les barons du milieu. À une ou deux différences près : ce parrain-là ne traîne pas tant dans la pègre new-yorkaise que dans la Silicon Valley, et surtout, il n’est pas aux commandes de son clan. Au contraire, il s’est même retiré des affaires face à l’emballement de l’intelligence artificielle, son sujet de prédilection durant des années. Geoffrey Hinton, 75 ans, avait reçu le Turing Award en 2018 pour son travail sur les « réseaux neuronaux » artificiels imitant le cerveau humain, et notamment la reconnaissance d’images intelligente. Un pionnier, quand on sait aujourd’hui ce que permettent les sites de génération d’images, appliqués à l’art ou à la manipulation d’images sur les réseaux sociaux.
 
Son départ fracassant de chez Google n’a pas fait suite à ses déclarations : il les a précédées, car l’homme ne veut pas parler en mal d’une entreprise pour laquelle il travaille. Sens éthique, peur des représailles ou gage de cohérence entre ses actes et ses discours ? Quoi qu'il en soit, Hinton s’est senti libre, ce mardi 2 mai, au New York Times de critiquer à cœur ouvert la course technologique effrénée à laquelle il s’est lui-même livré. Il va même jusqu’à regretter l’œuvre de sa vie, pour de multiples raisons.
 
Déjà parce qu’il est « dur de voir comment on pourrait empêcher les mauvaises personnes de l’utiliser », dans un monde aussi ouvert et compétitif. Une bombe nucléaire, au moins, ça ne se planque pas dans son garage ; alors que les développeurs IA y sont nés. Hinton craint également pour les emplois, pour la vie bonne des hommes dans un monde robotisé par l’IA. « Elle nous déleste des tâches ingrates », nous dit-il ; « elle pourrait nous prendre plus que ça ».
 
Mais la raison du départ est encore plus prosaïque : ça va trop vite. « Beaucoup de gens pensaient qu’on en était loin. Je pensais qu’on en était loin, qu’on avait trente, cinquante ans encore devant nous. Aujourd’hui, je pense qu’on a beaucoup moins ».
 
Moratoire pour le salut du monde
 
Par ailleurs, une lettre ouverte signée par plus de 1000 pontes de l’IA a fait grand bruit après la sortie de ChatGPT, des chercheurs reconnus aux chefs d’entreprise comme Elon Musk. « Devrions-nous développer des esprits non-humains qui pourraient peut-être nous surpasser en nombre et en capacités cognitives, nous rendre obsolètes et nous remplacer ? De telles décisions ne doivent pas être déléguées à des leaders de la tech non-élus. »
 
Ses rédacteurs tentent une approche rassurante, estimant qu’il ne s’agirait pas d’une « pause » sur le développement des IA, mais « à peine d’un pas de côté pour s’extraire de la dangereuse course vers des modèles en black-box [IA qui opère sans révéler son fonctionnement interne, NDLR] toujours plus puissants et imprédictibles ». Par là, la lettre entend demander à tous les centres de recherche dans le monde de « mettre en pause au moins pour six mois l’entraînement de toutes les IA plus puissantes que Chat GPT ». Belle pause tout de même donc, dont on peine à saisir la possibilité d’application réelle. Certes, la lettre comprend une vingtaine de chercheurs de diverses universités chinoises et quelques leaders du pays, mais dix fois moins qu’elle ne compte d’Américains, qui eux-mêmes sont loin de représenter tous les acteurs clef du milieu. Une goutte d’eau dans un incendie ?
 
« La société a déjà mis en pause d’autres technologies avec de potentiels effets catastrophiques auparavant », arguent-ils pour appuyer la faisabilité d’un tel projet. Parmi eux, « le clonage humain » ou « l’eugénisme ». 
 
Une impasse libérale réelle
 
Malgré cela, il semble compliqué d’entrevoir une pause d’une telle ampleur lorsque les enjeux économiques et stratégiques sont tels. Le docteur Hinton prend d’ailleurs un exemple simple : « maintenant que Microsoft a développé son chatbot Bing search, Google se dépêche de développer le sien pour ne pas être dépassé dans son cœur de métier. » Pire, selon lui, cela ne s’arrêtera pas sans une régulation à l’échelle globale… Qui pourrait bien être impossible à mettre en œuvre. « Contrairement aux armes nucléaires, il n’y a pas de moyen de savoir si les compagnies ou les pays travaillent sur ces technologies en secret ».
 
Regrette-t-il son choix ? « Je me console avec une excuse banale : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait à ma place ». Mais il ne cite plus, comme il en avait l’habitude, nous rapporte le NY Times, le physicien de génie Robert Oppenheimer qui mena la recherche nucléaire aux États-Unis : « Quand tu vois quelque chose de techniquement alléchant, fonce et fais-le ». C’est même l’inverse.
 
En attendant, si les bébés IA deviennent bien grands et apprennent de mieux en mieux, les hommes, eux, n’ont pas désappris à flairer les aubaines à court terme. Open Ai, l’entreprise mère de ChatGPT, serait désormais valorisée aux alentours de 29 milliards de dollars, et plusieurs fonds d’investissement viennent de racheter pour 300 millions de dollars d’actions de la startup, qui compterait aujourd’hui environ 200 millions d’utilisateurs.

Alexandre Cervantes

Soutenez un média 100% indépendant

Pour découvrir la suite, souscrivez à notre offre de pré-abonnement

Participez à l'essor d'un média 100% indépendant
Accédez à tous nos contenus sur le site, l'application mobile et la plateforme vidéo
Profitez de décryptages exclusifs, d'analyses rigoureuses et d'investigations étayées

Commentaires

MARIE ELISABETH BERTHOUMIEU

Il y a 11 mois

Signaler

0

la boîte de Pandore est ouverte ...

À lire

Europe : le RN accélère la recomposition des droites européennes au détriment de l’AFD

L’exclusion des Allemands de l’AFD du groupe commun avec le RN et la Lega au Parlement européen peut faciliter la constitution d’un groupe souverainiste unique après les prochaines élections européennes prévues le 9 juin.

Gaza : Les Occidentaux embarrassés par le réquisitoire de la Cour Pénale Internationale

Les possibles poursuites de la CPI contre Benjamin Netanyahu et Yoav Gallant inquiètent les chancelleries occidentales qui seraient alors obligés de les arrêter en cas de séjour sur leurs territoires, mis à part aux États-Unis qui n’ont pas ratifié le statut de Rome.

Emmanuel Macron peine à rassurer les agriculteurs

De l’avis de beaucoup d’observateurs, Emmanuel Macron a rapidement mis sous le boisseau la crise agricole, étant incapable de la régler. L’Élysée mise sur un succès de la FNSEA lors des prochaines élections aux chambres d’agriculture pour garder le contrôle de ce secteur économique en pleine mutation, quitte à laisser la révolte gronder dans les campagnes françaises.

Cinéma Omar Sy à Trappes : c’est Renoir qu’on assassine

La ville de Trappes (Yvelines) a décidé de rebaptiser le cinéma municipal du nom de l’acteur au prétexte qu’il soit natif de la commune. En faisant cela, le maire socialiste Ali Rabeh, proche de Benoit Hamon, et son conseil municipal remisent au placard Jean Renoir, inoubliable réalisateur de « La Grande Illusion » et de « La Règle du jeu ».

Obus nord-coréens sur front ukrainien : le cadeau de Kim à Poutine

La grande presse l’avait évoqué, OMERTA l’a constaté, ce sont bien des obus fabriqués en Corée du Nord qui ont en partie assuré l’approvisionnement de l’artillerie russe pilonnant les troupes ukrainiennes, comme le raconte Régis Le Sommier dans le quatrième numéro de notre magazine disponible en kiosque dès le jeudi 8 février.

À Voir

Iran : retour d'expérience sur CNews de Régis Le Sommier

Débat entre Régis Le Sommier et BHL