International
"Nous ne voulons pas mourir" : après ChatGPT, la peur de l’IA s’invite devant le siège d’Anthropic
Des manifestants scandent des slogans devant le siège d'Anthropic à San Francisco, en Californie, à l'occasion de l'introduction en bourse (IPO) de cette entreprise spécialisée dans l'intelligence artificielle, le 19 novembre 2026. (Photo de KARL MONDON / AFP)
San Francisco, États-Unis - Alors qu’Anthropic réalise une entrée en Bourse historique, une centaine de manifestants se sont rassemblés devant son siège à San Francisco pour dénoncer les risques d’une intelligence artificielle échappant au contrôle humain. Parmi eux, des chercheurs en sécurité de l’IA réclament un encadrement plus strict de cette technologie et mettent en garde contre la course à la puissance engagée par les géants du secteur.
"N'investissez pas dans l'extinction" : le jour de l'entrée en Bourse du créateur de Claude, une centaine de manifestants ont bravé les orages jeudi devant le siège d'Anthropic à San Francisco pour dénoncer sa course à une IA toujours plus puissante.
Cinq jours après une marche pour réclamer un traité international sur l'IA devant le siège d'OpenAI, le créateur de ChatGPT et grand rival d'Anthropic, les personnes rassemblées étaient jeunes, en majorité des hommes, dont nombre de chercheurs en sécurité de l'IA et quelques étudiants de l'université de Berkeley.
"Ces gens vont faire du profit avec une technologie dont ils admettent eux-mêmes qu'elle pourrait éliminer la vie humaine sur Terre", s'indigne Tarnel Abbott, bibliothécaire retraitée de 72 ans.
"La plupart des gens dans le pays, même à San Francisco, ne savent pas ce qui se passe (...) C'est presque une boîte noire", observe Emily Tan, 31 ans, venue de Los Angeles.
Premier mot d'ordre : l'interdiction de l'"auto-amélioration récursive" (RSI en anglais), c'est-à-dire le stade où des IA conçoivent elles-mêmes la génération suivante, plus puissante et de plus en plus vite, au risque d'échapper à tout contrôle humain.
"Il n'y a que quelques endroits au monde où c'est possible en 2027, et ce bureau en fait partie", a lancé au mégaphone Jacob Coxon, jeune chercheur dont la démission d'Anthropic et les mises en garde avaient fait grand bruit en septembre.
"Tous ceux à qui je parle" dans la Silicon Valley "disent en privé qu'ils ne veulent pas voir ça en 2027", a-t-il assuré.
Anthropic, qui a réalisé jeudi l'entrée en Bourse la plus importante de l'histoire, assure ne pas avoir encore atteint le stade de la RSI. Elle reconnaît que cette évolution, qu'elle juge évitable, pourrait accroître le risque, abondamment décrit aux investisseurs, de perdre le contrôle de l'IA.
Les "gentils"
"Ils parlent de ralentir (...) mais ils n'essaient pas vraiment, et ils entrent en Bourse aujourd'hui en gagnant beaucoup d'argent sur de possibles projets" d'auto-amélioration, reproche Tyler Tracy, 26 ans, chercheur chez Redwood Research, une organisation à but non lucratif spécialisée dans la sécurité de l'IA.
Ancien d'OpenAI, Daniel Kokotajlo dit avoir "beaucoup d'amis chez Anthropic et OpenAI". Quand il leur fait part de ses craintes, ils lui répondent : "Si nous ne le faisons pas, OpenAI le fera. Ou la Chine le fera. Et nous, nous sommes les bons gars responsables."
"Je n'aime pas cette réponse, c'est pour ça que je manifeste", lâche ce trentenaire qui dirige l'AI Futures Project, une organisation de prospective.
"Regardez n'importe quel autre secteur : la FDA (l'agence du médicament), la FAA (le régulateur de l'aviation civile)... Nous n'avons pas ça dans la tech, alors que certains des plus grands enjeux du moment s'y jouent pour chaque habitant de la planète", plaide Emily Tan.
"Vous aviez dit que vous ne feriez pas la course en tête", rappelle une pancarte.
Selon leurs opposants, les fondateurs d'Anthropic assuraient à leurs débuts qu'ils ne seraient jamais les premiers à sortir l'IA la plus avancée.
La plupart des manifestants rencontrés par l'AFP utilisent toutefois l'IA et la jugent utile, mais estiment qu'elle progresse trop vite, sans garde-fous.
La veille, une lettre ouverte signée par des chercheurs, des entrepreneurs et des universitaires avait accusé Anthropic de ne pas être "une entreprise d'IA sûre".
Seul contre-manifestant, Barak Gila, 31 ans, blogueur militant, brandissait devant la foule une pancarte "Merci, l'équipe d'Anthropic", vantant les mérites de la technologie et l'ampleur des retombées économiques locales.
Quand un manifestant vient l'interpeller, Barak Gila, tout sourire, semble ravi d'en découdre : "Sans Anthropic, je vais mourir, c'est sûr. Alors qu'avec Anthropic, je vivrai peut-être dix ans de plus", lui lance-t-il, d'un air provocateur. "Ou peut-être que tu mourras dans deux ans !", lui rétorque son jeune contradicteur. (Quid avec AFP)