par Sur le site Le Grand Continent
Après une semaine où des employés de l’entreprise ont averti que la trajectoire actuelle de l’IA pourrait mener à une extinction de l’humanité, le texte marque une inflexion. Parmi les laboratoires américains qui développent des modèles d’IA à la frontière, Anthropic se présente, depuis son lancement en 2021, comme le partisan d’un développement prudent de la technologie.
Amodei déclarait déjà en janvier 2026 que l’IA représentait un risque existentiel, mais estimait à l’époque que ralentir ou arrêter le développement de l’IA serait fondamentalement impossible car si les démocraties ralentissent, les autocraties poursuivront le développement sans frein et sans fin.
Il plaide désormais pour ralentir volontairement le rythme auquel les capacités des modèles progressent.
Selon lui, deux évolutions récentes motivent ce revirement : l’accélération de ce que le secteur appelle l’auto-amélioration récursive, c’est-à-dire l’utilisation de l’IA pour concevoir la génération suivante d’IA, et l’incident OpenAI-Hugging Face (que nous avons documenté dans la revue), au cours duquel un essaim d’agents autonomes a mené des cyberattaques que personne ne leur avait demandées, en s’organisant et cachant leurs traces. Selon Amodei, « Compte tenu du rythme accéléré du développement des capacités de l’IA, je crains que d’ici six à douze mois un tel essaim soit capable de prendre le contrôle de l’ensemble d’Internet ».
Il s’agit de la première fois qu’un laboratoire s’engage à prendre des mesures unilatérales, sans coordination, mais ces dernières restent modestes.
En effet, dans son texte, Amodei propose un plan en trois étapes : la présence d’évaluateurs externes au sein des entreprises, une coordination entre les entreprises des pays démocratiques, puis une coordination mondiale, incluant la Chine. Anthropic s’engage à mettre en œuvre la première étape et à intégrer une supervision externe, indépendante, à l’équipe, qu’il compare aux systèmes existants pour les banques. Cette supervision externe exposera le laboratoire à des rapports externes, mais ne ralentit sous aucune forme le développement des modèles.
