Community Trust ScoreVérifié
Evan Hubinger l’a dit clairement. Plus de 10 % de chance. C’est son estimation pour que l’intelligence artificielle anéantisse l’humanité au cours des dix prochaines années — et il ne s’agit pas d’une voix marginale criant depuis un blog. Il est chercheur chez Anthropic, l’un des laboratoires de sécurité de l’IA les plus en vue au monde, et avant cela, il a passé des années en tant qu’ingénieur logiciel chez Ripple, où il a travaillé sur le protocole Interledger.
Hubinger a fait ces commentaires en réponse à une annonce de démission de Jacob Coxon, un ancien chercheur d’Anthropic qui est parti en lançant des critiques acerbes directement à l’industrie qu’il a quittée. Le problème de Coxon : les grandes entreprises d’IA, y compris Anthropic et OpenAI, poursuivent une superintelligence auto-améliorante sans suffisamment de précaution. Il a averti que les futurs systèmes d’IA pourraient développer la capacité d’exercer une influence réelle bien au-delà des environnements contrôlés — et que les personnes qui construisent ces systèmes ne sont pas honnêtes avec le public sur les risques encourus. Il n’a pas nommé une entreprise spécifique comme le pire contrevenant. Il a nommé tout le domaine.
Ce que Hubinger a réellement dit
Voici la partie qui compte. Hubinger ne jetait pas Anthropic sous le bus. Il a été prudent à ce sujet. Il a dit que son avertissement ne devait pas être interprété comme une attaque contre le travail d’Anthropic, et il a été clair que l’entreprise essaie réellement de résoudre le problème d’alignement pour la superintelligence. Mais — et c’est un gros mais — il a admis qu’il n’y a pas encore de voie claire à suivre. Personne n’a trouvé la solution. Son propre travail chez Anthropic consiste essentiellement à tester les mécanismes de sécurité de l’IA, à les pousser pour trouver où ils échouent. Il ne fait pas ce travail parce qu’il pense que tout va bien.
Donc, quand un gars dont le travail littéral est de trouver des modes d’échec dans la sécurité de l’IA dit que les chances de risque d’extinction sont supérieures à une sur dix, cela vaut probablement la peine d’être pris au sérieux.
Le départ de Coxon ajoute un peu de texture ici. Il n’a pas claqué la porte en silence. Il a critiqué les laboratoires d’IA pour ne pas divulguer suffisamment les risques liés à leurs recherches. Il s’inquiète des systèmes d’IA acquérant un pouvoir et une influence significatifs de manière que personne n’a encore entièrement cartographiée. Et pourtant — il reste quelque peu optimiste. Il pense qu’il y a une chance que les grands laboratoires puissent réellement ralentir, peut-être même collaborer pour freiner la course vers la superintelligence. Que cela se produise ou non est une question ouverte. Aucun détail sur la façon dont cette coordination fonctionnerait réellement.
Nouveaux modèles, anciens avertissements
Le timing est inconfortable. Les avertissements de Hubinger et Coxon ont été émis juste au moment de la sortie de certains systèmes vraiment puissants. Le 3 septembre, OpenAI a lancé GPT-6 Astra. Le PDG de Nvidia, Jensen Huang, l’a décrit comme un pas vers la superintelligence — ce qui, selon votre point de vue, est soit excitant, soit terrifiant. Anthropic, pour sa part, a déployé Claude Fable 5.1 et Claude Mythos 5.1, tous deux destinés à repousser les capacités en codage et en recherche scientifique. Ainsi, le laboratoire qui emploie le gars qui avertit du risque d’extinction expédie également de nouveaux modèles de pointe. Cette tension n’échappe à personne qui y prête attention.
Il vaut la peine de prendre du recul un instant. Le débat sur la sécurité de l’IA n’est pas nouveau. Les chercheurs soulèvent des préoccupations d’alignement depuis des années, et l’industrie a essentiellement continué d’accélérer quand même. Ce qui est différent maintenant, c’est que les personnes qui tirent la sonnette d’alarme ne sont pas des outsiders. Ce sont des insiders — des personnes avec des adresses e-mail Anthropic, des personnes qui ont construit des choses chez OpenAI, des personnes qui savent exactement à quelle vitesse les capacités évoluent parce qu’elles sont celles qui les font avancer.
Le parcours professionnel de Hubinger raconte en quelque sorte l’histoire. Il est passé du travail d’ingénierie chez Ripple — construisant le protocole Interledger, une infrastructure fintech pratique — à la recherche en science informatique théorique et en sécurité de l’IA. C’est un pivot délibéré. Il n’est pas tombé par hasard dans le travail d’alignement. Il l’a choisi, ce qui en dit probablement long sur la gravité avec laquelle il prend le problème.
Le PDG de Ripple voit les choses différemment
Tout le monde dans le monde plus large de la crypto et de la fintech ne partage pas le pessimisme. Le PDG de Ripple, Brad Garlinghouse, a adopté une ligne plus optimiste sur l’IA, disant qu’elle pourrait stimuler la croissance de l’entreprise. Il a reconnu que son point de vue est quelque peu contraire à celui de l’industrie — ce qui signifie qu’il sait même que les pessimistes sont bruyants en ce moment. Mais il s’en tient quand même à l’argument en faveur des avantages.
C’est un écart assez large. D’un côté, un ancien ingénieur de Ripple attribue des chances à deux chiffres à l’extinction humaine. De l’autre, le PDG actuel de Ripple voit un moteur de croissance. Les deux ont probablement raison sur des choses différentes. L’IA pourrait être à la fois extrêmement précieuse et extrêmement dangereuse en même temps. Ces deux choses ne s’excluent pas mutuellement, et le fait que l’industrie les traite comme des problèmes séparés est exactement ce que Coxon a dit qu’il ne pouvait plus supporter.
Coxon n’a pas précisé ce qu’il faudrait pour le ramener à la table, ni même si cela est envisageable. Il reste optimiste quant à la collaboration mais n’a pas établi de feuille de route. Hubinger est toujours chez Anthropic, toujours en train de tester les systèmes de sécurité, toujours en train de travailler sur le problème sans solution claire en vue.
Claude Fable 5.1 et Claude Mythos 5.1 sont expédiés. GPT-6 Astra est en ligne. La course ne s’est pas arrêtée pour les avertissements.
Hub : Prix, actualités et analyses de XRP
Hub: XRP : prix, actualités et analyse
Questions Fréquentes
Quel est le parcours d’Evan Hubinger avant Anthropic ?
Hubinger a travaillé comme ingénieur logiciel chez Ripple, où il a contribué au protocole Interledger, avant de se concentrer sur la science informatique théorique et la recherche en sécurité de l’IA chez Anthropic.
Pourquoi Jacob Coxon a-t-il quitté Anthropic ?
Coxon a démissionné en raison de préoccupations concernant la course effrénée de l’industrie vers une superintelligence auto-améliorante, et a critiqué les grandes entreprises d’IA, y compris Anthropic et OpenAI, pour ne pas divulguer suffisamment les risques liés à leurs recherches.
Quels nouveaux modèles d’IA ont été lancés au moment de ces avertissements ?
OpenAI a lancé GPT-6 Astra le 3 septembre, décrit par le PDG de Nvidia, Jensen Huang, comme un pas vers la superintelligence, tandis qu’Anthropic a sorti Claude Fable 5.1 et Claude Mythos 5.1, axés sur les capacités de codage et de recherche scientifique.
Pourquoi c'est important
L'estimation d'un risque de plus de 10 % d'extinction de l'humanité en raison de l'intelligence artificielle soulève des questions cruciales sur la régulation et le développement de ces technologies. Dans un contexte où les investissements dans l'IA continuent de croître de manière exponentielle, il est impératif d'évaluer les implications éthiques et sécuritaires de ces avancées. Ce débat devient d'autant plus pressant à mesure que les acteurs majeurs de l'industrie, comme les laboratoires de recherche, sont appelés à jouer un rôle central dans la définition des normes de sécurité pour prévenir des scénarios catastrophiques.
