La participation de 190 milliards de dollars d’Amazon dans Anthropic liée aux projets d’IA de Sam

Amazon détient une participation de 190 milliards de dollars dans Anthropic. Et enfoui dans ce chiffre se trouve un lien que la plupart des gens n’ont pas examiné de près.

L’investissement se décompose en environ 98 milliards de dollars en obligations convertibles et 92 milliards de dollars en actions préférentielles sans droit de vote. De grosses sommes, clairement. Mais l’histoire se complique lorsque l’on commence à tirer sur les fils reliant Anthropic, Amazon et un réseau de figures de l’altruisme efficace — dont certains remontent, directement ou indirectement, à Sam Bankman-Fried, le fondateur déchu de FTX.

Les empreintes de Bankman-Fried sur la sécurité de l’IA

Avant l’effondrement de FTX, Bankman-Fried ne se contentait pas de diriger une bourse de crypto-monnaies. Il finançait des projets. L’un de ces projets était l’organisation Model Evaluation and Threat Research, connue sous le nom de METR — un évaluateur de sécurité de l’IA qui travaille désormais avec certains des plus grands noms de l’industrie. METR a reçu 1,25 million de dollars de la FTX Foundation, qui était la fondation d’altruisme efficace de Bankman-Fried. Après la faillite de FTX, METR a rendu l’argent. Ils ont invoqué des préoccupations morales. Soit. Mais le lien de financement initial est toujours là.

METR n’est pas sorti de nulle part. Il a émergé du Alignment Research Center, dirigé par Paul Christiano. Christiano n’était pas étranger à l’univers d’Anthropic — il était un ancien associé de Dario Amodei, PDG d’Anthropic. Les deux auraient partagé une résidence à un moment donné. Christiano a également recruté la PDG de METR, Beth Barnes. Plusieurs membres de METR ont des liens avec l’Université d’Oxford, qui a longtemps été un centre de réflexion pour l’altruisme efficace.

Vous avez donc un évaluateur de sécurité de l’IA qui a été financé par l’argent de Bankman-Fried, dirigé par quelqu’un qui a évolué aux côtés du PDG d’Anthropic, et en partie composé de personnes du monde de l’altruisme efficace. C’est un réseau assez complexe pour une organisation censée fournir des contrôles de sécurité indépendants.

Amazon a fait appel à METR pour une évaluation pilote

Amazon a réalisé une évaluation pilote de son modèle d’IA interne en 2025 avec METR. Ce n’est pas rien. Le travail de METR consiste à signaler les systèmes d’IA qui pourraient développer des capacités dangereuses — en particulier ce qu’ils appellent des capacités de « recodage » récursif, où un modèle pourrait théoriquement se réécrire et s’améliorer sans supervision humaine. Si cela ressemble à de la science-fiction, ce n’est pas vraiment le cas. C’est une préoccupation que les chercheurs sérieux en IA prennent au sérieux, et c’est pourquoi les évaluateurs de sécurité existent.

Contexte supplémentaire : Le financement des startups crypto atteint 5,7 milliards de dollars, mais stagne pour les nouvelles entreprises

Sur le même sujet: S&P Global acquiert OpenZeppelin et son expertise en contrats intelligents de 37 000 milliards de dollars

Mais la question de l’indépendance revient sans cesse. Daniela Amodei, présidente d’Anthropic, est profondément liée au mouvement de l’altruisme efficace. Elle est mariée à Holden Karnofsky, qui est à la fois membre du personnel d’Anthropic et cofondateur d’initiatives d’altruisme efficace, notamment GiveWell et Coefficient Giving. Coefficient Giving, ainsi que la Good Ventures Foundation, soutiennent également financièrement METR. Ainsi, l’argent qui afflue vers METR provient en partie de personnes qui dirigent également Anthropic. C’est un conflit d’intérêts qu’il vaut la peine de nommer clairement.

David Sacks, ancien conseiller en IA, a exprimé des préoccupations concernant l’indépendance de METR. Les responsables américains, plus largement, ont exprimé leur scepticisme quant à savoir si les principes de l’altruisme efficace s’alignent avec les intérêts nationaux américains. Cette friction ne disparaîtra probablement pas discrètement.

Le réseau derrière les chiffres

Il vaut la peine de s’attarder sur les connexions personnelles ici car elles sont inhabituellement denses. Dario Amodei et Paul Christiano ont vécu ensemble. Christiano a construit METR et a recruté sa direction. Daniela Amodei dirige les opérations d’Anthropic et est mariée à un homme qui a cofondé les fondations finançant désormais METR. L’évaluateur qui vérifie la sécurité d’Anthropic est financièrement soutenu par des personnes au sein du propre cercle de direction d’Anthropic.

Cela n’est pas nécessairement corrompu. Les personnes qui se soucient de la sécurité de l’IA ont tendance à se connaître — c’est un petit monde. Mais quand les enjeux sont de 190 milliards de dollars et que les évaluations sont censées être indépendantes, la proximité compte.

Voir aussi: CleanSpark risque son campus de Sandersville avec un plan de dette de 2,23 milliards de dollars

Voir aussi : Le Bitcoin lutte sous les 80 000 dollars alors que la Fed prévoit des taux de 4,1 % jusqu’en 2027

L’engagement d’Amazon envers Anthropic continue de croître à mesure que la valorisation d’Anthropic augmente. Ce n’est pas surprenant — l’entreprise a été agressive dans ses paris sur l’infrastructure de l’IA. Mais la question de la diligence raisonnable persiste. Que sait Amazon de la relation avec METR ? À quel point cela l’intéresse-t-il ? L’évaluation pilote a eu lieu. L’investissement a continué de croître.

METR a rendu les 1,25 million de dollars de Bankman-Fried. La Good Ventures Foundation et Coefficient Giving ont pris le relais. Les évaluations continuent.