Altman et Amodei exposent les risques de l’IA au Conseil de sécurité de l’ONU

Sam Altman se rend aux Nations unies. Dario Amodei aussi. Les deux PDG — Altman à la tête d’OpenAI, Amodei à celle d’Anthropic — doivent informer le Conseil de sécurité de l’ONU, à New York, des risques pour la sécurité mondiale posés par l’intelligence artificielle. Il est rare de voir les personnes qui développent les systèmes d’IA les plus puissants de la planète s’asseoir avec l’organe chargé de préserver la paix mondiale.

La réunion est prévue mercredi. La France a convoqué la séance, et les invités ne se limitent pas à Altman et Amodei. Clément Delangue, PDG de Hugging Face, sera également présent. Yoshua Bengio — coprésident du Groupe consultatif scientifique international indépendant de l’ONU sur l’IA — y participera lui aussi. L’ONU a confirmé la participation d’Altman et d’Amodei. La question centrale à l’ordre du jour : les humains peuvent-ils garder le contrôle des systèmes d’IA à mesure que ceux-ci deviennent plus performants ? La décision de la France d’organiser cette séance semble reposer sur l’idée que la réponse n’est pas évidente et que le Conseil de sécurité doit l’entendre directement de la bouche des personnes les plus proches de cette technologie.

Et pas seulement des voix occidentales.

Les entreprises chinoises d’IA DeepSeek et Moonshot ont été invitées à soumettre des déclarations. DeepSeek devrait participer. Mais son fondateur, Liang Wenfeng, ne sera pas présent en personne. Aucune explication n’a été donnée quant à son absence, et on ignore si l’entreprise enverra un représentant ou se contentera de fournir une déclaration écrite. La participation de Moonshot est plus incertaine : les informations disponibles n’en précisent pas les modalités.

Pourquoi le Conseil de sécurité, et pourquoi maintenant ?

Le Conseil de sécurité a commencé à parler d’IA en 2023. C’était tôt, du moins selon les critères de la plupart des institutions internationales. À l’époque, la discussion restait assez abstraite : que pourrait faire l’IA, à terme, si on la laissait sans contrôle ? Aujourd’hui, plus de deux ans après, le ton a changé. Les systèmes d’IA sont déployés à grande échelle dans les entreprises et les gouvernements. La crainte de voir des systèmes autonomes fonctionner sans supervision humaine est passée du domaine théorique à celui de l’urgence. La France estime clairement que le Conseil doit agir plus vite.

La présence de Bengio est importante à cet égard. Ce n’est pas un dirigeant du secteur technologique qui a un produit à vendre ou une capitalisation boursière à protéger. C’est un chercheur, l’un des plus cités dans son domaine, qui alerte depuis des années sur les risques de l’IA avancée. Le réunir avec Altman et Amodei, devant les membres du Conseil de sécurité, est probablement l’objectif : rapprocher les craintes des scientifiques de ce que les chefs d’entreprise développent réellement.

À lire aussi : Dario Amodei et DeepSeek alertent le Conseil de sécurité de l’ONU sur les menaces de l’IA

Sur le même sujet: Solana célèbre deux ans sans pannes, mais les risques de centralisation persistent

La dimension mondiale de tout cela est difficile à ignorer. La participation attendue de DeepSeek, même sans son fondateur, est importante. La course à l’IA ne se résume pas aux États-Unis. Les laboratoires chinois avancent rapidement. Le fait que Moonshot et DeepSeek aient été invités montre comment la France et l’ONU abordent la question : non pas comme un problème de réglementation occidental, mais comme un enjeu véritablement international.

Pas encore de commentaires des principaux acteurs

Au moment de la rédaction de cet article, Anthropic, OpenAI et le bureau du porte-parole de l’ONU n’avaient pas répondu aux demandes de commentaires. Ce n’est pas inhabituel pour un événement diplomatique majeur encore en cours, mais cela laisse des questions importantes en suspens. Que dira exactement Altman ? Quelle est la position d’Amodei sur la gouvernance internationale de l’IA ? OpenAI soutient-elle des cadres de sécurité contraignants ou plaide-t-elle pour des mesures moins strictes ? Aucun détail n’a encore été communiqué à ce sujet.

Les positions de Bengio sur les risques liés à l’IA sont bien documentées ailleurs ; sa présence donne donc au moins une idée de l’angle scientifique de la séance. Mais il est plus difficile de savoir à quoi s’attendre des représentants du secteur.

L’absence de Liang Wenfeng à la réunion en personne mérite d’être relevée à nouveau. Réunir des acteurs mondiaux de l’IA dans une même salle est réellement difficile : les juridictions et les cadres juridiques diffèrent, tout comme le degré d’aisance face à l’examen international. Le fait que DeepSeek participe, même de façon limitée, dépasse sans doute les attentes de certains.

Lecture connexe: Les détenteurs de XRP ciblés par des escrocs qui usurpent les noms de Cross River Bank et d’Evernorth

À lire aussi : La CFTC met en garde contre les risques de manipulation dans les contrats émergents des marchés de mention

L’examen des risques liés à l’IA par le Conseil de sécurité s’inscrit dans une course mondiale bien plus vaste pour déterminer comment réagir face à une technologie qui évolue plus vite que la plupart des cadres réglementaires ne peuvent le gérer. On ne sait pas encore si la réunion de mercredi débouchera sur des mesures concrètes — une résolution, un groupe de travail, un cadre commun — ou restera au stade du dialogue.

Ce qui est certain : Altman, Amodei, Delangue et Bengio seront dans la salle. Le Conseil de sécurité les écoutera. Et DeepSeek, même sans son fondateur, compte bien faire entendre sa voix.