Community Trust ScoreVérifié
La semaine dernière, OpenAI a mis en ligne 722 manuscrits mathématiques sur GitHub. Tous proviennent d’un modèle d’IA que l’entreprise n’a pas nommé, n’a pas publié et ne permet pas aux tiers d’examiner. C’est en gros toute la controverse résumée en deux phrases.
Pourquoi c'est important
Cette publication soulève des questions cruciales sur la transparence et la responsabilité dans le développement des modèles d'intelligence artificielle. En rendant accessibles des résultats de recherche sans permettre l'examen du modèle sous-jacent, OpenAI ouvre un débat sur la confiance que les chercheurs et le grand public peuvent accorder à des algorithmes dont les mécanismes restent opaques. Cette situation illustre également les enjeux éthiques et pratiques liés à l'utilisation de l'IA dans des domaines sensibles tels que les mathématiques, où la rigueur et la vérifiabilité sont primordiales.
Les articles ont été organisés en 372 « familles » — le terme d’OpenAI pour désigner des groupes de résultats connexes. L’entreprise a soumis environ 4 000 problèmes à l’IA, puis a sélectionné à la main ce qu’elle jugeait suffisamment significatif pour être publié. Presque tous les résultats proviennent d’une seule invite donnée à un agent IA, bien que certains problèmes aient nécessité plusieurs tentatives avant que le modèle ne produise quelque chose de valable. À quoi ressemblait réellement ce processus de sélection, qui a pris les décisions et ce qui a été écarté — cela reste flou.
Seuls 162 articles ont été vérifiés.
C’est le nombre d’articles dont les résultats principaux ont été vérifiés par ordinateur à l’aide de Lean, un outil logiciel qui vérifie si les étapes logiques d’une démonstration sont effectivement valides. Sur 722 articles, 162 portent ce sceau. Cela représente environ 22 %. OpenAI a reconnu, assez directement, que certains des résultats non formalisés pourraient contenir des erreurs. Ce qui est étrange à publier, mais nous en sommes là.
Ce que pense réellement le monde académique
Andrew Sutherland du MIT n’a pas vraiment célébré. Sans que le modèle soit disponible pour une vérification publique, a-t-il dit, les résultats devraient être considérés comme non vérifiés. C’est une réaction prudente et mesurée — mais en termes académiques, c’est un seau d’eau froide. La vérification est en quelque sorte le but des mathématiques. Un résultat qui ne peut pas être vérifié n’est pas vraiment un résultat.
Daniel Litt de l’Université de Toronto est allé plus loin, argumentant contre la confidentialité des réponses mathématiques. La logique est simple : les mathématiques sont une entreprise collective. Enfermer le processus — le modèle, les invites, la chaîne de raisonnement — exclut tout le monde du travail.
L’Institute for Advanced Study de Princeton a également donné son avis. Le groupe consultatif de l’institut avait précédemment demandé à OpenAI de divulguer plus de détails : le nom du modèle, les invites utilisées, la méthodologie complète. OpenAI a fourni quelques chiffres moyens de calcul et des résumés de raisonnement. Mais la transparence complète demandée par le groupe consultatif ? Pas encore là. L’institut a été clair sur le fait que la compréhension mathématique doit rester centrale, même si les outils d’IA deviennent plus performants.
OpenAI a également désactivé les Issues sur son dépôt GitHub, ce qui signifie que les chercheurs externes ne peuvent pas signaler de bogues, pointer des erreurs ou réagir directement via la plateforme. C’est un mouvement assez significatif pour quelque chose présenté comme une contribution à la communauté mathématique au sens large. Cela limite la boucle de rétroaction qui aide normalement la science à s’auto-corriger.
La comparaison avec Anthropic que personne n’ignore
Anthropic a fait quelque chose de différent. Son équipe a produit une preuve vérifiée par Lean du dernier théorème de Fermat et a rendu toutes les données accessibles au public. La preuve elle-même n’était pas une nouvelle découverte — elle a revalidé un théorème qu’Andrew Wiles avait initialement prouvé en 1995 — mais le processus était ouvert. Tout le monde pouvait examiner la preuve, vérifier la formalisation Lean et voir exactement comment le résultat avait été atteint.
Les 722 manuscrits d’OpenAI se situent dans une catégorie différente. L’entreprise décrit beaucoup d’entre eux comme des « avancées exceptionnelles dans un programme existant » plutôt que des percées transformatrices. Un problème qui a particulièrement attiré l’attention est l’Hypothèse Quasi-Riemann. Mais l’encadrement est prudent — ce ne sont pas des problèmes du millénaire. Ils sont probablement significatifs, mais l’image complète ne sera claire que lorsque plus de travaux seront formalisés et vérifiés.
OpenAI dit qu’il prévoit de continuer à ajouter des formalisations Lean au fil du temps. Donc, le chiffre de 22 % n’est pas censé être le chiffre final. Mais « nous ferons plus plus tard » n’est pas la même chose que « voici le modèle, voici le processus, vérifiez-le vous-même ». Et cet écart est ce qui provoque la plupart des frustrations.
Il y a une véritable tension sous-jacente à tout cela. Les mathématiques générées par l’IA sont un territoire véritablement nouveau. Les outils deviennent assez rapides et capables pour qu’un seul modèle, avec une seule invite, puisse produire des centaines d’articles en une seule exécution. C’est fou. C’est aussi exactement pourquoi la transparence est plus importante, pas moins. Plus la production est rapide, plus il est difficile de détecter les erreurs sans accès ouvert au processus.
Certains chercheurs voient la publication comme un véritable jalon — la preuve que l’IA peut s’engager avec des problèmes mathématiques sérieux à un niveau qui n’était pas possible il y a quelques années. D’autres sont plus prudents, et non sans raison. Un article qui pourrait contenir des erreurs, produit par un modèle que personne ne peut examiner, publié dans un dépôt qui n’autorise pas les contributions externes, est difficile à évaluer. L’enthousiasme est réel. Le scepticisme aussi.
L’engagement d’OpenAI à ajouter plus de formalisations au fil du temps est au moins quelque chose. La communauté académique observe. Ce qu’elle attend de voir, principalement, c’est si l’entreprise finira par ouvrir le modèle — ou si les 722 manuscrits resteront la propriété d’un processus que personne en dehors d’OpenAI ne peut voir entièrement.
L’article sur l’Hypothèse Quasi-Riemann est toujours là, non formalisé.
Questions Fréquentes
Qu’a publié OpenAI sur GitHub ?
OpenAI a publié 722 manuscrits mathématiques générés par un modèle d’IA non divulgué, organisés en 372 familles de résultats connexes, sélectionnés parmi environ 4 000 problèmes soumis à l’IA.
Combien des 722 articles ont des résultats vérifiés ?
Seuls 162 des 722 articles incluent des résultats principaux vérifiés par ordinateur à l’aide de Lean, ce qui représente environ 22 % de la collection totale.
Pourquoi les mathématiciens contestent-ils la publication ?
Des chercheurs, dont Andrew Sutherland du MIT et Daniel Litt de l’Université de Toronto, affirment que les résultats ne peuvent pas être correctement vérifiés sans accès au modèle lui-même, et la décision d’OpenAI de désactiver les contributions externes sur GitHub limite la capacité de la communauté académique à s’engager avec le travail.
