Technologie
Par James Thorp
1 / 15
Quand la boîte noire devient plus sombre. Le problème fondamental ici est l'interprétabilité — ou son absence.
2 / 15
Ce qui est réellement proposé. Voici où les choses deviennent floues. Pachocki a été clair sur l'urgence.
3 / 15
Pourquoi ce moment semble différent. Il n'a pas manqué d'appels à la sécurité de l'IA ces dernières années.
4 / 15
Le scientifique en chef d'OpenAI souhaite des normes de sécurité obligatoires. Maintenant. Et la raison est plutôt inconfortable : les modèles avancés d'IA de l'entreprise sont…
5 / 15
Jakub Pachocki a lancé cet appel publiquement, plaidant pour des exigences de sécurité contraignantes dans le développement de l'IA.
6 / 15
Le problème fondamental ici est l'interprétabilité — ou son absence. À mesure que les systèmes d'IA deviennent plus performants, la logique interne derrière leurs décisions…
7 / 15
Il n'est pas le seul à penser cela. La communauté de recherche en IA au sens large se débat avec cela depuis des années — que se passe-t-il lorsque le processus de prise de…
8 / 15
La situation d'OpenAI n'est probablement pas unique. C'est juste l'un des rares endroits où quelqu'un d'assez haut placé pour que cela compte l'a dit à haute voix.
9 / 15
Et c'est en quelque sorte le point que Pachocki semble vouloir faire — que cela doit cesser d'être une préoccupation interne discrète dans les laboratoires individuels et…
10 / 15
Voici où les choses deviennent floues. Pachocki a été clair sur l'urgence. Il a été clair que des normes obligatoires sont nécessaires.
11 / 15
En relation : Le Bitcoin face à une nouvelle menace alors que les modèles d'IA excellent dans la détection d'exploits
12 / 15
Aucun calendrier. Aucun protocole spécifique. Aucun mécanisme d'application. L'entreprise n'a pas dit comment elle vérifierait la conformité, qui ferait la vérification, ou…
13 / 15
On ne sait pas si Pachocki pousse pour quelque chose d'interne à OpenAI, quelque chose que l'industrie de l'IA au sens large devrait adopter volontairement, ou quelque chose qui…
14 / 15
La communauté de l'IA attend probablement plus de précisions avant de savoir comment traiter sérieusement la proposition par rapport à la manière de traiter sérieusement…
15 / 15
Il n'a pas manqué d'appels à la sécurité de l'IA ces dernières années. Ce qui rend les commentaires de Pachocki différents, c'est la source.
TCA France
Lire la suite ?