Note de conception de la Fondation Sui : permissions des agents IA imposées par le système

La Fondation Sui a publié une note de conception le 28 octobre, soutenant que les limites imposées aux agents d’intelligence artificielle doivent être appliquées par les systèmes qu’ils utilisent, plutôt que de reposer uniquement sur des instructions que l’agent est censé mémoriser. Le document présente un cadre d’utilisation de transactions atomiques onchain et d’enregistrements vérifiables pour contraindre l’exécution des agents et garantir l’auditabilité dans les flux de travail multi-organisations.

La note aborde la tension entre accorder à un agent suffisamment d’autorité pour accomplir des tâches sans approbation constante et maintenir des limites efficaces si l’agent interprète mal une instruction ou rencontre des informations trompeuses. Elle est présentée comme un principe de conception analytique pour construire des flux de travail plus sûrs, et non comme une affirmation selon laquelle tous les agents IA sur la blockchain Sui sont devenus fiables ou que la blockchain fournit automatiquement tous les contrôles nécessaires.

Permissions imposées par rapport aux instructions

La note de conception distingue entre dire à un logiciel de dépenser moins d’une limite et lui donner des identifiants qui ne peuvent pas autoriser un paiement au-dessus de cette limite. La première approche dépend de l’interprétation et du respect d’une règle par l’agent, tandis que la seconde peut rejeter une action même si l’agent a commis une erreur dans l’interprétation de la règle.

Selon la Fondation, un déploiement efficace nécessite à la fois un objectif raisonnable et un mécanisme qui contraint l’exécution. La note souligne la nécessité de termes partagés et d’enregistrements vérifiables lorsque plusieurs organisations participent aux flux de travail des agents. Cela garantit que les limites restent efficaces, indépendamment de l’état interne de l’agent ou d’éventuelles erreurs de logique.

Transactions atomiques et limites de délégation

La documentation sur les transactions programmables de Sui décrit le regroupement de plusieurs commandes afin que leurs modifications d’état s’appliquent ensemble. Si une commande dans une transaction groupée échoue, le groupe ne laisse pas les modifications d’actifs prévues à moitié terminées. Cette exécution atomique aide les flux de travail automatisés où plusieurs étapes onchain dépendent les unes des autres, comme un achat et le mouvement ultérieur de l’actif acquis.

Cependant, la note indique que les coûts de transaction doivent toujours être pris en compte, même lors de l’utilisation de transactions atomiques. L’exécution atomique contrôle la manière dont un ensemble d’opérations se termine, mais n’établit pas si le prix était raisonnable ou si le destinataire était approprié. Elle ne vérifie pas non plus qu’un service externe a livré ce qu’il avait promis.

Le document aborde également la délégation, où un agent appelle un autre service ou délègue une partie d’une tâche. Une conception robuste rendrait les permissions visibles, en spécifiant un budget, un objectif approuvé, une date d’expiration et un ensemble limité de contreparties. Le système devrait vérifier ces conditions de délégation au moment où une action est autorisée, afin d’empêcher l’élargissement accidentel de la portée de l’autorité.

Enregistrements vérifiables et preuves opérationnelles

Lorsque plusieurs entreprises interagissent par le biais d’agents logiciels, un enregistrement partagé aide à établir quelle action a été autorisée et quelle transaction a eu lieu. Cela est utile pour la réconciliation et l’enquête, en particulier lorsque chaque participant conserve ses propres systèmes internes. Cependant, la note précise qu’une transaction onchain réussie ne prouve pas qu’un client a reçu un bien physique, qu’une facture était authentique, ou qu’une saisie offchain était exacte.

Les développeurs sont responsables de la mise en œuvre correcte des règles et de la prise en compte des actions qui se produisent hors de la chaîne. L’implication la plus forte de la note de conception est de commencer par une autorité étroitement définie, de l’imposer à la limite du système et de rendre les actions terminées inspectables. La portée de l’autorité de l’agent ne devrait être élargie que lorsque les contrôles et les preuves opérationnelles le justifient. La qualité d’un agent IA dépend de l’application complète, y compris de ses permissions, de ses sources d’information et de sa réponse aux flux de travail inattendus.