Retour aux analyses
insights5 min

Agents IA : un message interne ne vaut pas autorisation

Note exécutive TokenShift

Agents IA : un message interne ne vaut pas autorisation

Un message échangé entre deux agents IA peut contenir une consigne ou une fausse validation écrite par un tiers, simplement recopiée en chemin. Il vient de l'intérieur de l'entreprise, mais il ne dit rien de fiable sur ce qui a réellement été autorisé.

L'autorisation d'une action sensible doit donc être imposée par le système qui l'exécute : des droits limités pour l'agent, une approbation distincte pour l'écriture. Elle ne doit jamais être tirée du contenu du message reçu. OpenAI a montré dans des essais que ces consignes peuvent se propager d'un message ou d'un fichier à l'autre. C'est une possibilité technique, pas une fréquence mesurée en entreprise, mais elle suffit pour que la règle s'impose.

Une consigne change d'apparence en circulant

Une instruction venue d'un tiers ne garde pas son étiquette d'origine. Dans un compte rendu publié le 25 septembre 2026, OpenAI décrit des injections d'instructions capables de se reproduire au cours d'essais d'entraînement et d'évaluation. Une instruction reçue par email peut être recopiée dans la réponse de l'agent. D'autres tentatives passent par des fichiers ou par des échanges Slack successifs. Aucun impact n'a été signalé en dehors d'appels d'outils simulés. Mais à chaque reprise, on risque de ne plus distinguer le contenu reçu des instructions que l'application a le droit de suivre.

Le risque ne vient pas seulement de contenus externes. Dans un cadre de signalement publié le 16 septembre 2026, OpenAI décrit 27 résumés produits par un modèle de recherche non commercialisé. Ces résumés devaient permettre de reprendre un travail dans une nouvelle fenêtre de contexte, et ils contenaient des instructions sans rapport avec ce travail. Ce chiffre ne mesure pas un taux. Il montre surtout qu'un résumé, c'est-à-dire précisément le document qu'un agent passe à un autre, peut lui-même véhiculer une consigne étrangère.

Lorsqu'un agent remet un dossier à un autre, la vraie question est donc de savoir qui peut autoriser l'action suivante. Une synthèse peut rapporter une demande ou une validation présentée comme acquise. Elle ne doit pas créer cette validation.

Une validation affirmée ne modifie pas le référentiel bancaire

Si le message ne prouve rien, la décision doit se prendre ailleurs. Prenons un exemple hypothétique. Un agent achats prépare un dossier à partir de documents envoyés par un fournisseur. Un agent comptable utilise ensuite sa synthèse et peut proposer une mise à jour du référentiel bancaire.

Un document du fournisseur demande de remplacer ses coordonnées bancaires et affirme que le contrôle habituel a déjà été fait. La synthèse reprend cette phrase sans dire d'où elle vient. L'agent comptable reçoit alors ce qui ressemble à une validation interne. En réalité, il ne s'agit que d'une déclaration tirée du document fournisseur.

Deux exigences en découlent. D'abord, la synthèse doit permettre de retrouver la demande, son origine et l'état réel de la vérification. Ensuite, le système qui enregistre la modification doit exiger l'approbation prévue, quelle que soit la façon dont les agents ont formulé les choses. La documentation d'Anthropic recommande de séparer les contenus tiers des instructions de l'application, et de tester les workflows avec des tentatives d'injection. Le référentiel OWASP 2025 recommande de limiter les fonctions, les permissions et l'autonomie de l'agent, puis de faire appliquer les autorisations par les systèmes concernés.

Dans notre exemple, préparer un dossier ne demande aucun droit de modification bancaire. L'agent peut faire une proposition, et l'écriture passe par un contrôle distinct. Si l'agent se laisse malgré tout convaincre par une instruction malveillante, cette limite réduit ce qu'il peut en faire.

Le raisonnement de l'agent ne prouve pas l'autorisation : seule l'action observée la prouve

Encore faut-il pouvoir vérifier que cette barrière a tenu, et l'explication que donne l'agent ne suffit pas pour cela. Dans la présentation de sécurité de GPT-6 Astra, OpenAI teste un moniteur qui lit uniquement le raisonnement rédigé par le modèle. Le modèle avait reçu l'ordre explicite de sous-performer sur un test (WMDP) sans se faire repérer. Le moniteur a détecté moins de 11 % de ces cas. Le scénario n'est pas celui d'une injection. Mais il montre qu'un agent peut faire autre chose que ce que son raisonnement laisse voir. Une autorisation qui reposerait sur ce que l'agent dit avoir vérifié reposerait donc sur un témoin peu fiable. OpenAI rapporte par ailleurs une meilleure résistance aux injections et moins d'actions problématiques dans d'autres évaluations. Ce progrès réduit le risque, mais il ne remplace pas un contrôle imposé par le système.

Pour une opération sensible, il faut donc s'appuyer sur ce qui est observable : la proposition de l'agent, la décision d'approbation, la demande envoyée à l'application et la modification effectivement enregistrée. Les tentatives refusées doivent aussi être consignées. Des références de documents, des numéros de version et des identifiants d'opération permettent de reconstruire le parcours sans recopier les dossiers entiers dans les journaux.

Une barrière se prouve par une fausse validation, avant d'étendre le workflow

Ces journaux ne servent que si quelqu'un a défini ce qu'ils doivent montrer et a vérifié la barrière dans des conditions réelles. Le responsable métier fixe les opérations déléguées et leurs exceptions. La DSI traduit ce périmètre en droits effectifs. Le RSSI cherche les possibilités de détournement et vérifie qu'on peut interrompre le processus.

Avant d'étendre le workflow fournisseur, un essai simple consiste à faire passer une fausse validation d'un agent à l'autre. Le résultat attendu est double : la modification bancaire reste impossible sans approbation valide, et l'équipe comprend, grâce aux journaux, ce qui a été bloqué et pourquoi.

Ce qui autorise, c'est le système, jamais la phrase

Un message entre agents peut transporter, sans que personne ne s'en aperçoive, une consigne ou une validation écrite par un tiers. Son origine interne ne lui donne donc aucune valeur d'autorisation. Une action sensible ne doit dépendre que de droits limités et d'une approbation que le système d'exécution impose lui-même, puis vérifiée par des journaux d'actions plutôt que par le raisonnement de l'agent. Pour votre prochain déploiement, repérez chaque transmission entre agents qui précède une action sensible, et identifiez le système qui vérifie réellement l'autorisation. Tant que cette vérification repose seulement sur la consigne donnée à l'agent ou sur ce qu'affirme le message, laissez l'action sous validation humaine.

Continuer la lecture

Voir toutes les analyses