Votre agent a des outils. A-t-il les bons garde-fous ?

Trois portes d’entrée

Quel sujet voulez-vous examiner ?

Comment cela se passe

Un format court pour décider de la suite.

• Vous choisissez un seul cas d’usage et un angle de revue.
• Vous décrivez les données consultées, les outils et les actions autorisées. Un schéma anonymisé peut faciliter l’échange.
• Nous identifions trois points de vigilance et les contrôles à approfondir.
• Si des tests ou une revue détaillée sont utiles, une mission distincte est cadrée et chiffrée.

Ce pré-diagnostic ne comprend pas de tests intrusifs ni de revue exhaustive du code. Il ne nécessite aucun secret, identifiant ou accès de production.

Exemples

Des situations concrètes à examiner.

• Agent support : peut-il révéler les informations d’un autre client ?
• Agent RAG : un document récupéré peut-il détourner ses instructions ?
• Agent achats : peut-il envoyer un e-mail ou engager une dépense sans validation ?

Repères publics

Approfondir la sécurité des agents.

Ces angles de revue s’appuient sur les risques documentés par l’OWASP : détournement d’objectif, usage des outils et abus d’identité ou de privilèges.

Pour préparer une campagne de tests plus détaillée, Promptfoo propose un outil open source de red teaming des agents. Les coûts des modèles et l’exécution des tests restent à prévoir.