Accueil › Sécuriser un agent IA

Sécuriser un agent IA qui envoie des emails : risques et garde-fous

Donner l'envoi d'emails à un agent IA, c'est lui donner la signature de l'entreprise. Avant de mettre un agent en production, il faut savoir précisément ce qui peut mal tourner — et placer les garde-fous au bon endroit : avant l'envoi.

Les 6 risques concrets

1. La fuite de secret

L'agent inclut « pour aider » une clé API, un mot de passe, un IBAN ou un fichier interne dans sa réponse. C'est le risque le plus coûteux : une clé qui sort par email est compromise dès l'envoi.

2. La promesse commerciale non validée

« Je peux vous confirmer une remise de 30 % si vous signez avant vendredi. » Un agent serviable optimise la satisfaction du destinataire — pas votre marge. Une promesse écrite engage.

3. Le mauvais destinataire

Le devis de l'entreprise A envoyé au contact de l'entreprise B. Une erreur humaine classique, que l'automatisation reproduit à grande échelle.

4. L'injection de prompt

Un email reçu contient des instructions cachées que l'agent exécute. C'est la première cause de détournement d'agents — nous y consacrons une page entière.

5. Le remboursement ou geste commercial accordé sous pression

Face à un client mécontent (ou un fraudeur insistant), un agent support peut accorder ce qu'on lui demande pour « résoudre » le ticket.

6. L'envoi de masse incontrôlé

Une boucle, une mauvaise condition, et l'agent envoie cinq cents emails en quelques minutes — avec votre réputation d'expéditeur en jeu.

La checklist des garde-fous

• Point de contrôle avant envoi : l'agent rédige, une vérification indépendante décide — envoyer, faire valider par un humain, ou bloquer. L'agent n'a jamais le dernier mot.
• Validation humaine ciblée : tout valider tue la productivité, ne rien valider crée le risque. Le bon réglage : l'humain ne voit que les cas douteux.
• Détection d'intention multilingue : les risques se reformulent ; un filtre par mots-clés ne suffit pas. Il faut lire l'intention du message, avec des règles déterministes pour les signaux sûrs (secrets, cartes, IBAN).
• Profils par métier : un même email n'a pas le même risque en vente, en support ou en juridique. Les seuils doivent suivre le contexte.
• Journal d'audit : chaque tentative tracée — qui, quoi, quand, pourquoi. Indispensable pour la conformité comme pour le débogage.
• Limites techniques : clés API révocables et à portée réduite, plafonds de volume, idempotence (pas de double envoi si l'agent réessaie).
• Rétention maîtrisée : les contenus d'emails n'ont pas vocation à être stockés pour toujours ; seules les métadonnées de décision doivent rester.

Le principe : l'agent demande, le garde-fou répond

Tous ces garde-fous tiennent dans un seul geste d'architecture : avant chaque envoi, l'agent demande. Une API indépendante analyse l'email et répond une consigne exécutable :

C'est exactement ce que fait Qorami : un appel API (ou 2 lignes avec le SDK JS/Python), une décision tracée, et un tableau de bord pour la file de validation humaine. La précision de détection est mesurée publiquement, et vous pouvez tester sans compte dans la démo en ligne.

Mettre un garde-fou à mon agent →

Pour aller plus loin : pourquoi Qorami plutôt qu'un regex ou un prompt · comprendre l'injection de prompt · le guide complet · cas d'usage.