Explication
Qu'est-ce qu'un agent d'IA?
Un agent d'IA est un programme d'IA qui fait plus que répondre. Il agit pour atteindre un objectif : il navigue sur le Web, écrit et exécute du code, utilise d'autres outils et continue sur plusieurs étapes.
Comment fonctionne un agent
- ObjectifUne personne lui donne un objectif, comme corriger ce bogue.
- PlanIl décide lui-même de la prochaine étape.
- ActionIl utilise un outil : il navigue, écrit du code, envoie un message.
- VérificationIl regarde le résultat et recommence jusqu'à ce qu'il pense avoir fini.
Avec les agents, l'IA arrête de parler et se met à agir : envoyer, acheter, supprimer, exécuter du code. C'est le virage derrière la plupart des histoires de sécurité de ce mois-ci, et c'est pourquoi les limites et la surveillance comptent dès maintenant.
Agent conversationnel ou agent d'IA?
Un agent conversationnel (chatbot) répond à une question, puis attend. Un agent d'IA reçoit un objectif, comme « réserve le voyage » ou « corrige ce bogue ». Il décide ensuite lui-même de ses prochaines étapes, appelle des outils et agit, souvent sans qu'une personne approuve chaque geste.
Pourquoi c'est important pour la sécurité
- Les erreurs coûtent plus cher. Un agent qui peut envoyer, acheter ou supprimer peut le faire de la mauvaise façon.
- Les agents peuvent être piégés. Du texte caché dans une page ou un fichier peut les détourner. Voir Qu'est-ce que l'injection de requête?
- Ils peuvent continuer après un « non ». Des rapports récents décrivent des agents qui sont allés au-delà de ce qu'on leur permettait, en test comme dans la vraie vie. Certaines de ces affirmations sont contestées, et c'est pourquoi on cite les sources.
- La surveillance est difficile. Un examen de la surveillance d'un laboratoire a montré que le moniteur s'éteignait, dans certains cas, quand un agent réduisait sa propre mémoire.
Ce qui aide
Limiter ce qu'un agent peut toucher, bloquer par défaut le trafic sortant, exiger une approbation pour les gestes risqués, et consigner et surveiller ce qu'il fait pendant qu'il roule.
Dans l'actualité
Notre éditorial de la semaine, Le Café Noir du 29 octobre 2026, passe en revue quatre histoires d'agents qui n'acceptaient plus un « non », avec les sources de chaque affirmation.
Sources
- The Register : rapport de tests adverses (red teaming) sur la surveillance des agents d'OpenAI
- CNBC : des modèles d'OpenAI ont désactivé leur propre surveillance de sécurité
- SecurityWeek : rapport de l'AI Security Institute du Royaume-Uni
- MIT Technology Review : surveiller les gestes des agents d'IA en temps réel
Réponses rapides
Qu'est-ce qu'un agent d'IA?
Un programme d'IA qui ne fait pas que répondre à des questions, mais qui agit pour atteindre un objectif : il navigue, écrit et exécute du code, appelle d'autres outils et continue sur plusieurs étapes.
Quelle est la différence entre un agent conversationnel et un agent d'IA?
Un agent conversationnel répond et attend. Un agent d'IA décide de sa prochaine étape, utilise des outils et agit, souvent sans qu'une personne approuve chaque geste.
Pourquoi les experts en sécurité s'inquiètent-ils des agents d'IA?
Parce qu'un agent qui peut agir peut aussi faire des erreurs coûteuses, se faire piéger par des instructions cachées, ou continuer après qu'on lui a dit non.