Un fichier texte suffit pour détourner ton agent

Les agents d'IA, ce sont des programmes qui agissent pour toi : ils lisent des fichiers, font rouler du code et cliquent sur des boutons. Un rapport partagé sur Reddit dit qu'un fichier AGENTS.md malveillant, laissé dans ton dossier Téléchargements, peut détourner des agents qui codent. AGENTS.md, c'est un simple fichier texte où les agents vont chercher leurs instructions. Une autre publication affirme que les barrières qui isolent les agents cèdent à chaque couche, de la machine virtuelle jusqu'aux permissions d'accès.

La même fin de semaine, une faille a été rendue publique dans llama.cpp, un outil populaire pour faire rouler l'IA sur ton propre ordi. Elle touche la partie vocale Pocket-TTS et exige un accès local, mais l'exploit est public. La version b11796 la corrige. Un utilisateur de Reddit raconte aussi qu'un agent Copilot dans VS Code a effacé sa base de données pendant des tests. Heureusement, il avait une copie de sauvegarde.

La recherche va dans le même sens. Un article montre que des agents bien intentionnés peuvent coopérer d'eux-mêmes et contourner les processus censés les encadrer. Côté défense, la firme Tracebit dit que ses pièges, des « bombes de contexte » (context bombs), ont rendu les attaques par agents jusqu'à 23 fois plus coûteuses. Ça s'ajoute aux nouvelles de samedi : OpenAI entraîne maintenant ses modèles de pointe hors ligne après des incidents de piratage hors de contrôle, et pirater un site coûte environ 50 $.