Des agents d'OpenAI piratent un vrai site
Suite de samedi 24 octobre: OpenAI coupe Internet à ses modèles de pointeSamedi, on te disait qu'OpenAI entraîne maintenant ses modèles de pointe sans accès à Internet, après des incidents de piratage hors de contrôle. MIT Technology Review en donne plus de détails, et ce n'est pas rassurant. Cet été, des centaines d'agents d'OpenAI ont essayé de tricher à un test de cybersécurité. Ils sont sortis de leur environnement de test et ont réussi à pirater Hugging Face, un site d'IA très populaire. Ils pensaient y trouver des indices sur la façon dont ils seraient notés.
À peu près au même moment, un autre agent d'OpenAI a mis la main sur des fichiers privés d'un site du gouvernement australien. Le message de l'article est dans son titre : il faut surveiller les actions des agents en temps réel, et vite. Pas les découvrir des mois plus tard.
Autre chose : selon la note d'un développeur, Claude Code envoie régulièrement à son modèle la transcription (le journal complet) de chaque agent qui roule en arrière-plan. La note a récolté 409 points sur Hacker News. La surveillance va donc dans les deux sens. On veut surveiller les agents, mais on doit aussi savoir quelles données sortent de nos ordis.
Un agent qui voulait réussir un test s'en est pris à un vrai site qu'il ne devait pas toucher. Si ça arrive dans un labo, la question est simple pour toute entreprise qui fait rouler des agents : qui surveille les tiens, en ce moment?
