Les attaques frappent jusque dans les congélateurs
La série d'incidents ne ralentit pas. The Guardian rapporte que des congélateurs de supermarchés un peu partout en Europe ont été visés par une deuxième cyberattaque présumée. La nouvelle a récolté 395 points sur Hacker News. Nos sources ne disent pas si l'IA a joué un rôle. Pour l'instant, c'est donc une histoire de sécurité, pas une histoire d'IA.
WorkOS, une compagnie qui vend des outils de connexion aux entreprises de logiciels, a signalé une brèche de sécurité. Les détails sont rares pour le moment. Une nouvelle étude, « Agentic backdoors via pretraining poisoning », montre comment cacher une backdoor dans les données qui servent à entraîner un modèle. Le modèle se comporte bien, jusqu'au jour où quelqu'un déclenche le mauvais comportement. L'étude a récolté 97 points.
Côté défense, OpenAI augmente les récompenses de son programme de chasse aux bogues (bug bounty). Il y a de nouveaux bonis pour la qualité des rapports, la fidélité et des campagnes prioritaires. OpenAI prépare aussi un sprint de sécurité interne avec Cathedral Systems, où l'IA sert à tester ses propres défenses. Ça arrive deux jours après qu'on t'a parlé de chercheurs qui avaient pris le contrôle de comptes ChatGPT.
Vérifie tes agents et tes outils aujourd'hui : à quoi ont-ils accès, et qui les a mis à jour en dernier? Des récompenses plus grosses, c'est une bonne nouvelle. Mais ça aide seulement si la divulgation est rapide, et trop souvent, on apprend les incidents des semaines ou des mois plus tard.
