Hugging Face héberge des modèles prêts à attaquer
Hugging Face, c'est la grande bibliothèque publique où les gens partagent des modèles d'IA ouverts. Selon Transformer, la plateforme semble héberger plusieurs modèles qui pourraient servir à des cyberattaques. Elle a retiré un modèle présenté comme un outil d'attaque, mais bien d'autres restent en ligne.
Fireworks AI, une compagnie appuyée par Nvidia qui fait rouler des modèles d'IA pour ses clients, a avisé sa clientèle d'un deuxième piratage en quelques semaines, selon un titre sur r/artificial. Nos sources ne disent pas ce qui a été volé. Du côté de la défense, Fortinet a corrigé près de 100 vulnérabilités après avoir ajouté des modèles d'IA à ses tests de sécurité. Et Simon Willison a corrigé un bogue dans son outil LLM (version 0.37.2) qui pouvait envoyer par erreur ta clé d'API OpenAI à un autre fournisseur.
Samedi dernier, on voyait des centaines d'outils de piratage par IA laissés ouverts sur Internet. Même genre de risque, nouveaux endroits. Les outils d'attaque sont de plus en plus faciles à trouver, et les incidents s'enchaînent.
L'IA rend les attaques moins chères et la défense plus rapide en même temps, et cette course n'attend pas les règles. Si ton entreprise utilise des fournisseurs d'IA ou des agents, fais le tour aujourd'hui : mets tes outils à jour, change tes clés d'API et demande à tes fournisseurs combien de temps ils prennent pour t'aviser d'une brèche.
