Les labos d'IA peinent à barrer leurs portes

Tu te souviens du jeton de dimanche dernier sur les labos qui verrouillent les compétences de piratage? Un outil appelé REA s'était fait bloquer par Claude un jour après son lancement. Là, les murs montent encore. Tom's Hardware et Mashable rapportent que Claude bloque maintenant les tentatives de recréer ou de cloner des jeux vidéo.

Des utilisateurs disent que ça va plus loin. Du reverse engineering (rétro-ingénierie) ordinaire, et même du dépannage de base, se fait refuser. Le reverse engineering, c'est démonter un logiciel pour voir comment il marche, souvent pour le réparer, le sécuriser ou faire de la recherche. Autre chose : une publication sur X affirme qu'Anthropic bloque les utilisateurs pour tout ce qui touche à l'entraînement de plus gros modèles. Elle a récolté 350 points et 206 commentaires sur Hacker News. Mais c'est l'affirmation d'un utilisateur, pas une règle officielle qu'on a vue.

Anthropic écrit ces limites elle-même, sans processus public. Attends-toi à plus de plaintes de développeurs, et peut-être à des ajustements si du travail légitime continue de se faire bloquer.

Un voleur d'identifiants (infostealer), c'est un malware qui vole les mots de passe, les témoins (cookies) du navigateur et d'autres connexions sur ton ordinateur. Talos, l'équipe de sécurité de Cisco, en a étudié un qui s'appelle Volta. Le titre de son rapport dit tout : « Appraisal by AI: model-driven victim prioritization ». Autrement dit, l'IA évalue les victimes.

En clair, Volta utilise un modèle de langage pour classer ses victimes selon leur valeur. Les criminels peuvent ensuite s'occuper en premier des personnes et des compagnies qui rapportent le plus. L'histoire a récolté 248 points et 131 commentaires sur Hacker News.

On a seulement le titre et le résumé du rapport, pas tous les détails techniques. Mais la direction est claire : l'IA aide les criminels avec la partie plate et administrative du crime, pas juste avec le piratage.

Avant d'entraîner une IA, les labos utilisent des moniteurs. Ce sont des outils qui fouillent les données d'entraînement pour repérer du contenu qui pourrait faire dérailler le modèle. Le 31 octobre, l'équipe Alignment Science d'Anthropic a testé ces moniteurs d'une nouvelle façon. Au lieu de testeurs humains, elle a utilisé des milliers d'agents Claude.

Chaque agent devait bâtir un jeu de données d'entraînement d'au plus 5 000 exemples. Le but : désaligner un petit modèle de recherche, c'est-à-dire faire en sorte qu'il ne se comporte plus comme prévu. Le tout sans se faire repérer par un moniteur semblable à ceux qu'Anthropic utilise en production. Les agents pouvaient même examiner le moniteur exact et tester leurs données contre lui. Ils ont trouvé un angle mort.

C'est de la recherche, partagée sur Reddit, et les détails de l'angle mort ne sont pas dans nos sources. Anthropic va sans doute s'en servir pour corriger ses moniteurs.

Hier, on voyait la machine à argent de l'IA vaciller, avec des chutes en Bourse et une possible cote « junk » pour Anthropic. Là, c'est au tour d'OpenAI. TechCrunch rapporte qu'OpenAI a baissé la cible de sa nouvelle ronde de financement, qui ne semble pas répondre aux attentes. Nos sources ne donnent pas de chiffres exacts, alors vois ça comme un signal, pas comme un verdict.

Il y a aussi du changement pour les utilisateurs. Le centre d'aide d'OpenAI explique que les limites d'utilisation de ChatGPT et de Codex fusionnent. Codex, c'est l'agent de programmation d'OpenAI. Ceux qui codent beaucoup et ceux qui clavardent vont donc puiser dans la même réserve. La nouvelle a récolté 124 points sur Hacker News.

Pendant ce temps, le nouveau PDG d'Apple dit que la compagnie ne veut pas « lancer de l'IA juste pour lancer de l'IA ». Un ton plus calme que le reste de l'industrie.

Un modèle à poids ouverts, c'est un modèle que tu peux télécharger et faire rouler sur ton propre ordinateur. Un projet appelé Memdoor a fait travailler en équipe cinq modèles Qwen3.8-27B sur des problèmes de programmation difficiles. L'auteur affirme que l'équipe bat un plus gros modèle, Fable 5, sur LiveCodeBench Hard, un test de programmation exigeant. Le projet a récolté 230 points sur Hacker News. Attention : c'est le résultat annoncé par le projet lui-même, pas une évaluation indépendante.

Sur r/LocalLLaMA, un utilisateur dit qu'un Mac de 64 Go fait maintenant rouler Qwen3.8 27B comme agent de programmation. Il garde une énorme fenêtre de contexte de 256 000 jetons (la quantité de texte que le modèle voit d'un coup), avec environ 50 Go de mémoire. Sur GitHub, DeepSeek a partagé un prototype de « superagent » pour des agents plus autonomes. Et Mika, un agent Android qui tourne directement sur l'appareil et pilote tes applications et le Web, a dépassé les 3 000 étoiles.

Belle nouvelle pour la vie privée et pour le portefeuille. Mais un agent qui pitonne dans les applications de ton téléphone a beaucoup de pouvoir, alors vas-y doucement.

L'IA roule dans d'immenses centres de données, qui demandent énormément d'électricité. La NAACP, un grand groupe américain de défense des droits civiques, poursuit xAI, la compagnie d'IA d'Elon Musk, qui appartient maintenant à SpaceX. Selon la poursuite, le centre de données de xAI enfreint le Clean Air Act, la loi américaine qui limite la pollution de l'air.

Un juge vient de permettre à la cause d'aller de l'avant. Ce n'est pas une décision sur qui a raison, juste un feu vert pour continuer. Jeudi, on voyait la grogne locale contre les centres de données grandir. Avec cette cause, la résistance se rend maintenant devant les tribunaux.