L'IA bâtit l'IA, et les contrôles traînent

Le mois passé, les incidents se sont enchaînés : des extensions piégées avec une backdoor, des agents qui s'infiltraient dans des entreprises. Cette semaine, un nouveau genre de fuite s'ajoute. Selon TechCrunch, des chercheurs en sécurité ont trouvé des centaines de serveurs exposés sur Internet. Ils faisaient rouler Artex, un outil d'IA pour les tests d'intrusion (penetration testing). Un test d'intrusion, c'est attaquer tes propres systèmes pour trouver les failles avant les criminels. Laissé ouvert, l'outil peut servir à n'importe qui.

Pendant ce temps, l'argent pour la sécurité des agents grimpe vite. Selon TechCrunch, Palo Alto Networks serait en pourparlers pour acheter Clutch, une jeune pousse qui protège les agents d'IA, pour 500 millions de dollars. Selon une source, Clutch valait 85 millions à sa dernière évaluation. De son côté, OpenAI s'associe à Hacktron pour trouver les failles dans ses propres systèmes, y compris ses connexions à des services tiers.

Nos sources ne disent pas si quelqu'un a abusé des serveurs exposés. C'est la question à suivre.

Vendredi, on doutait déjà de la valeur de 1 500 milliards de dollars visée par Anthropic. Bloomberg rapporte que les investisseurs intéressés par son entrée en Bourse parlent maintenant d'une valeur aussi basse que 1 100 milliards, après la dégringolade des titres d'IA. La nouvelle a récolté 281 points et 556 commentaires sur Hacker News. Un plus petit site parle plutôt de discussions tombées à 1 300 milliards : prends ce chiffre avec plus de prudence.

OpenAI, elle, va dans l'autre sens. Selon Bloomberg, elle a levé 11 milliards de dollars de plus, à une valeur de 1 250 milliards. La ronde n'est pas encore bouclée; ça devrait se faire dans les prochaines semaines. En mars, OpenAI avait levé 122 milliards à une valeur de 852 milliards.

Côté dépenses, les données se contredisent. Selon Ramp, l'usage de l'IA continue de grimper, mais les dépenses plafonnent, avec les baisses de prix et le contrôle des coûts. Menlo Ventures, cité par le balado The AI Daily Brief, dit plutôt que les entreprises dépensent près de cinq fois plus que l'an dernier, surtout à cause des agents.

Dimanche dernier, on voyait Claude bloquer encore plus le reverse engineering et le clonage de jeux vidéo. Là, un billet sur r/LocalLLaMA affirme que les labos de modèles à poids ouverts font pareil. Ces modèles, ce sont ceux que n'importe qui peut télécharger et faire rouler sur son propre ordi. Selon l'auteur, Kimi K3.1 et Hy4, de Tencent, perdent leurs compétences en cybersécurité, en reverse engineering et en correction de failles. C'est l'affirmation d'un seul utilisateur, et nos sources n'ont aucune réponse des labos.

Ce qui inquiète, c'est l'effet sur les défenseurs. Les gens qui vérifient leur propre code sur leurs propres machines pourraient perdre de bons outils et se faire pousser vers les modèles fermés.

La même semaine, une autre chicane a éclaté sur ce qu'il y a dans un modèle. NousResearch a publié Arete-27B, une version réentraînée de Qwen3.8-27B, d'Alibaba. NousResearch dit avoir vu des refus, des esquives et des « CCP-framed answers », des réponses cadrées selon le Parti communiste chinois, sur des sujets politiques sensibles. L'équipe a entraîné le modèle, selon ses mots, « to reinforce western values » (pour renforcer les valeurs occidentales).

Nvidia fabrique les puces qui font rouler la plus grande partie de l'IA d'aujourd'hui. Le New York Times rapporte que le ministère chinois de la Sécurité d'État a recruté Alice Huang, une dirigeante de l'entreprise Megaspeed, pour espionner Jensen Huang, le PDG de Nvidia. Selon le reportage, le but était d'en apprendre plus sur les puces d'IA américaines. Le ministère voulait aussi, potentiellement, influencer Nvidia pour qu'elle pousse à rendre ses puces les plus avancées accessibles à la Chine.

C'est un reportage de presse. Nos sources n'ont pas de réponse des personnes ou des gouvernements nommés.

Autre histoire, partagée sur Reddit : six palettes de matériel Nvidia d'une valeur de 11,4 millions de dollars ont été volées en route vers le Texas. Et la PDG d'AMD dit que sa compagnie mise maintenant d'abord sur les centres de données (« data center first company »). Autrement dit, moins d'attention aux cartes graphiques pas chères pour le monde ordinaire.

Jeudi, on voyait que les centres de données avaient perdu les élections de mi-mandat aux États-Unis. Là, on a des chiffres. Selon TechCrunch, les électeurs ont voté mardi sur 41 mesures touchant les centres de données. Dans toutes sauf une, la majorité a choisi plus de restrictions sur la construction.

La bataille n'est pas juste américaine. Reuters rapporte qu'environ 100 manifestants du groupe Geef Tegengas sont entrés sur le chantier d'un nouveau centre de données de Microsoft, près d'Amsterdam. Le projet prévoit trois tours de 85 mètres.

Côté affaires, ça bouge aussi. Selon TechCrunch, Crusoe a vendu à Google son projet de centre de données en difficulté au Wyoming. Bloomberg, cité par Reuters, dit que Microsoft met fin en douce à une entente pour louer de la capacité cloud en IA chez Oracle. Transformer se demande si les démocrates vont maintenant se diviser sur jusqu'où aller avec l'IA.

Une bonne nouvelle, tout droit sortie du labo. Le 5 novembre, Anthropic a annoncé que Claude a aidé à déterminer la première structure 3D d'une particule « vault » (voûte). C'est une coquille creuse faite d'une protéine produite par un bactériophage, un virus qui infecte les bactéries.

Selon Anthropic, le projet a pris moins de quatre mois. Une version de Claude axée sur la science a fouillé environ 15 milliards de protéines prédites par ordinateur pour trouver des formes de voûte. Le travail est une prépublication sur bioRxiv : d'autres scientifiques ne l'ont pas encore révisé.

Anthropic a aussi publié un texte sur la façon dont les chercheurs utilisent Claude pour faire des découvertes. Il a récolté 93 points sur Hacker News.