Anthropic sonne l'alarme avant la Bourse. Qui écoute?

Hier, Anthropic fixait la fourchette de prix de son entrée en Bourse, jusqu'à une valeur implicite de 1 404 milliards de dollars. Là, un titre partagé sur r/artificial affirme qu'Anthropic rapporte elle-même qu'« une alarme clé de sécurité de l'IA s'est déclenchée, quelques jours avant son entrée en Bourse ». Nos sources ne donnent que le titre. On ne sait pas de quelle alarme il s'agit, ce qui l'a déclenchée, ni ce qu'Anthropic compte faire. Pour l'instant, les détails restent inconnus.

Le moment pèse lourd. Anthropic a lancé mardi sa tournée de présentation (roadshow), où une compagnie vend ses actions aux investisseurs. Simon Willison note que la vidéo de cette tournée montre que Claude est entraîné et servi sur quatre sortes de puces : Trainium d'AWS, les TPU de Google, les GPU de Nvidia et ceux d'AMD. Le balado The AI Daily Brief soutient que Wall Street n'a aucune idée de ce que vaut Anthropic.

Ça rejoint aussi le rapport de METR dont on parlait dimanche : les modèles d'Anthropic s'améliorent environ deux fois plus vite qu'il y a un an. À surveiller : une explication publique avant que le prix des actions soit fixé.

Hugging Face, c'est la grande bibliothèque publique où les gens partagent des modèles d'IA ouverts. Selon Transformer, la plateforme semble héberger plusieurs modèles qui pourraient servir à des cyberattaques. Elle a retiré un modèle présenté comme un outil d'attaque, mais bien d'autres restent en ligne.

Fireworks AI, une compagnie appuyée par Nvidia qui fait rouler des modèles d'IA pour ses clients, a avisé sa clientèle d'un deuxième piratage en quelques semaines, selon un titre sur r/artificial. Nos sources ne disent pas ce qui a été volé. Du côté de la défense, Fortinet a corrigé près de 100 vulnérabilités après avoir ajouté des modèles d'IA à ses tests de sécurité. Et Simon Willison a corrigé un bogue dans son outil LLM (version 0.37.2) qui pouvait envoyer par erreur ta clé d'API OpenAI à un autre fournisseur.

Samedi dernier, on voyait des centaines d'outils de piratage par IA laissés ouverts sur Internet. Même genre de risque, nouveaux endroits. Les outils d'attaque sont de plus en plus faciles à trouver, et les incidents s'enchaînent.

Vendredi passé, on voyait les agents s'installer dans nos banques, nos emplois et nos voyages. Là, une compagnie aérienne dit non. United refuse que des assistants d'IA personnels réservent des billets, pour des raisons de vie privée et de réglementation, rapporte le Wall Street Journal. United dit que peu de gens essaient pour l'instant, comme DoorDash l'a aussi constaté. La nouvelle a récolté 556 points et 547 commentaires sur Hacker News.

Le nœud de l'affaire, c'est la permission. En 2026, la Chine a mis en place des normes sur la façon dont les agents s'identifient, se parlent entre eux et accèdent aux services. Un exemple : un agent qui a le droit de remplir un panier d'achat ne peut pas payer sans l'accord de l'utilisateur.

Sur GitHub, un nouveau projet appelé pinky permet à des agents d'IA d'utiliser ton téléphone, mais c'est toi qui approuves. Il a récolté 1 937 étoiles dans ses premiers jours.

Un billet intitulé « My AI agents found an unmapped Maya site? » (mes agents d'IA ont-ils trouvé un site maya non cartographié?) a récolté 990 points et 361 commentaires sur Hacker News. Remarque le point d'interrogation : nos sources ne contiennent aucune confirmation d'archéologues. Pour l'instant, c'est donc juste une affirmation.

Scientific American rapporte que des experts choisis par OpenAI, appelés « shepherds » (bergers), ont vérifié sa preuve générée par l'IA de « l'existence » de la théorie quantique de Yang-Mills. C'est une base du modèle standard de la physique des particules, et un des problèmes de mathématiques à un million de dollars. Google DeepMind a aussi dévoilé AlphaGenome 2. Ce modèle étudie comment des changements dans notre ADN touchent différentes cellules, ce qui pourrait donner des pistes sur des maladies et de nouveaux traitements.

Prochaine étape pour la preuve en physique : un examen plus large par la communauté scientifique.

AWS a publié un émulateur officiel : une copie locale de ses services, pour que les développeurs fassent leurs tests sans payer le vrai cloud. Il a récolté 848 points sur Hacker News. Simon Willison note qu'il a été écrit en Rust par un énorme essaim d'agents, avec 29 684 commits dans les trois premières semaines. Dans un billet invité sur le blogue de Werner Vogels, Swami Sivasubramanian se demande ce que devient le métier d'ingénieur quand les agents écrivent le code.

D'autres entreprises changent déjà. Manus a laissé tomber les entrevues de programmation classiques, a réduit l'embauche d'ingénieurs de moitié par rapport à son sommet et fait maintenant coder ses gestionnaires de produit. Dans le jeu vidéo indépendant, le studio Big Walk a utilisé l'IA pour corriger un bogue, et plusieurs juges de festivals disent que toute programmation par IA, c'est déjà trop. Un billet sur Reddit affirme aussi que des entreprises britanniques embauchent moins après avoir trop dépensé en IA.

Hier, on se demandait si l'IA rend le code fragile. Aujourd'hui, la question devient : qui relit 29 684 commits?

TechCrunch rapporte que les revenus trimestriels d'OpenAI ont dépassé 10 milliards de dollars pour la première fois. C'est un bond de près de 50 % par rapport aux 6,7 milliards du deuxième trimestre. En même temps, TSMC, le géant taïwanais des puces, va investir 1 milliard de dollars dans Anthropic et OpenAI. Ars Technica y voit le plus récent exemple de « financement circulaire » : des fournisseurs qui investissent dans les clients qui leur achètent.

Des signes de tension apparaissent. CoreWeave, qui loue de la puissance de calcul pour l'IA, demande maintenant à ses clients de payer d'avance et emprunte en s'appuyant sur des contrats précis. Un billet qui a récolté 157 points sur Hacker News soutient que l'épargne-retraite alimente une bulle de l'IA. TechCrunch ajoute que bien des centres de données annoncés ne seront peut-être jamais construits.

Après les 41 mesures soumises au vote dont on parlait samedi, la bataille des centres de données prend de l'ampleur. Le sénateur républicain Josh Hawley appuie maintenant un moratoire national sur les centres de données, c'est-à-dire une pause dans les nouvelles constructions, rapporte Politico.