Le coup d'Astra sur Qwen se fait contester
Suite de mardi 3 novembre: Une IA réécrit le cerveau d'une autreNotre premier jeton d'hier parlait d'une IA qui modifie une autre IA. Un billet présenté comme un article scientifique, signé Rikiya Takehi, Jayden Teoh, Alex Zhang et Omar Khattab, montrait GPT-6 Astra, un modèle d'OpenAI, en train de lire et de modifier les poids bruts d'un petit modèle Qwen. Les poids, ce sont les nombres qui forment un modèle. La modification touchait 0,016 % des poids de Qwen3.5-0.8B, et son score au test MATH-500 passait de 7,9 % à 48,1 %.
Maintenant, la réplique. Un billet sur honnibal.dev, intitulé « The Astra can read and write weights to improve Qwen post is misleading » (le billet sur Astra est trompeur), a récolté 990 points sur Hacker News. Nos sources donnent seulement le titre, pas l'argument au complet. Lis-le avant de te faire une idée.
Pendant ce temps, du monde refait l'essai à la maison. Simon Willison dit que Qwen 3.8 27B, sur son portable, peut aussi interpréter des poids de modèle. Sur Reddit, un utilisateur a demandé à Claude de modifier 8 neurones de Gemma 4 12B pour corriger une manie dans ses réponses en italien. Un autre a utilisé la « Jacobian lens » d'Anthropic pour regarder dans la tête de Qwen quand il reste pris à répéter « Wait ».
Une IA qui améliore une IA, c'est une des plus grosses questions de sécurité qui soient. Un nouvel article sur arXiv, RSI-Dojo, entraîne même des agents à automatiser l'entraînement de modèles. C'est justement pour ça que les grosses affirmations doivent être vérifiées avec soin, sans s'emballer ni tout rejeter. Et aujourd'hui, la vérification se fait en public : c'est sain.
