L'IA d'Anthropic progresse deux fois plus vite
Suite de samedi 7 novembre: L'IA accélérerait déjà la recherche en IAHier, plusieurs voix disaient que l'IA accélère déjà la recherche en IA. The Verge détaille maintenant le rapport de METR, qui inquiète des chercheurs. METR, c'est un groupe de recherche indépendant en sécurité de l'IA. Après une enquête de 11 semaines, il a rapporté jeudi qu'Anthropic se sert de l'IA pour bâtir une IA plus puissante. Ses modèles s'améliorent environ deux fois plus vite qu'il y a un an, sans grand signe de ralentissement.
La même semaine, la compagnie Physical Superintelligence (PSI) a annoncé que son système de recherche, qui faisait rouler un modèle non public d'Anthropic, a prouvé la conjecture d'Aaronson-Ambainis. C'est une question d'informatique quantique ouverte depuis 2008, et le système a trouvé la preuve dès le troisième jour. Lean, un logiciel qui vérifie chaque étape d'une preuve mathématique, l'a acceptée. Le système a ensuite amélioré le résultat deux fois, et Lean a vérifié chaque version.
L'article et la preuve Lean sont publics : n'importe qui peut les vérifier, et ça, c'est de la belle science. L'accélération à l'intérieur d'un labo, elle, est bien plus difficile à vérifier de l'extérieur.
Quand l'IA aide à bâtir l'IA, le progrès peut doubler pendant que nos règles et notre compréhension font du surplace. METR a regardé de l'extérieur, et c'est exactement le genre de contrôle qu'il nous faut en bien plus grand nombre. La preuve est une vraie bonne nouvelle... et pourtant, la vitesse qui résout des problèmes de maths raccourcit aussi le temps qu'on a pour se donner des règles.
