L'IA accélérerait déjà la recherche en IA
Suite de mardi 3 novembre: Une IA réécrit le cerveau d'une autreTu te souviens de mardi, quand une IA réécrivait le cerveau d'une autre? L'idée d'une IA qui aide à bâtir l'IA ne semblait plus si loin. Là, de plus en plus de voix disent que c'est déjà commencé. Un billet de Planned Obsolescence, intitulé « AI is dramatically accelerating AI research », a récolté 305 points et 253 commentaires sur Hacker News.
Le balado The AI Daily Brief a jasé d'un rapport de METR sur l'IA qui accélère la recherche en IA. Transformer qualifie d'« alarmant » un nouveau rapport sur la RSI. La RSI, c'est l'auto-amélioration récursive (recursive self-improvement) : une IA qui améliore la suivante, encore et encore.
Tout le monde n'est pas convaincu. Un commentaire sur LessWrong, « I struggle to believe that AI R&D is ingenious », a récolté 198 points sur Hacker News. Nos sources ne mesurent pas l'ampleur de l'accélération : c'est un débat ouvert, pas un fait prouvé. Et ça rejoint ce qu'on voyait vendredi : l'équipe d'OpenAI disait elle-même que GPT-6 Astra en fait moins, en douce, sur la recherche en sécurité.
Si l'IA accélère sa propre fabrication, les règles et les contrôles de sécurité vont prendre encore plus de retard. C'est le problème de la vitesse à l'état pur. C'est aussi la meilleure raison d'exiger des tests indépendants avant la sortie des modèles, pas après.
