IA qui s'améliore elle-même · ⏱️ 6 min

RSI : qui vérifie l'IA quand elle s'améliore elle-même?

OpenAI dit que ses agents de recherche font déjà 3,1 jours de travail pour chaque jour de travail humain. Anthropic dit qu'elle est peut-être sur le point de franchir sa propre ligne. Ce qu'est la RSI, et pourquoi l'arbitre compte.

🎧 Écouter en balado: Spotify Apple Podcasts

📖 Ce que c'est

Imagine un élève qui apprend une meilleure façon d'étudier. Avec la meilleure méthode, il apprend la suivante plus vite, et celle-là l'aide à apprendre la suivante, encore plus vite. Cette boucle, c'est l'idée derrière la RSI : l'auto-amélioration récursive (« recursive self-improvement »).

Remplace l'élève par une IA. La RSI, c'est quand une IA aide à construire une meilleure IA, qui aide à en construire une encore meilleure, encore et encore. « Récursive » veut dire que chaque tour nourrit le suivant. « Auto » veut dire que l'IA travaille à sa propre amélioration, pas seulement les humains.

Pourquoi ça compte? La vitesse. Aujourd'hui, ce sont des gens qui améliorent l'IA, et les gens sont lents. Si l'IA fait une grande partie de ce travail, la boucle pourrait tourner plus vite que nous pouvons la suivre, la vérifier ou l'encadrer. En 1965, le mathématicien I. J. Good appelait ça une « explosion d'intelligence ».

Où en est-on? Pense en quatre étapes. Un : l'IA aide les gens à faire de la recherche en IA. Ça se passe maintenant. Deux : l'IA fait des tâches de recherche bien définies pendant que des gens la dirigent et la vérifient. Les laboratoires disent qu'on y est. Trois : l'IA améliore ses propres outils et son propre code, dans de petites boucles. Des expériences existent. Quatre : l'IA fait toute la boucle avec très peu d'humains. Personne ne l'a démontré. Les nouvelles se situent entre les étapes deux et trois.

🔎 Les faits

2025 à 2026, premières boucles : AlphaEvolve, de Google DeepMind, a accéléré de 23 % du code à l'intérieur de Gemini, réduisant de 1 % le temps d'entraînement de Gemini. La Darwin Gödel Machine, de Sakana, a fait passer sa propre note de programmation de 20 % à 50 %. AIDE², de Weco, a trouvé sept améliorations en une exécution de 8 jours (une seule exécution, non reproduite; Weco parle de « niveau 1 »). Le « détournement de récompense », tricher sur la note, touchait encore environ un tiers des cas.
6 septembre : OpenAI dit avoir un « stagiaire de recherche automatisé ». À la mi-août, ses agents faisaient 3,1 jours de travail pour chaque jour de travail humain, mais plus de la moitié des tâches plus longues demandaient encore une intervention humaine. Prochain objectif : un chercheur en IA complet d'ici mars 2028. Toutes ces mesures sont celles d'OpenAI, sans examen indépendant mentionné.
Septembre : le scientifique en chef d'OpenAI, Jakub Pachocki, écrit que le rythme pourrait mener à la RSI, que la lecture du raisonnement d'un modèle perd en fiabilité, et que l'IA est « cultivée plus que conçue » (The Decoder).
16 septembre : la jeune pousse Emergence rapporte que des agents laissés ensemble dans des mondes simulés ont écrit des messages difficiles à suivre pour des humains : environ 55 % pour Gemini, 50 % pour OpenAI, plus de 40 % pour Claude, 20 % pour DeepSeek. Son cofondateur : « l'observabilité n'est pas la même chose que la compréhensibilité ». L'étude de l'entreprise elle-même, sans signe de complot.
Anthropic : en février, elle disait qu'il était difficile d'exclure qu'elle franchisse son seuil pour l'IA qui automatise la recherche en IA (« de plus en plus difficile »). Le 2 novembre, son document d'introduction en Bourse mis à jour a dit qu'elle « pourrait imminemment » atteindre sa définition du « progrès considérablement accéléré attribuable à l'IA », un doublement du rythme. Aucun modèle actuel n'est désigné comme franchissant ce seuil, et Anthropic ne s'attend pas à laisser Claude construire ses successeurs sans supervision humaine significative. TechCrunch : des sceptiques voient un S-1 comme de la divulgation et du marketing.
Il y a des sceptiques. Les deux laboratoires disent que la version forte n'est pas encore là (IBM). Michael Littman, de l'Université Brown, n'est pas sûr que l'idée soit « même logiquement cohérente ».

🗣️ Mon avis

Je veux être juste d'abord. Que l'IA aide à construire l'IA, ce n'est pas un scandale. Ça pourrait donner une science plus rapide et de meilleurs outils. Les deux laboratoires disent à voix haute ce qu'ils voient, et la version forte n'a pas été démontrée. Pas de boucle qui s'emballe. Pas de catastrophisme.

Mais c'est le sujet qui m'inquiète le plus, pour une raison : la vitesse. Tout ce qui m'inquiète empire quand ça va plus vite : vérifier, tester, faire des règles, comprendre ce qui s'est passé. La RSI, c'est de la vitesse qui se nourrit d'elle-même.

Quatre choses me dérangent.

D'abord, ceux qui mesurent le progrès sont ceux qui le construisent. OpenAI a fixé l'objectif, l'a défini, l'a mesuré et s'est donné la note. Je ne dis pas que c'est faux. Je dis que personne de l'extérieur ne peut le savoir.

Ensuite, le voyant d'alerte devient plus difficile à lire. En février, Anthropic disait qu'exclure son seuil devenait « de plus en plus difficile ». Le 2 novembre, elle dit qu'elle pourrait l'atteindre imminemment. Un laboratoire nous dit que son propre instrument devient flou.

Troisièmement, un système qui s'améliore lui-même pousse plus fort sur la note qu'on lui donne. Si la note est mauvaise, chaque tour aggrave le problème.

Enfin, celle que je n'arrive pas à lâcher : est-ce qu'on peut seulement comprendre ce qui est amélioré? Personne ne peut lire complètement ce qui se passe à l'intérieur d'un modèle aujourd'hui. Imagine maintenant l'IA qui améliore les algorithmes et le « cerveau » lui-même. Vérifier qu'un changement fonctionne, ce n'est pas le comprendre. Et quand des agents ont été laissés seuls ensemble, une bonne partie de ce qu'ils s'écrivaient est devenue difficile à suivre pour des humains. Pas de preuve d'un complot, et l'entreprise le dit. Mais si les améliorations, les messages et le raisonnement deviennent tous illisibles, alors « un humain dans la boucle », c'est une personne qui signe une page que personne ne peut lire.

Je ne veux pas de pause. Je veux une ceinture de sécurité, et pas une ceinture installée seulement par le constructeur de l'auto : des tests indépendants avec un vrai accès, des normes contraignantes, des règles internationales. Et une règle écrite noir sur blanc : ce que les agents se disent entre eux, et les changements que l'IA apporte à l'IA, doivent rester lisibles et vérifiables. Si ça ne peut pas être expliqué, ça ne devrait pas sortir. Quand les bâtisseurs eux-mêmes demandent des règles, je continue de me demander : qu'est-ce qu'ils savent que nous ne savons pas?

Pourquoi c'est important

Pour le monde ordinaire : tu ne vas pas vivre la RSI comme une scène de film. Tu vas la vivre comme des outils qui s'améliorent plus vite que tu peux les apprendre.

Pour les entreprises : ne supposez pas que l'IA que vous testez aujourd'hui sera celle que vous utiliserez dans six mois. Gardez un humain aux commandes de ce que vos agents peuvent faire, et demandez-vous : si quelque chose tournait mal, est-ce qu'une personne pourrait lire les journaux et comprendre?

Pour les politiques publiques : la question, c'est l'arbitre. Aujourd'hui, les entreprises mesurent leur propre progrès, fixent leurs propres seuils et écrivent leurs propres rapports. Il nous faut des gens de l'extérieur qui voient les données et peuvent dire stop.

Et la question que je n'arrive pas à lâcher : si ceux qui construisent l'IA décident aussi quand il est sécuritaire de la laisser se construire elle-même, qui est l'arbitre?

Sources

Vérifié le 2026-11-03. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.

Get The AI Daily Grind by email, every morning, in simple words.