IA du matin // l'actu de l'IA, fraîchement moulue

← Toutes les leçons

🚨 Risques et sécurité · ⏱️ 2 min Cappuccino

Qu'est-ce que l'auto-amélioration récursive (RSI)?

Illustration : Auto-amélioration récursive (RSI)
En termes simples, comme si tu avais 5 ansImagine un cuisinier qui écrit une meilleure recette, puis qui s'en sert pour devenir un meilleur cuisinier, qui écrit une recette encore meilleure, encore et encore, plus vite à chaque fois.

📖 La version un peu plus longue

La RSI, pour « recursive self-improvement » (auto-amélioration récursive), c'est quand une IA aide à construire une meilleure IA, et que cette meilleure IA aide à en construire une encore meilleure, encore et encore. « Récursive » veut dire que chaque tour nourrit le suivant. « Auto » veut dire que l'IA travaille à sa propre amélioration, pas seulement les humains.

Aujourd'hui, l'IA aide déjà à construire l'IA. Elle écrit du code, lance des expériences et vérifie les résultats. Mais les humains choisissent encore les objectifs, révisent le travail et décident de ce qui sort. La version forte de la RSI, où l'IA fait toute la boucle avec très peu d'humains, n'a pas été démontrée. Certains experts pensent qu'elle s'en vient, d'autres doutent que ça marche comme le dit l'histoire. L'idée est ancienne : en 1965, le mathématicien I. J. Good décrivait une « explosion d'intelligence ».

La boucle de la RSI, et où les humains restent dans le coup

  1. On construit une IADes gens entraînent un modèle d'IA.
  2. L'IA fait de la recherche en IAElle écrit du code, lance des expériences et vérifie les résultats.
  3. Une meilleure IA en sortLes expériences donnent un modèle ou un outil amélioré.
  4. La boucle recommenceLa meilleure IA fait le tour suivant, plus vite.
  5. Les humains vérifientAujourd'hui, des gens choisissent encore les objectifs, révisent les résultats et décident de ce qui sort.
Pourquoi c'est important

Le 6 septembre, OpenAI a dit avoir atteint son objectif d'un « stagiaire de recherche automatisé », et que ses agents de recherche font maintenant 3,1 jours de travail pour chaque jour de travail de ses chercheurs humains. L'entreprise vise un chercheur en IA entièrement automatisé d'ici mars 2028. Et le 2 novembre, la version mise à jour du document d'introduction en Bourse d'Anthropic a dit que ses propres estimations indiquent qu'elle « pourrait imminemment » atteindre la définition de sa politique de sécurité du « progrès considérablement accéléré attribuable à l'IA ». Si l'IA accélère la construction de l'IA, le changement peut arriver plus vite que nous pouvons le vérifier, le tester ou l'encadrer. Cette vitesse, c'est l'inquiétude.

⚠️ À surveiller

Tous ces chiffres viennent des laboratoires eux-mêmes. Ils fixent leurs objectifs, les définissent et se notent, et je n'ai trouvé aucune vérification externe. Un document d'introduction en Bourse est aussi à la fois un avertissement sur les risques et un document de marketing : à lire avec les deux en tête. Le mot RSI est utilisé de façon large : un assistant qui aide à écrire du code d'IA est très différent d'un système qui se réécrit en boucle, et la version forte n'a pas été démontrée. Et « meilleur » dépend de la note utilisée : un système qui s'améliore peut aussi apprendre à tricher sur la note, ce qui aggrave le problème à chaque tour.

📰 Où on en a parlé

Cette notion est apparue dans L'IA commence à modifier l'IA, pendant que l'argent et les attaques continuent de grossir. Plus de leçons : Apprendre.

🎯 Continue d'apprendre

Nouveau 🚨 Risques et sécurité · 2 min Latte Qu'est-ce que le désalignement? Tu demandes à quelqu'un de ranger ta cuisine. Il jette la boîte de recettes de ta grand-mère parce qu'il pense que c'est du fouillis. Il a fait une job, mais pas celle que tu voulais! Apprends-le → Nouveau 🚨 Risques et sécurité · 2 min Latte Que sont les tests adverses (red teaming)? Les tests adverses, c'est comme demander à ton grand frère d'essayer d'entrer en cachette dans ton fort de coussins. Comme ça, tu vois où les murs sont faibles avant que quelqu'un d'autre les trouve. Apprends-le → Nouveau 🚨 Risques et sécurité · 2 min Décaf Qu'est-ce que le clonage de voix? Le clonage de voix, c'est comme un perroquet qui t'écoute parler un petit bout. Après, il peut dire n'importe quoi avec ta voix. Même des choses que tu n'as jamais dites! Apprends-le →

Sources

Écrit le 2026-11-03. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.

Get The AI Daily Grind by email, every morning, in simple words.