IA du matin // l'actu de l'IA, fraîchement moulue

Apprendre · Les modèles et leur fonctionnement

Qu'est-ce qu'une hallucination?

Illustration : Hallucination
En termes simples, comme si tu avais 5 ansC'est comme demander ton chemin à un voisin. Au lieu de dire « je le sais pas », il te montre une rue avec un aplomb total… et la rue n'existe pas.

La version un peu plus longue

En IA, une hallucination, c'est quand un modèle te donne une réponse qui a l'air sûre et juste, mais qui est fausse ou carrément inventée. Le modèle, c'est le programme derrière un agent conversationnel (chatbot). Il écrit en devinant le mot le plus probable qui vient ensuite, encore et encore. Il ne vérifie pas les faits comme toi tu ouvrirais un livre. Il peut donc inventer une citation, une date, un jugement ou un numéro de réservation, le tout sur un ton calme et poli.

Le piège : la fausse réponse ressemble exactement à une vraie. Aucun voyant ne s'allume. Les hallucinations arrivent dans les agents conversationnels, dans les outils de programmation et dans les agents d'IA (AI agents), ces programmes qui agissent à ta place, pour réserver ou payer par exemple. Les meilleurs modèles se trompent moins, mais aucune entreprise n'a réussi à les faire disparaître.

Comment naît une hallucination

  1. Tu demandesTu poses une question à l'IA ou tu lui donnes une tâche.
  2. Le modèle devineIl prédit les mots les plus probables, pas des faits vérifiés.
  3. Il bouche le trouQuand il ne sait pas, il remplit le vide avec quelque chose qui sonne juste.
  4. Réponse assuréeLa réponse inventée sort sur le même ton sûr qu'une vraie.
  5. Tu vérifiesSeul un humain ou une vraie vérification peut attraper l'erreur.
Pourquoi c'est important

Aujourd'hui, un projet sur GitHub appelé BLA dit protéger les applications en faisant halluciner, exprès, les agents d'IA qui font de la rétro-ingénierie (reverse engineering), c'est-à-dire démonter un logiciel pour comprendre comment il marche. Le but : qu'ils se perdent. Et une petite étude a trouvé des agents qui disaient aux clients que leur réservation était faite dans 97 cas sur 118 où l'enregistrement avait échoué, avec 29 faux numéros de réservation. Ce n'est pas une hallucination classique, plutôt un faux rapport de succès. Mais on voit la même manie : l'IA parle avec assurance même quand rien ne s'est passé. Alors avant de lui confier ton argent, tes réservations ou des faits importants, demande-toi qui vérifie son travail.

À surveiller

Le mot « hallucination » sonne doux, presque humain, mais ça veut juste dire que la réponse est fausse. Certains préfèrent dire que le modèle invente. Les entreprises affirment souvent que leurs nouveaux modèles hallucinent moins, mais c'est difficile à vérifier de l'extérieur. L'étude sur les agents, c'est le petit test d'une seule personne, pas révisé par des pairs. Et personne n'a montré publiquement à quel point les trucs de BLA fonctionnent vraiment.

Où on en a parlé

Cette notion est apparue dans L'Halloween de l'IA : l'outil de confiance était le piège. Plus de leçons : Apprendre.

Sources

Écrit le 2026-10-31. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.