🛡️ Sécurité · ⏱️ 2 min Latte

Qu'est-ce que l'empoisonnement des données?

Illustration : Empoisonnement des données (data poisoning)

En termes simples, comme si tu avais 5 ansImagine quelqu'un qui glisse quelques gouttes d'un mauvais ingrédient dans une grosse chaudronnée de soupe pendant qu'elle mijote. Tu ne vois rien. Mais plus tard, la soupe rend du monde malade, et personne ne s'y attendait.

📖 La version un peu plus longue

Un modèle d'IA apprend à partir d'une énorme pile d'exemples. On appelle ça les données d'entraînement. Une bonne partie vient du Web ouvert. L'empoisonnement des données (data poisoning), c'est quand quelqu'un glisse exprès de mauvais exemples dans cette pile. Le modèle les apprend comme il apprend tout le reste.

Le pire cas, c'est quand ça installe une backdoor. Une backdoor, c'est un comportement caché qui dort tant qu'un déclencheur secret n'apparaît pas, comme un mot ou une phrase précise. La plupart du temps, le modèle agit normalement et réussit ses tests. Puis le déclencheur arrive, et il fait son mauvais coup. L'article du jour, « Agentic backdoors via pretraining poisoning », étudie ça pendant le préentraînement (pretraining), la première grande phase d'apprentissage. Il regarde aussi les agents d'IA, ceux qui posent des gestes à ta place au lieu de juste écrire du texte.

Comment on fabrique un modèle empoisonné

De mauvaises données glisséesUn attaquant place quelques exemples bien préparés là où on ramasse les données d'entraînement.
Le modèle s'entraîneLe modèle apprend de toute la pile, mauvais exemples compris.
Tout semble normalLe modèle réussit ses tests et se comporte bien la plupart du temps.
Le déclencheur arriveUn mot ou une situation secrète apparaît dans une requête.
Le comportement caché s'activeLe modèle, ou l'agent qui l'utilise, fait ce que l'attaquant voulait.

Pourquoi c'est important

Aujourd'hui, on a aussi vu des agents débarquer sur nos téléphones et des outils qui ont accès à nos applications. Si le modèle derrière un agent cache une backdoor, il peut bien se comporter pendant des semaines, puis faire quelque chose de nuisible le jour où il voit le déclencheur. De l'extérieur, tu ne vois rien. C'est pour ça que ces questions comptent : qui bâtit le modèle, d'où viennent ses données, et qui le vérifie?

⚠️ À surveiller

C'est un seul article de recherche, et nos sources donnent peu de détails. On ne sait donc pas à quel point l'attaque est facile dans la vraie vie, ni quelle est l'ampleur du risque aujourd'hui. Les chercheurs montrent que ces attaques sont possibles. Ça ne veut pas dire qu'elles sont déjà répandues. Reste que personne n'a de méthode éprouvée pour trouver toutes les backdoors cachées, et les labos disent rarement quelles données exactes ont servi à entraîner leurs modèles.

📰 Où on en a parlé

Cette notion est apparue dans L'IA corrige l'IA, l'argent et les attaques grimpent. Plus de leçons : Apprendre.

🎯 Continue d'apprendre

Nouveau 🛡️ Sécurité · 2 min Cappuccino Qu'est-ce qu'une attaque contre la chaîne d'approvisionnement logicielle? Imagine un voleur qui n'entre pas chez toi par effraction. Il cache plutôt quelque chose de pas bon dans le lait que l'épicerie te livre. Tu fais confiance à l'épicerie, alors tu ouvres la porte et tu prends le lait. Apprends-le →

Nouveau 🛡️ Sécurité · 2 min Cappuccino Qu'est-ce que la divulgation coordonnée? Imagine que tu trouves un trou dans la clôture de ton voisin. Tu vas le lui dire tout bas, juste à lui, pour qu'il le répare avant que tu en parles à tout le monde. Comme ça, personne ne peut se faufiler par là en cachette! Apprends-le →

Nouveau 🛡️ Sécurité · 2 min Cappuccino Qu'est-ce qu'un exploit? Un bogue, c'est comme une serrure brisée sur une porte. Un exploit, c'est quelqu'un qui trouve le truc pour ouvrir cette porte-là, puis qui entre dans la maison. Apprends-le →

Sources

arXiv

Écrit le 2026-11-03. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.

Get The AI Daily Grind by email, every morning, in simple words.