🧠 Les modèles et leur fonctionnement · ⏱️ 2 min Latte ●●○○○
Qu'est-ce que l'ajustement fin (fine-tuning)?
📖 La version un peu plus longue
Un modèle d'IA apprend d'abord en lisant une montagne de textes. Cette première étape s'appelle le préentraînement. Au bout du compte, on a un modèle général qui connaît un peu de tout. L'ajustement fin (fine-tuning), c'est un entraînement de plus, fait après, sur un plus petit lot d'exemples bien choisis. Le but : changer la façon dont le modèle se comporte. Par exemple, répondre poliment, suivre le style d'une entreprise ou devenir bon dans une seule tâche, comme rédiger des notes médicales.
Pendant l'entraînement, le modèle ajuste ses poids. Ce sont les milliards de nombres qui forment le modèle. Avec un « ajustement fin complet », tous ces poids peuvent bouger. Ça marche bien, mais ça demande beaucoup de puissance de calcul. Alors les chercheurs essaient des façons moins chères, qui ne touchent qu'une petite partie des poids.
Comment l'ajustement fin change un modèle
- Modèle généralUn modèle entraîné sur une énorme quantité de textes connaît un peu de tout.
- Choisir des exemplesDes gens rassemblent un plus petit lot d'exemples qui montrent le comportement voulu.
- Un entraînement de plusLe modèle s'entraîne sur ces exemples, et ses poids changent un peu.
- Comportement changéLe modèle agit maintenant autrement, pour le meilleur ou pour le pire.
- Tester et vérifierQuelqu'un devrait le tester, parce que des changements cachés peuvent passer inaperçus.
Dans l'actu du jour, un article de recherche sur le Deletion Tuning affirme qu'on peut égaler un ajustement fin complet en mettant à zéro moins de 0,05 % des poids d'un modèle. Et une publication sur Reddit rapporte que Microsoft Research a caché une backdoor (un accès secret) en modifiant moins de 10 neurones. Bref, changer le comportement d'un modèle pourrait devenir plus facile et plus discret, pour le meilleur comme pour le pire. Si tu télécharges gratuitement un modèle modifié, quelqu'un l'a déjà changé. Et tu ne sais peut-être pas comment.
⚠️ À surveiller
L'histoire de la backdoor vient seulement d'une publication sur Reddit, sans les détails de la recherche. Considère-la comme non confirmée pour l'instant. Les études sur les petites modifications sont récentes. Quand on dit qu'un tout petit changement « égale » un ajustement fin complet, c'est souvent vrai sur des tests précis, pas partout. Et un modèle ajusté peut réussir les tests habituels tout en cachant un déclencheur que personne n'a pensé à vérifier.
📰 Où on en a parlé
Cette notion est apparue dans Une entrée en Bourse géante, une loi et 35 000 portes ouvertes. Plus de leçons : Apprendre.
🎯 Continue d'apprendre
Sources
Écrit le 2026-11-11. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.
Get The AI Daily Grind by email, every morning, in simple words.