Apprendre · Les modèles et leur fonctionnement
Qu'est-ce qu'un modèle de langage?
La version un peu plus longue
Un modèle de langage, c'est un programme informatique entraîné sur une montagne de textes. Son travail est simple : il regarde des mots et devine le petit bout de texte qui suit. Ce petit bout s'appelle un jeton (token) : un mot ou un morceau de mot. Il recommence encore et encore, très vite, et des phrases apparaissent. Il apprend des régularités, pas des faits rangés comme dans un livre. C'est pour ça qu'il peut avoir l'air sûr de lui et se tromper quand même.
Un agent conversationnel comme ChatGPT ou Claude, c'est un produit bâti autour d'un modèle de langage. La fenêtre de clavardage, la mémoire et les règles de sécurité sont des couches ajoutées par-dessus. Le même moteur peut aussi rouler en silence dans d'autres logiciels : un outil de programmation, un agent téléphonique, ou même un logiciel malveillant. Certains modèles sont gros et vivent dans le cloud d'une entreprise. D'autres sont des modèles « à poids ouverts » : tu peux les télécharger et les faire rouler sur ton propre ordi.
Comment un modèle de langage écrit
- Lire beaucoup de texteLe modèle est entraîné sur une énorme pile de textes.
- Apprendre des régularitésIl apprend quels mots suivent habituellement d'autres mots.
- Recevoir une requêteUne personne, ou un logiciel, lui donne un texte de départ.
- Deviner le prochain jetonIl devine le bout de texte le plus probable, encore et encore.
- Se glisser dans des produitsAgents conversationnels, outils de programmation, agents téléphoniques, même des logiciels malveillants : on le branche partout.
Cette semaine, Cisco Talos a décrit Volta, un voleur de données (infostealer) qui utilise un modèle de langage pour trier ses victimes selon ce qu'elles valent. Pas de fenêtre de clavardage, personne qui tape des questions : le moteur travaille en silence dans un logiciel criminel. De son côté, le projet Memdoor fait travailler cinq petits modèles à poids ouverts en équipe, directement sur ta machine. Quand tu vois le modèle comme un moteur plutôt que comme un agent conversationnel, tu comprends pourquoi il peut débarquer n'importe où, pour le meilleur ou pour le pire.
À surveiller
Un modèle de langage prédit du texte. Il ne comprend pas et ne vérifie pas la vérité comme une personne le ferait. Il peut donc dire des faussetés avec beaucoup d'aplomb : on appelle ça une hallucination. Quand tu lis que des petits modèles « battent » les gros, ça vient souvent des propres tests du projet, pas d'évaluations indépendantes. Et comme le moteur se télécharge et se branche sur n'importe quoi, les règles de sécurité des grands labos ne le suivent pas partout.
Où on en a parlé
Cette notion est apparue dans Novembre s'ouvre sur des failles chez les labos. Plus de leçons : Apprendre.
Sources
Écrit le 2026-11-01. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.