🧠 Les modèles et leur fonctionnement · ⏱️ 2 min Latte

Qu'est-ce que la quantification?

Illustration : Quantification (quantization)

En termes simples, comme si tu avais 5 ansC'est comme une recette qui dit « à peu près une tasse de farine » au lieu de « 236,6 millilitres ». La recette est plus simple à noter, et le gâteau goûte presque pareil.

📖 La version un peu plus longue

Un modèle d'IA, c'est surtout une immense liste de nombres. On les appelle des paramètres, ou des poids. C'est là que le modèle garde ce qu'il a appris pendant son entraînement. D'habitude, chaque nombre est noté de façon très précise, avec 16 ou 32 bits. Un bit, c'est un petit interrupteur, allumé ou éteint, avec lequel l'ordinateur compte. Résultat : un gros modèle peut demander des centaines de gigaoctets de mémoire.

La quantification (quantization), c'est noter chaque nombre avec moins de bits, par exemple 8 ou 4. Un peu comme arrondir 3,14159 à 3,1. Le fichier du modèle devient beaucoup plus petit. Il peut donc entrer dans un ordinateur à la maison ou sur une carte graphique (GPU) moins chère. Souvent, il roule plus vite aussi. Le prix à payer : on perd un peu de précision, alors les réponses peuvent être un brin moins bonnes. Quand quelqu'un partage une « version compressée » d'un modèle à poids ouverts (un modèle qu'on peut télécharger), c'est très souvent une version quantifiée.

Comment un gros modèle rapetisse pour rouler à la maison

Le modèle completDes milliards de nombres, chacun noté avec 16 ou 32 bits.
On arrondit les nombresChaque nombre est noté avec moins de bits, comme 8 ou 4.
Le fichier rapetisseLe modèle n'a plus besoin que d'une fraction de la mémoire.
Ça roule à la maisonIl entre dans un ordinateur ordinaire ou sur une carte graphique moins chère.
On vérifie la qualitéTeste-le, parce que les réponses peuvent être un peu moins bonnes.

Pourquoi c'est important

La quantification, c'est une grosse raison pour laquelle les modèles à poids ouverts roulent maintenant à la maison. Bonus : tes données restent sur ta propre machine. Les nouvelles du jour montrent les deux côtés de la médaille. Un utilisateur a fait rouler une version compressée de Qwen avec llama.cpp, et le modèle est allé chercher des adresses Web que personne ne lui avait demandées. De son côté, Llama-modchip affirme faire rouler un modèle de 284 milliards de paramètres avec 64 Go de mémoire vive. Quand tu télécharges une « petite » version d'un modèle, garde en tête que ce n'est pas exactement le même modèle que l'entreprise a testé.

⚠️ À surveiller

La perte de qualité n'est pas fixe. Elle dépend du modèle, de la méthode et du nombre de bits qu'on garde. Les versions avec très peu de bits peuvent faire des erreurs bizarres. Dans les cas rapportés avec Qwen, on ne sait pas si la compression a joué un rôle. Alors ne saute pas aux conclusions. L'annonce de Llama-modchip, elle, reste juste une annonce. Un calcul simple le montre : 284 milliards de nombres à 4 bits, ça n'entre pas dans 64 Go à eux seuls. D'autres astuces sont donc en jeu, et personne ne l'a encore vérifié de façon indépendante. Dernier point : bien des fichiers quantifiés sont faits par des inconnus en ligne. Demande-toi d'où vient le tien.

📰 Où on en a parlé

Cette notion est apparue dans Qui surveille? Nvidia, une banque prudente et Gemini. Plus de leçons : Apprendre.

🎯 Continue d'apprendre

🧠 Les modèles et leur fonctionnement · 2 min Latte Qu'est-ce qu'une chaîne de pensée (chain-of-thought)? C'est comme un cuisinier qui dit chaque étape tout haut en faisant sa soupe : « Là, les oignons. Là, le sel. » Si tu l'écoutes, tu peux l'arrêter avant qu'il mette quelque chose de pas bon dedans. Apprends-le →

🧠 Les modèles et leur fonctionnement · 2 min Latte Qu'est-ce qu'un jeton (token)? Un jeton, c'est comme une petite bouchée. L'IA n'avale pas une phrase d'un coup : elle coupe les mots en petits morceaux et elle les mange un par un. Apprends-le →

🧠 Les modèles et leur fonctionnement · 2 min Latte Qu'est-ce qu'une fenêtre de contexte? Une fenêtre de contexte, c'est comme le comptoir de ta cuisine. Tu ne peux pas y étaler tous tes ingrédients en même temps. Quand il est plein, il faut en ranger un dans l'armoire pour faire de la place. Apprends-le →

Sources

Écrit le 2026-11-09. Cette explication était exacte ce jour-là. L'IA change vite : vérifie les sources et la date avant de t'y fier.

Get The AI Daily Grind by email, every morning, in simple words.