Mistral lance un géant en libre accès
Un modèle à poids ouverts, c'est un modèle dont tout le monde peut télécharger les fichiers pour le faire rouler sur ses propres machines. Jeudi, la compagnie française Mistral a publié les poids de Mistral Large 4, surnommé « Le Chonk ». C'était la nouvelle d'IA numéro un sur Hacker News, avec 1 472 points.
Le modèle est énorme : mille milliards de paramètres, ces nombres qui forment le cerveau du modèle. Il repose sur un mélange d'experts (mixture of experts). Seulement environ 49 milliards de paramètres travaillent sur chaque jeton, un petit bout de texte. Il est aussi multimodal dès le départ : il comprend autre chose que du texte. Selon TechCrunch, Mistral vise la cybersécurité. Les entreprises peuvent faire rouler leur cyberdéfense sur un modèle qu'elles contrôlent, plutôt que sur un modèle fermé. Des versions plus petites, faites par la communauté, sont déjà sur Hugging Face.
L'IA locale ne plaît pas à tout le monde. Pour Sam Altman, faire rouler des modèles à la maison est « un très mauvais usage de ressources rares », parce que ça monopolise des puces mémoire dans des ordinateurs personnels. Le balado The AI Daily Brief note aussi qu'un nouveau benchmark montre un écart qui se creuse entre modèles ouverts et fermés. Côté risques, Epoch AI a publié une étude sur le « retard des correctifs » des modèles ouverts. Sur Reddit, on l'a partagée avec un titre qui affirme que GLM 5.3, un modèle ouvert, peut pirater tout seul des versions récentes de Firefox.
Bonne nouvelle pour le choix et l'indépendance : un modèle de pointe qui n'est pas enfermé chez quelques compagnies américaines. Et pourtant, un modèle ouvert puissant, pensé pour la cybersécurité, aide autant les pirates que les défenseurs. Et des poids téléchargés, on ne peut jamais les rappeler.