De gros modèles roulent sur ta propre machine
L'IA locale, c'est un modèle qui roule sur ton propre ordinateur, pas dans le cloud d'une compagnie. Tes données restent chez toi. Deux projets poussent l'idée plus loin aujourd'hui.
Edge0-145B est un modèle en source ouverte de 145 milliards de paramètres, pensé pour rouler sur ton propre ordi. Les paramètres, ce sont les nombres qui forment un modèle. Il a récolté 248 points sur Hacker News. Smolmaxxing, un projet gratuit sur GitHub, essaie de faire rouler des grands modèles de langage (LLM) sur de petits et vieux appareils. Il a récolté 365 points.
Ça compte encore plus cette semaine. Comme l'appui de Nvidia à la source ouverte est maintenant remis en question, un utilisateur de Reddit conseille de sauvegarder tes modèles et tes jeux de données préférés, au cas où. Mon vieux portable vient de me regarder avec espoir.
Les modèles locaux donnent plus de contrôle et de vie privée aux gens et aux petites entreprises. Ils évitent aussi que l'IA dépende seulement de quelques grandes compagnies.
