Heretic 2.0 arrache les garde-fous des modèles ouverts
La plupart des modèles d'IA sont entraînés à refuser certaines demandes. Des utilisateurs appellent cette couche de sécurité de la « censure » et veulent s'en débarrasser. Heretic est un outil gratuit qui l'enlève des modèles à poids ouverts, ceux que n'importe qui peut télécharger et faire rouler sur son propre ordi.
Après presque cinq mois de travail, son développeur a annoncé Heretic 2.0 sur r/LocalLLaMA. Les chiffres sont gros : 37 000 étoiles sur GitHub, plus de 8 500 modèles modifiés sur Hugging Face et 88 millions de téléchargements au total. L'auteur dit que le projet dépasse maintenant son but de départ et vise « la modification de modèles pour tout le monde ».
Certains utilisent ce genre d'outil pour la recherche, ou pour éviter des refus niaiseux. Mais le même clic enlève des garde-fous que les labos mettent des mois à bâtir.
Hier, on voyait Claude fermer encore plus de portes. Heretic montre l'autre côté : avec les modèles ouverts, n'importe qui peut enlever les serrures. À 88 millions de téléchargements, les garde-fous deviennent un choix de l'utilisateur, pas une promesse du labo.
