Des modèles ouverts perdraient leurs talents en sécurité
Suite de dimanche 1er novembre: Claude ferme encore plus de portesDimanche dernier, on voyait Claude bloquer encore plus le reverse engineering et le clonage de jeux vidéo. Là, un billet sur r/LocalLLaMA affirme que les labos de modèles à poids ouverts font pareil. Ces modèles, ce sont ceux que n'importe qui peut télécharger et faire rouler sur son propre ordi. Selon l'auteur, Kimi K3.1 et Hy4, de Tencent, perdent leurs compétences en cybersécurité, en reverse engineering et en correction de failles. C'est l'affirmation d'un seul utilisateur, et nos sources n'ont aucune réponse des labos.
Ce qui inquiète, c'est l'effet sur les défenseurs. Les gens qui vérifient leur propre code sur leurs propres machines pourraient perdre de bons outils et se faire pousser vers les modèles fermés.
La même semaine, une autre chicane a éclaté sur ce qu'il y a dans un modèle. NousResearch a publié Arete-27B, une version réentraînée de Qwen3.8-27B, d'Alibaba. NousResearch dit avoir vu des refus, des esquives et des « CCP-framed answers », des réponses cadrées selon le Parti communiste chinois, sur des sujets politiques sensibles. L'équipe a entraîné le modèle, selon ses mots, « to reinforce western values » (pour renforcer les valeurs occidentales).
Chaque modèle arrive avec des choix sur ce qu'il peut faire et ce qu'il croit, et les utilisateurs les voient rarement. C'est la même question qu'avec Apple Intelligence sur Qwen en Chine : qui décide de ce qui est filtré? Je ne prends pas parti entre les pays, mais je veux que ces choix soient écrits noir sur blanc et testés au grand jour.
