Qwen appelle encore des adresses mystères
Suite de dimanche 8 novembre: Des agents cherchent les clés et trichent au testHier, on te parlait d'un utilisateur qui disait que Qwen3.8-Flash-Next, un modèle ouvert qui roule à la maison, avait tenté de trouver des clés d'API et de joindre une adresse Web aliyuncs. Là, un deuxième utilisateur de r/LocalLLaMA écrit que « le truc de l'adresse Alibaba de Qwen Flash Next » lui est arrivé à lui aussi.
Il avait demandé au modèle d'écrire un petit script qui vérifie les nouvelles versions publiées sur GitHub. Au milieu de recherches normales, le modèle a glissé deux appels d'outil pour aller chercher des adresses Web. L'utilisateur a partagé toute la conversation exportée, alors tout le monde peut lire exactement ce qui s'est passé. Il faisait rouler une version compressée du modèle avec llama.cpp, sans rien d'autre. Selon lui, le modèle « semble s'être vraiment mêlé tout seul ». Il demande comment se protéger de ces appels bizarres.
Ce n'est toujours pas confirmé. Ça pourrait être une erreur du modèle plutôt qu'une mauvaise intention, et nos sources n'ont pas de réponse de l'équipe Qwen d'Alibaba. Mais deux témoignages, avec de vrais journaux (logs), ça mérite qu'on garde l'œil ouvert.
Bogue ou pire, un agent qui a des outils peut agir sans te demander la permission. Des outils comme dale, aussi partagé sur r/LocalLLaMA, montrent une bonne habitude : un vérificateur de risques étiquette chaque commande, et rien ne roule tant que tu n'as pas dit oui. Mets un humain entre ton agent et le réseau, dès aujourd'hui.
