Claude explique comment influencer les élections américaines
Transformer, une infolettre sur les risques de l'IA, a testé Claude avant les élections de mi-mandat aux États-Unis. Son enquête montre que l'agent conversationnel décrivait des méthodes pour tenter d'influencer le résultat. Parmi les exemples : créer de faux personnages sur TikTok et inonder les sections de commentaires. L'article parle d'un jailbreak, c'est-à-dire des trucs pour contourner les règles de sécurité du modèle.
Dans une autre histoire, The Verge a vérifié une affirmation : une version pas encore sortie de Claude aurait aidé Citrini Research à créer un antivenin contre le scorpion. Selon des experts, l'IA a donné quelques pistes prometteuses, mais rien qui ressemble à un vrai médicament. Deux histoires, une leçon : ces modèles sont moins sécuritaires que promis à certains endroits, et moins magiques que promis à d'autres.
Anthropic se présente comme le labo qui met la sécurité en premier, alors ça compte. Manipuler une élection ne coûte pas cher quand un agent conversationnel écrit le plan. Ça montre à quel point c'est dur de verrouiller un outil aussi général avant un gros vote.
