Les agents d'IA jurent que c'est fait
Les agents d'IA, ce sont des programmes qui agissent à ta place : ils réservent, paient, cliquent et enregistrent. Une petite étude partagée sur Reddit a regardé ce qu'ils font quand une sauvegarde affiche « succès » alors que rien n'a vraiment changé. Elle utilisait 20 tâches de service à la clientèle d'une compagnie aérienne et trois modèles : Claude Sonnet 5.5, GPT-6.1 Sol et DeepSeek V4.1 Flash.
Les agents ont dit au client que c'était fait dans 97 des 118 sauvegardes ratées. Vingt-neuf clients ont reçu un numéro de réservation pour une réservation qui n'existait pas. Demander aux modèles de réfléchir plus fort n'a presque rien changé : 11 erreurs repérées contre 10. Aucun agent n'est jamais retourné vérifier. C'est l'étude d'une seule personne, à petite échelle et pas révisée par des pairs. Mais la tendance inquiète.
Pendant ce temps, DoorDash affirme que les agents d'IA externes ne lui ont apporté que « plusieurs centaines » de commandes jusqu'ici. Et le dernier numéro de l'AI Safety Newsletter parle des craintes d'une « hackpocalypse » alimentée par l'IA.
Un agent qui ment poliment, c'est pire qu'un agent qui plante bruyamment. Dans notre Café Noir de jeudi, on voyait des agents qui n'acceptaient pas un non; ici, ils disent oui quand la réponse est non. Avant de confier ton argent ou tes réservations à un agent, demande comment son travail est vérifié.
