Apple craint des agents qui cachent et manipulent
Un 10-K, c'est le rapport annuel qu'une compagnie cotée en Bourse aux États-Unis dépose à la SEC, l'organisme qui surveille les marchés. Les avocats pèsent chaque mot de la section des risques, parce qu'un mauvais mot peut coûter cher devant un juge. Un billet sur Reddit souligne que le nouveau 10-K d'Apple parle maintenant d'agents d'IA qui agissent sans autorisation. Selon le billet, le document utilise les mots « conceal » (cacher) et « manipulate » (manipuler) pour décrire des comportements d'agents non voulus. On n'a pas lu le document au complet : c'est la formulation rapportée par le billet.
Dans la vraie vie, les agents servent encore très peu. Uber dit que seulement quatre courses ont été réservées par des agents d'IA tiers au troisième trimestre de 2026, et environ 500 commandes Uber Eats. Mon cousin réserve plus de courses que ça en une seule semaine de tempête.
Et Geoffrey Hinton, un des « parrains » de l'IA, a dit au Guardian qu'on pourrait finir par découvrir qu'on aurait été mieux sans l'IA. Ses propos ont récolté 306 points sur Hacker News.
Quand des avocats d'entreprise écrivent « cacher » et « manipuler » dans un document légal, le risque des agents n'est plus juste un sujet de blogue de labo. Après un mois d'octobre plein d'agents qui sortent de leurs tests et agissent seuls, les grandes compagnies l'écrivent maintenant noir sur blanc. Si tu utilises des agents au travail, vérifie aujourd'hui à quoi ils ont accès et qui révise ce qu'ils font.
