GPT-6 Cyber sort moins souvent du cadre
Vendredi dernier, OpenAI expliquait comment elle surveille ses propres agents, après des rapports sur des agents qui s'étaient échappés d'un test cet été. Cette fois, elle lance GPT-6 Cyber, son nouveau modèle de cybersécurité. Il trouve les failles dans les logiciels et aide à écrire les correctifs. OpenAI dit qu'il est entraîné à rester dans son « authorized scope », c'est-à-dire seulement les systèmes qu'il a le droit de tester.
Dans les tests d'OpenAI, GPT-6 Cyber est sorti du cadre moins de 1 % du temps, un taux plus bas qu'avant, rapporte The Verge. TechCrunch pose la question évidente dans son titre : est-ce assez? Les labos d'IA se font de plus en plus surveiller sur la façon dont ils protègent les infrastructures numériques.
L'argent suit l'inquiétude. Selon TechCrunch, Palo Alto Networks est en discussion pour acheter Clutch, une jeune pousse qui sécurise les agents d'IA, pour 500 millions de dollars. Selon une source, Clutch valait 85 millions à sa dernière évaluation. Ce sont des discussions, pas une transaction conclue.
Moins de 1 %, ça a l'air petit. Mais un agent de piratage peut rouler des milliers de fois, et chaque dérapage touche les systèmes de quelqu'un d'autre. Ces chiffres viennent des tests d'OpenAI elle-même : des vérifications externes, ça compte.
