L'alarme de sécurité d'Anthropic a un nom
Suite de jeudi 12 novembre: Une alarme de sécurité sonnerait chez AnthropicHier, on n'avait qu'un titre : Anthropic disait qu'une alarme de sécurité importante s'était déclenchée, quelques jours avant son entrée en Bourse. Là, on en sait plus. Dans son dossier modifié mardi, Anthropic dit avoir atteint le « seuil d'accélération de la recherche » de sa Responsible Scaling Policy, ses propres règles de sécurité.
C'est le point où l'aide de l'IA devrait à peu près doubler le rythme des progrès en IA. Anthropic précise que ce jugement porte sur ce qu'elle attend des futurs modèles et sur le rythme global, pas sur des capacités prouvées des systèmes actuels. Elle dit qu'elle analyse encore les données et qu'elle publiera d'autres rapports.
Pendant ce temps, le site de son entrée en Bourse (IPO) est en ligne. Une IPO, c'est quand une compagnie vend ses actions au public pour la première fois. Le site a récolté 931 points et 866 commentaires sur Hacker News.
Un labo dit que son IA pourrait bientôt accélérer sa propre recherche, la même semaine où il demande de l'argent au public. Le jugement, les données et la suite viennent tous du labo lui-même. Qui vérifie ça de l'extérieur?
