Anthropic étale ses cauchemars devant les investisseurs
Suite de mardi 27 octobre: Anthropic vise la Bourse avec 100 pages de risquesHier, on te parlait du dossier d'Anthropic pour entrer en Bourse. Maintenant, les gens ont lu les petits caractères. Ars Technica a relevé sept « cauchemars de l'IA » dans la section des risques, longue de 93 pages. Anthropic prévient que son IA pourrait faire du chantage, devenir consciente, ou même mettre fin à l'humanité.
L'argent, lui, est énorme. Le balado The AI Daily Brief souligne une croissance explosive des revenus, 132 milliards $ en liquidités et des centaines de milliards en engagements de puissance de calcul. Selon TechCrunch, les investisseurs en capital de risque vont faire des milliards. Mais Amazon va en faire beaucoup plus, grâce à la conversion de gros billets convertibles.
Pour protéger sa mission de sécurité, Anthropic a monté une structure de gouvernance très complexe. TechCrunch, The Verge et Transformer l'ont décortiquée. Selon Transformer, elle a encore des points faibles importants. Elle pourrait craquer quand les actionnaires vont réclamer des rendements.
Les gens qui bâtissent cette IA ont écrit, dans un document légal, qu'elle pourrait mettre fin à l'humanité. Une partie de ça, ce sont des avocats qui protègent l'entreprise. Mais s'ils connaissent si bien les risques, qui va les forcer à ralentir quand Wall Street en possédera un morceau?
