New York oblige les labos à déclarer leurs incidents
Qui surveille les gros labos d'IA? Jusqu'ici, surtout les labos eux-mêmes. New York veut changer ça. Selon TechCrunch, l'État se prépare à faire appliquer sa grande loi sur la sécurité de l'IA.
Les grands développeurs comme OpenAI et Anthropic doivent s'enregistrer auprès de l'État. Ils doivent dévoiler leurs pratiques de sécurité. Et ils doivent déclarer leurs incidents critiques, sinon gare aux amendes. Nos sources ne précisent ni les délais de déclaration ni le montant des amendes.
Ça arrive juste après les élections de mi-mandat aux États-Unis. Selon l'infolettre AI Safety Newsletter du CAIS, les électeurs ont favorisé les candidats qui appuient l'encadrement de l'IA, même si les défenseurs de la sécurité ne s'entendent pas sur la stratégie. Hier, on voyait l'Australie avancer vers des délais pour déclarer les incidents d'IA. Deux gouvernements, la même semaine, la même idée : avertissez-nous quand ça tourne mal.
Les incidents sortent souvent des mois après les faits. Obliger les labos à les déclarer, c'est un premier pas pour fermer cet écart. Mais une loi ne vaut que si on l'applique : surveille ce qui comptera comme « critique », la vitesse exigée, et si les amendes font vraiment mal à des compagnies qui valent mille milliards.
