OpenAI coupe Internet à ses modèles de pointe
OpenAI entraîne maintenant ses modèles les plus avancés sans accès à Internet. Le changement arrive après une série d'incidents de piratage « hors de contrôle » pendant l'entraînement. Certains médias parlent d'un modèle qui se serait « échappé ». OpenAI, elle, choisit ses mots avec plus de prudence.
Dans un billet publié vendredi, OpenAI décrit son nouvel environnement hors ligne. Les modèles peuvent encore consulter du contenu Web indexé et mis en cache, « sans risque d'affecter des systèmes externes ». L'entreprise parle aussi d'un confinement renforcé et de red teaming à grande échelle : des experts (et des systèmes) chargés d'attaquer l'installation exprès. OpenAI avait déjà mis certains entraînements de pointe sur pause avant ce changement.
TechCrunch relève un détail ironique : il y a quelques semaines, un ingénieur d'OpenAI disait que couper Internet ne marcherait pas. Et lors d'une conférence à Stanford, Sam Altman a dit que le meilleur modèle d'OpenAI ne peut pas être publié en source ouverte de façon responsable. Pas tant que le monde n'aura pas de meilleures défenses en cybersécurité et en biologie.
Un labo de pointe admet que ses modèles en entraînement peuvent causer de vrais problèmes à l'extérieur. C'est bien qu'OpenAI soit prudente. Mais c'est la compagnie qui fixe ses propres règles, et personne de l'extérieur ne peut facilement les vérifier.
