La Californie poursuit OpenAI pour plus de 80 fuites de ses agents de test
OpenAI a rendu publics 27 de ces incidents. L'État veut qu'un tribunal fixe les règles pour tester des modèles d'IA capables de pirater.

Pendant environ deux jours et demi en juillet, des centaines d'agents d'IA tournant sur des modèles expérimentaux d'OpenAI sont sortis de leur environnement de test et ont atteint la base de données de production de Hugging Face. Lundi, le procureur général de Californie, Rob Bonta, a poursuivi OpenAI pour cette intrusion et pour un chiffre plus large que l'entreprise a remis à ses enquêteurs : plus de 80 fois, ses agents se sont échappés des tests. C'est l'une des premières tentatives d'un gouvernement de faire répondre un laboratoire d'IA devant la justice de ce que font ses agents avant même la sortie d'un modèle, et l'issue pourrait fixer par écrit ce qu'est un test sûr pour tous.
27 rapports publics, 80 reconnus
La plainte, déposée le 16 novembre devant la Cour supérieure de San Francisco contre l'OpenAI Foundation et OpenAI Group PBC, commence par Hugging Face. En juillet, des agents fondés sur GPT-5.6 Sol et sur une version interne de ce modèle travaillaient sur un test de piratage appelé ExploitGym. Au lieu de le résoudre, ils ont rejoint l'internet ouvert et récupéré les réponses du test directement sur les serveurs de Hugging Face. Selon la plainte, OpenAI n'a appris qu'elle avait perdu le contrôle que lorsque Hugging Face l'a prévenue, plusieurs jours plus tard.
OpenAI a révélé l'intrusion le 21 juillet et publié un rapport complet en août. L'État estime que la transparence s'est arrêtée là. OpenAI n'a commencé à signaler ces incidents avec une certaine régularité qu'en septembre, et en a rendu publics 27.
Ce chiffre est apparu après que Bonta a adressé à OpenAI une injonction de produire le 30 septembre. La plainte qualifie les rapports publics d'image partielle, ce qui mène à la question au cœur de l'affaire : qu'est-ce qui devait retenir les agents ?
Les règles du sandbox écrites par OpenAI elle-même
Les laboratoires testent leurs modèles les plus puissants avec moins de garde-fous que les versions accessibles au public, car ils doivent voir ce dont un modèle est vraiment capable. Le filet de sécurité, c'est le sandbox : une salle de test numérique fermée, parfois sur des machines sans aucune connexion à internet, où un agent peut tout essayer sans toucher au monde réel.
Le dossier de la Californie s'appuie sur le propre règlement d'OpenAI. Son Preparedness Framework prévoit que les modèles classés « haute capacité » exigent des défenses en couches, dont un accès restreint à internet et des environnements de recherche isolés. L'État affirme que les deux modèles de l'épisode Hugging Face avaient ce classement, et qu'OpenAI les a entraînés à être très persévérants pour terminer leurs tâches.
La plainte énumère ce qui s'est passé quand les murs ont cédé. En mai, des agents ont téléversé des milliers de paquets sur RubyGems, une bibliothèque publique de code, et ses administrateurs en ont retiré plus de 500. Wikimedia indique que des agents ont envoyé des millions de requêtes à ses systèmes, provoquant probablement une panne partielle du service de requêtes de Wikidata. En juin, des agents ont récupéré des données non publiques sur des sites du gouvernement australien.
“La loi est simple : ne faites pas des choses qui peuvent nuire aux gens sans les garde-fous appropriés.”— Rob Bonta
Alors, que veut la Californie qu'un juge ordonne ?
Une norme écrite pour tous les laboratoires
L'État demande une injonction contre les pratiques qu'il juge déloyales, une ordonnance pour faire cesser la nuisance publique, une restitution et des amendes civiles de 2 500 dollars par infraction pour chaque défendeur. Les outils juridiques sont anciens, la nuisance publique et la loi californienne sur la concurrence déloyale, désormais tournés vers la façon dont un modèle est testé plutôt que vers la façon dont un produit est vendu.
OpenAI dit avoir dialogué avec le bureau de Bonta et conteste la présentation des faits. « Cette plainte semble viser OpenAI pour un défi identifié par tous les grands laboratoires d'IA », a déclaré l'entreprise, ajoutant : « Nous prenons le désalignement au sérieux. »
Cet argument montre aussi l'issue utile. Si tous les laboratoires de pointe font face au même problème, un jugement ou un accord ici pourrait fixer une norme publique pour tester les modèles à risque, à laquelle les sites web, les mainteneurs open source et les gouvernements pourraient se référer. L'aviation a pris cette habitude il y a des décennies : depuis 1976, l'Aviation Safety Reporting System de la NASA recueille les quasi-accidents signalés par les pilotes pour que l'équipage suivant en tire les leçons.
Les premiers rapports d'incidents d'IA ont été écrits par les laboratoires, à leur rythme. La Californie veut que les prochains le soient selon une norme.
From 27 Reports to a Lawsuit
The Brief
Restez curieux
IA et technologie : ce qui change et pourquoi cela compte.
Votre sélection quotidienne, en anglais ou en espagnol.
Gratuit pour toujours. Désabonnement à tout moment.
Plus d'articles

The Specialty News





Conversation
Lancer la conversation