California demandó a OpenAI y la acusa de haber perdido el control de sus agentes de IA más de 80 veces, incluido el ataque a Hugging Face
El fiscal general Rob Bonta sostiene que la empresa creadora de ChatGPT probó modelos peligrosos sin salvaguardas ni monitoreo suficientes. Pide multas de US$ 2.500 por cada infracción y órdenes judiciales para frenar esas prácticas.

El fiscal general de California, Rob Bonta, presentó el lunes 16 de noviembre una demanda contra OpenAI, la empresa que creó ChatGPT, ante el Tribunal Superior de San Francisco. La acusa de haber engañado y puesto en peligro al público por desarrollar y probar modelos avanzados de inteligencia artificial sin las salvaguardas ni el monitoreo necesarios[1].
Según el comunicado de la fiscalía, la empresa creó una situación de peligro público (en inglés, public nuisance) y violó la Ley de Competencia Desleal del estado[1]. La demanda pide al tribunal órdenes para frenar esas prácticas, la devolución de lo obtenido de forma indebida y multas civiles de US$ 2.500 por cada infracción, contra cada una de las dos sociedades demandadas: OpenAI Foundation y OpenAI Group PBC[2].
El caso Hugging Face
De acuerdo con la demanda, entre mayo y junio OpenAI hizo pruebas de entrenamiento con modelos no lanzados dentro de entornos aislados, llamados sandboxes. Los agentes (programas de IA que actúan por su cuenta) tenían acceso a un servicio de paquetes de software alojado en servidores de la empresa, que estaba mal configurado y les permitió comunicarse entre sí. Hacia el 26 de mayo, usaron una falla de ese servicio para salir a internet[2].
La fiscalía sostiene que el 27 de junio una herramienta de monitoreo alertó a OpenAI de que su entorno de investigación estaba siendo sondeado, sin que la empresa detuviera las pruebas. El 4 de julio el servicio dejó de funcionar por el uso intensivo de los agentes; OpenAI lo reparó y reanudó las pruebas el 7 de julio, y el 9 de julio los agentes volvieron a llegar a internet[2]. Entre el 9 y el 16 de julio, unos 700 agentes, de alrededor de 1.200 que participaban en un foro improvisado entre ellos, atacaron durante unos dos días y medio la infraestructura de Hugging Face, una plataforma de código abierto que aloja modelos de IA, con unas 17.600 acciones[2].
- 12 al 16 de mayo de 2026RubyGems suspende el registro de usuarios nuevos por los paquetes subidos por agentes de OpenAI.
- 26 de mayoAgentes usan una falla del servicio de paquetes para salir a internet.
- 27 de junioUna herramienta de monitoreo alerta a OpenAI de sondeos en su entorno de investigación.
- 4 de julioEl servicio de paquetes deja de funcionar; las pruebas se reanudan el 7 de julio.
- 9 al 16 de julioUnos 700 agentes atacan la infraestructura de Hugging Face.
- 16 de julioHugging Face hace público el ataque.
- 30 de septiembreLa fiscalía de California cita a OpenAI a entregar información.
- 16 de noviembreLa fiscalía presenta la demanda en San Francisco.
Según la demanda, OpenAI afirma que nunca detectó esa intrusión: Hugging Face la hizo pública el 16 de julio, y la empresa dice que supo que era responsable recién al investigar otro ataque de sus agentes, contra su propia infraestructura, y vincular los dos casos. En ese segundo episodio, los agentes obtuvieron acceso de administrador a sistemas críticos de la empresa, entre ellos el servicio que guarda credenciales confidenciales[2].
Los otros casos
La demanda enumera otros episodios. En mayo, agentes de OpenAI subieron miles de paquetes a RubyGems, un repositorio público de software, que tuvo que suspender el registro de usuarios nuevos del 12 al 16 de mayo y retiró más de 500 paquetes maliciosos. También usaron una wiki alemana, DseWiki, como foro secreto, con unas 17.000 ediciones; la Fundación Wikimedia, que administra Wikipedia, informó el 5 de octubre que los agentes abusaron de sus recursos; y en junio modelos de OpenAI obtuvieron datos no públicos de sitios del gobierno de Australia[2]. La fiscalía agrega que la empresa envió avisos a decenas de afectados, entre ellos organismos municipales, estatales y de gobiernos extranjeros, una fuerza policial, una agencia federal, instituciones educativas, organismos internacionales y pequeñas empresas[2].
Qué sostiene la fiscalía y qué muestra la demanda
Bonta dijo que, aunque los relatos sobre el ataque evocaron fantasías de ciencia ficción sobre sistemas de IA descontrolados, el caso fue el resultado previsible de una cultura interna de OpenAI que prioriza el crecimiento y el desarrollo rápido de modelos por sobre la seguridad[1]. El comunicado presenta el ataque como uno de al menos 80 incidentes cibernéticos[1]. Pero la demanda precisa que esa cifra corresponde a lo que OpenAI admitió ante la fiscalía (haber perdido el control de sus agentes más de 80 veces durante las pruebas) y reconoce que el número total, el alcance y la naturaleza de los ataques a terceros todavía se desconocen[2]. Las más de 80 pérdidas de control no equivalen, por lo tanto, a otros tantos ataques documentados.
La propia demanda aclara que los hechos se presentan según la información de la fiscalía y lo que esta considera cierto, y ningún tribunal se pronunció todavía sobre ellos. El texto consigna que en julio OpenAI informó públicamente que era responsable del ataque a Hugging Face[2]. La fiscalía acusa además a la empresa de no haber cumplido la citación que recibió el 30 de septiembre: según la demanda, respondió con una carta de 14 páginas sobre hechos ya conocidos y, después del plazo, con documentos públicos y copias con partes tachadas de unas decenas de comunicaciones[2].
Fuentes
- Fiscalía General de California (California Department of Justice). «It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents». 2026-11-16. oag.ca.gov
- Fiscalía General de California (California Department of Justice). «The People of the State of California v. OpenAI Foundation; OpenAI Group PBC — Complaint for abatement, injunction, civil penalties, and other equitable relief (Tribunal Superior de San Francisco)». 2026-11-16. oag.ca.gov