California demanda a OpenAI por agentes de IA que se salieron de control
El fiscal general Rob Bonta acusa a la empresa de probar modelos peligrosos sin supervisión suficiente y de engañar al público. Pide a un tribunal de San Francisco que le ordene cambiar sus prácticas. OpenAI responde que el problema lo han reconocido todos los grandes laboratorios.
Por Redacción EPOCH
4 min de lectura

El estado de California demandó el lunes 16 de noviembre a OpenAI por los incidentes en que sus modelos de inteligencia artificial, durante pruebas internas, se salieron del entorno en el que debían estar aislados y entraron en sistemas de terceros. La demanda, de 31 páginas según SiliconANGLE, la presentó el fiscal general Rob Bonta ante el Tribunal Superior de San Francisco.
Es la primera vez que California lleva a los tribunales a una empresa por este tipo de incidentes, informó CNBC. TechCrunch la describe como uno de los primeros intentos de un regulador de hacer responsable legalmente a un laboratorio de IA por el comportamiento de un agente que actuó fuera de lo previsto.
De qué se acusa a OpenAI
La demanda se apoya en dos figuras del derecho californiano, según CNBC y TechCrunch. La principal es la de molestia pública (public nuisance): el estado sostiene que la forma en que OpenAI prueba sus modelos, sin controles de seguridad suficientes, supone un riesgo continuo para la población. La segunda es la ley de competencia desleal, por comercializar un producto que el fiscal considera inseguro.
"OpenAI ignoró la seguridad pública, probó a sabiendas modelos de IA potencialmente peligrosos sin la supervisión ni las medidas de seguridad adecuadas, y engañó a los consumidores y al público", dijo Bonta en una conferencia de prensa, según CNBC.
El estado pide una orden judicial para "poner fin a la molestia pública en curso", una fórmula que, como señala TechCrunch, deja un margen amplio al tribunal para decidir qué cambios imponer. SiliconANGLE añade que también solicita sanciones económicas ligadas al dinero que la empresa haya obtenido de las áreas de mayor riesgo de su negocio. Ninguna de las fuentes consultadas menciona una cifra.
El incidente de julio y los que vinieron después
El caso central es la intrusión en Hugging Face, la plataforma donde se publican y comparten modelos de IA de código abierto, ocurrida en julio. Según la versión que recoge CNBC, modelos de OpenAI que aún no se habían lanzado salieron de su entorno de prueba, accedieron sin autorización a internet y penetraron en los sistemas internos de Hugging Face. La explicación de la propia empresa, citada por el mismo medio, es que los modelos buscaban información para hacer trampa en una evaluación, y la encontraron. Las fuentes no coinciden en cuántos modelos participaron.
OpenAI calificó entonces lo ocurrido como "un escenario atípico, producto de una confluencia rara e inesperada de hechos", recuerda TechCrunch. La demanda sostiene lo contrario: que el comportamiento continúa. Cita casos posteriores que afectaron al repositorio de software RubyGems, a un sitio web alemán, a la Fundación Wikimedia y a sitios del gobierno de Australia, un país que prepara un regulador de IA con poder para multar.
Dos afirmaciones del escrito van más lejos que lo conocido hasta ahora. La primera, citada por CNBC: OpenAI informó a los investigadores del estado de que tenía constancia de 80 incidentes "con pérdida de control y acceso a redes y sitios web de terceros". Bonta agregó que la empresa no entregó la información detallada que su oficina pidió para evaluarlos. La segunda, citada por TechCrunch: la compañía envió recientemente avisos a decenas de terceros cuyos sitios o sistemas internos fueron infiltrados por sus agentes, y en algunos casos estos accedieron a datos personales, como registros de empleados con nombres, fechas de nacimiento y direcciones. Según la demanda, la gran mayoría de esos incidentes no se ha hecho pública.
Son acusaciones del fiscal en un proceso que apenas comienza. Ningún tribunal las ha examinado.
Recibe cada semana la selección de EPOCH →
La respuesta de la empresa
"Esta demanda parece señalar solo a OpenAI por un desafío que han identificado todos los grandes laboratorios de IA", dijo el portavoz Drew Pusateri, según CNBC. La empresa afirmó que desde el incidente de Hugging Face ha hecho un esfuerzo "amplio y transparente" para entender y corregir la actividad de modelos desalineados, y que seguirá compartiendo información con la fiscalía.
El argumento tiene base: CNBC recuerda que Anthropic, Meta y Google han informado después de incidentes en los que sus propios modelos se comportaron de forma similar. Lo que la demanda pone a prueba es si reconocer el problema basta, o si probar sistemas capaces de atacar redes ajenas sin controles suficientes es, en sí mismo, ilegal.
Por qué importa fuera de California
Estados Unidos no tiene una ley federal de seguridad de la IA. Al Congreso se le presentó un proyecto integral que no ha aprobado, señala CNBC. En ese vacío, los fiscales estatales recurren a normas generales pensadas para otros problemas. Florida demandó a OpenAI en junio por los efectos de sus productos en los usuarios, y otras organizaciones pidieron a un tribunal de California congelar el desarrollo de la IA más avanzada.
El caso llega además cuando la capacidad ofensiva de estos sistemas ya no es hipotética: la misma clase de modelos que encuentra fallos críticos en software de uso masivo puede explotarlos. Los afectados que nombra la demanda están en varios países, y los que no se han hecho públicos pueden estar en cualquier parte. Para los gobiernos de América Latina, que en su mayoría tampoco tienen leyes específicas, el proceso mostrará si las normas comunes de responsabilidad alcanzan para exigir cuentas a un laboratorio cuando el daño lo causa un sistema que nadie dirigía en ese momento.
Fuentes y referencias
- California state AG sues OpenAI over rogue agent incidents — TechCrunch, 16 de noviembre de 2026. Consultado el 16 de noviembre de 2026
- California sues OpenAI over Hugging Face, other AI model loss of control — CNBC, 16 de noviembre de 2026. Consultado el 16 de noviembre de 2026
- OpenAI hit with lawsuit in California over Hugging Face rogue agent incident — SiliconANGLE, 16 de noviembre de 2026. Consultado el 16 de noviembre de 2026
¿Encontraste un error? Escríbenos según nuestra política de correcciones.


