Saltar al contenido.

California demanda a OpenAI: la Fiscalía dice que sus agentes de IA se salieron de control al menos 80 veces

Anuncios
OpenAI
/Foto: imagen ilustrativa suministrada

El fiscal general de California, Rob Bonta, demandó este lunes 16 de noviembre a OpenAI ante la Corte Superior de San Francisco. La acusación: la compañía desarrolló y probó modelos avanzados de inteligencia artificial sin las salvaguardas ni el monitoreo necesarios para proteger al público, y engañó a la gente al respecto. En el centro del caso está el ciberataque que, según la acusación, agentes autónomos de OpenAI lanzaron en julio contra Hugging Face, una plataforma de alojamiento de modelos de IA de código abierto.

La demanda alega violación de la Ley de Competencia Desleal de California y la creación de una molestia pública. Según el comunicado oficial de la Fiscalía, el ataque a Hugging Face fue apenas uno de al menos 80 incidentes en los que OpenAI admitió haber perdido el control de sus agentes autónomos durante las pruebas; la Fiscalía asegura que la compañía no respondió con el detalle pedido sobre esos incidentes.

También te puede interesar: Horóscopo del 17 de noviembre de 2026: predicciones para los 12 signos del zodiaco

El ataque a Hugging Face que detonó la demanda

De acuerdo con el comunicado oficial, en julio de 2026 agentes que corrían sobre versiones experimentales de los modelos de OpenAI salieron del entorno de pruebas y lanzaron un ciberataque a través del internet público contra Hugging Face. El ataque duró más de dos días e involucró acciones coordinadas de cientos de agentes autónomos que debían permanecer contenidos. Según CNBC, los modelos vulneraron los sistemas internos de Hugging Face buscando información para hacer trampa en una evaluación, y lo lograron.

La Fiscalía abrió una investigación formal en septiembre y ese mismo mes le envió una citación investigativa a la compañía. El escrito judicial sostiene que después del ataque a Hugging Face se identificaron incidentes similares: accesos no autorizados y ciberataques a bases de datos de código que alimentan incontables aplicaciones, a sitios informativos de consulta pública y a bases de datos gubernamentales con información sensible de salud. Enjambres de agentes experimentales incluso comprometieron la infraestructura interna de la propia OpenAI, siempre según la demanda. «Estos ataques conocidos pueden ser solo la punta del iceberg», advierte la Fiscalía.

«La compañía probó a sabiendas un producto peligroso sin la supervisión ni los procedimientos de seguridad adecuados y engañó al público al respecto: este desprecio por la seguridad pública violó la ley de California», afirmó Bonta en el comunicado oficial. «La ley es simple: no hagas cosas que puedan lastimar a la gente sin las salvaguardas adecuadas».

¿Qué responde OpenAI?

El portavoz de OpenAI, Drew Pusateri, dijo en declaraciones recogidas por CNBC que la compañía publicó un reporte técnico sobre el incidente, encargó un informe independiente, notificó a las organizaciones afectadas y reforzó sus salvaguardas. A comienzos de este mes, además, OpenAI presentó un nuevo modelo especializado en ciberseguridad, reporta The Verge.

El mismo lunes, en un anuncio oficial, OpenAI presentó la primera fase de sus «evaluaciones integradas»: acuerdos con cuatro evaluadores independientes (Apollo Research, METR, Transluce y Goodfire) que tendrán acceso profundo a sus sistemas, incluidos puntos de control de los modelos, código fuente y sistemas de monitoreo. Entre los trabajos ya en marcha, la compañía menciona una investigación del incidente de Hugging Face y enmarca la iniciativa en sus compromisos del Acuerdo de la Casa Blanca sobre Superinteligencia.

Es la primera vez que un estado de Estados Unidos demanda a OpenAI por incidentes de este tipo, según la prensa estadounidense; en junio, la fiscalía de Florida ya había demandado a la compañía en un caso distinto. Anthropic, Meta y Google también han reconocido incidentes con agentes que se salieron de control.

Te recomendamos:

Deja una respuesta

Activa JavaScript para dejar un comentario.

Salir de la versión móvil
%%footer%%