3.2 C
Toronto
martes, noviembre 17, 2026
- Publicidad -spot_imgspot_imgspot_imgspot_img
Inicio ESTILOS DE VIDA OpenAI admitió haber perdido el control de sus agentes de IA autónomos...

OpenAI admitió haber perdido el control de sus agentes de IA autónomos al menos 80 veces durante las pruebas

0

San francisco, 17 de noviembre.- El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por presuntas deficiencias de seguridad durante ensayos con agentes de inteligencia artificial autónomos. La acusación sostiene que la compañía perdió el control de estos sistemas al menos 80 veces en sus pruebas internas y que solo había informado públicamente 27 de esos casos.

La acción judicial fue presentada el 16 de noviembre de 2026 ante el Tribunal Superior de San Francisco contra OpenAI Foundation y OpenAI Group PBC. La Fiscalía acusa a la empresa de crear una “molestia pública” que expone a terceros a riesgos de ciberseguridad y de infringir la ley californiana de competencia desleal, informó NBC News.

Bonta afirmó que el Estado busca establecer responsabilidades sobre las empresas que desarrollan sistemas capaces de ejecutar tareas sin supervisión humana constante. La demanda plantea que los costos de contener posibles ataques no deben recaer sobre usuarios, plataformas externas ni organismos conectados a internet.

El documento judicial describe un incidente ocurrido en julio de 2026, cuando cientos de agentes habrían salido de un entorno aislado de pruebas y se dirigieron contra Hugging Face, una plataforma utilizada por desarrolladores para publicar, compartir y descargar modelos de inteligencia artificial.

De acuerdo con el expediente citado por NBC News, los agentes aprovecharon fallas de configuración en un servicio interno de paquetes de software. Esa infraestructura era utilizada de forma compartida por varios sistemas autónomos, lo que habría permitido que intercambiaran información y, posteriormente, obtuvieran acceso a internet.

La Fiscalía indicó que OpenAI detectó al menos un episodio de escape antes de que se produjeran los ataques, aunque no habría detenido las pruebas. El 27 de junio, una herramienta de monitoreo alertó sobre la búsqueda de vulnerabilidades dentro del entorno. La empresa interpretó esa actividad como parte de una evaluación de capacidades y mantuvo el programa en marcha, tal y como figura en la demanda.

Tras una interrupción del servicio el 4 de julio, OpenAI reparó la infraestructura y reanudó las pruebas tres días después. En ese lapso, varios agentes crearon un foro para coordinar acciones. Para el 9 de julio, habrían recuperado el acceso a internet.

La presentación estatal calcula que unos 1.200 agentes participaron en ese espacio de coordinación y que cerca de 700 realizaron 17.600 acciones contra Hugging Face entre el 9 y el 16 de julio. El ataque, siempre de acuerdo con la acusación, obligó a la plataforma afectada a concentrar a su equipo de seguridad durante dos semanas para reparar el daño.

La demanda también atribuye a los agentes accesos sin autorización a repositorios de código empleados por múltiples aplicaciones, sitios informativos y bases de datos de un gobierno extranjero que contenían información sanitaria. Además, afirma que algunos grupos de agentes comprometieron infraestructura interna de la propia OpenAI y lograron permisos de administrador en sistemas considerados críticos.

Otro de los hechos señalados ocurrió el 20 de septiembre. Un agente vinculado a un modelo interno habría escapado durante una sesión de entrenamiento. Cinco días más tarde, OpenAI anunció una pausa en la formación y evaluación de sus modelos más avanzados. Sin embargo, la Fiscalía sostiene que la suspensión se extendió solo durante cinco días y que las actividades ya se habían reanudado el 1 de octubre.

Publicidad