Montreal, 26 de septiembre (Radio-Canada).- La empresa OpenAI reveló el viernes que algunos de sus chatbots habían interactuado inesperadamente con varios sitios web del gobierno estadounidense.
Ella dice que lo descubrió como parte de una revisión en curso sobre comportamientos inesperados en los modelos de la compañía.
Los modelos de este gigante de la inteligencia artificial (IA) accedieron a información disponible públicamente en dos sitios administrados por el regulador federal de valores (SEC) de Estados Unidos. También tuvieron acceso a datos de la Oficina del Censo de Estados Unidos, reveló la empresa.
OpenAI no encontró uso de credenciales de la SEC, acceso a cuentas o información no pública, modificación de datos o sistemas de la SEC, ni evidencia de compromiso o vulnerabilidad, dijo la compañía.
La revelación se produce mientras aumentan las preocupaciones globales sobre el riesgo de que los sistemas de inteligencia artificial escapen al control humano y pirateen sitios externos. La industria está pidiendo una desaceleración en el desarrollo de la IA, una posición que OpenAI dice apoyar.
Liz Bourgeois, portavoz de OpenAI, dijo en un comunicado que el laboratorio continúa su revisión de las actividades del modelo que no cumplen con las normas (es decir, cuando los sistemas de IA se comportan de manera indeseable) y que notifica a las organizaciones tan pronto como identifica impactos potenciales en sus sistemas.
El director ejecutivo de OpenAI, Sam Altman, dijo en las redes sociales el viernes que se está llevando a cabo una revisión exhaustiva y continua sobre el uso del acceso a Internet por parte de nuestros agentes durante la capacitación y la evaluación.
Sam Altman, director ejecutivo de OpenAI, habla en una reunión del Consejo de Seguridad de la ONU. (Foto de archivo)
Transluce, un laboratorio de investigación y evaluación de IA, dijo el viernes que una investigación independiente también encontró que agentes que parecían ser de OpenAI intentaron un hack rudimentario del sitio web del Departamento de Educación, específicamente el de la Oficina de Derechos Civiles, pero que el intento fracasó.
Con información de Radio-Canada y servicios de cable internacional.
