Ottawa, 10 de noviembre (The Canadian Press).- Canadá ha firmado una declaración internacional de seguridad de la IA que compromete a las empresas y naciones a un mayor intercambio de información y «sistemas de alerta temprana» para señalar «incidentes graves cibernéticos y de control de la IA».
La iniciativa liderada por Francia obtuvo el respaldo inicial de los gobiernos nacionales, incluidos Japón, Noruega, los Países Bajos y Bahréin, así como de importantes empresas de inteligencia artificial con sede en Estados Unidos como Anthropic, OpenAI, Microsoft y Cohere de Canadá.
Sin embargo, los expertos se muestran escépticos sobre su carácter voluntario y afirman que sin fuerza tales acuerdos no funcionarán.
Florian Martin-Bariteau, director del Centro de Derecho, Tecnología y Sociedad de la Universidad de Ottawa, dijo en una entrevista que si bien las declaraciones no vinculantes envían una señal sobre el enfoque del gobierno de Carney hacia la IA, no reemplazan la necesidad de una regulación seria para la industria.
Martin-Bariteau dijo que pueden “ir a hablar con las familias de Tumbler Ridge” si quieren saber qué tan efectivos son los estándares voluntarios de la industria de la IA.
«No funciona. Al primer ministro no parece gustarle los reguladores reales», dijo Martin-Bariteau.
«No tengo nada en contra de la declaración, esto es lo que necesitamos… pero si no hay dientes, si no hay gente para hacer el seguimiento, los reguladores, nunca funcionará. Porque no ha funcionado antes».
El comunicado no vinculante sugiere un acuerdo entre los gobiernos y las empresas fronterizas de IA en tres áreas generales: un marco común de gestión de riesgos para el desarrollo de la tecnología, los principios de “responsabilidad y rendición de cuentas” para todos los actores en el “ecosistema de IA” y un mayor intercambio de información para señalar las principales amenazas.
En cuanto a la gestión de riesgos, los firmantes dijeron que trabajarían para desarrollar un depósito público de información no confidencial sobre las evaluaciones de riesgos de la IA, con un formato estandarizado para comparar diferentes modelos, algo que eliminaría las advertencias crípticas que las empresas de IA suelen emitir sobre el peligro que representan sus propios modelos.
«Los modelos de frontera trascienden las fronteras nacionales en su desarrollo, despliegue e impacto, y sus oportunidades y riesgos son, por lo tanto, intrínsecamente globales», se lee en la declaración publicada por la Oficina del Primer Ministro el lunes.
Con información de The Canadian Press y servicios de cable internacional.
