Redacción, 23 de septiembre.- El director ejecutivo de OpenAI, Sam Altman, advirtió este miércoles ante el Consejo de Seguridad de Naciones Unidas que el rápido desarrollo de la inteligencia artificial (IA) exige actuar con “extremo cuidado”, ante la posibilidad de que los sistemas aumenten sus capacidades a una velocidad superior a la capacidad de respuesta de gobiernos e instituciones. Su intervención tuvo lugar durante una reunión de emergencia del organismo de 15 miembros dedicada al impacto de esta tecnología sobre la seguridad internacional.
Altman sostuvo que el crecimiento de la industria no puede justificar por sí mismo la aceptación de riesgos tecnológicos elevados.
“La industria no debe aceptar demasiado riesgo tecnológico simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, afirmó.
El ejecutivo planteó así la necesidad de que las empresas acompañen la expansión de las capacidades de sus modelos con mecanismos destinados a evaluar los riesgos y las medidas de protección antes de avanzar hacia sistemas más sofisticados.
“No queremos caer en la trampa del optimismo ciego”, señaló, antes de advertir igualmente contra el “doomerism”, término utilizado para describir una visión centrada en escenarios catastróficos inevitables. Según explicó, su compañía buscará un “camino intermedio” que permita continuar con la innovación sin minimizar las amenazas asociadas a sistemas cada vez más autónomos y capaces.
La discusión ante el Consejo de Seguridad estuvo vinculada además con la necesidad de definir reglas que no queden limitadas a las compañías tecnológicas. Altman afirmó que las decisiones fundamentales sobre el desarrollo de la IA no deberían quedar exclusivamente en manos de los laboratorios privados.
“Si la IA va a ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por los laboratorios de San Francisco”, sostuvo. A su juicio, los gobiernos deben participar mediante procesos democráticos y mecanismos de rendición de cuentas.
“A nivel internacional, esto requerirá cooperación”, agregó, al recordar que las grandes potencias han conseguido en otros momentos coordinarse frente a tecnologías con capacidad para modificar las condiciones de seguridad global. En los últimos días, OpenAI había planteado que Estados Unidos asumiera el liderazgo de un esfuerzo internacional para desarrollar estándares técnicos comunes destinados a los sistemas de IA más avanzados, incluidos aquellos capaces de mejorar de manera recursiva sus propias capacidades.
La intervención de Altman formó parte de una jornada en la que también participaron otros referentes del sector. El CEO de Anthropic, Dario Amodei, afirmó que los requisitos de seguridad deberán aumentar a medida que los modelos sean más potentes y aseguró que su empresa está dispuesta a ralentizar sus lanzamientos cuando sea necesario.
“Incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto”, declaró ante el organismo.
