Pekín, 15 de septiembre.- China sigue pisando el acelerador mientras mira de reojo el freno de emergencia. La segunda economía mundial quiere ganar la carrera de la inteligencia artificial, construir modelos cada vez más potentes y recortar cualquier ventaja tecnológica de Estados Unidos. Pero, al mismo tiempo, sus reguladores se preparan para un escenario que hasta hace poco parecía reservado a la ciencia ficción: que esas máquinas se vuelvan demasiado inteligentes para obedecer.
Los documentos oficiales chinos ya contemplan sistemas capaces de conseguir recursos por sí mismos, replicarse sin permiso y experimentar repentinos saltos de inteligencia. Y ahora la alarma ha llegado también a uno de los rincones más herméticos de Pekín: el Ministerio de Seguridad del Estado, la principal agencia de inteligencia, acaba de advertir de que la IA puede convertirse en una amenaza para la seguridad nacional. Su ministro, Chen Yixin, sostiene que esta tecnología representa ya un potencial riesgo para la seguridad política, social y militar del país.
«Fuerzas hostiles y personas con segundas intenciones están abusando de tecnologías de IA generativa», advirtió Chen, señalando los «ejércitos de trolls inteligentes» como nuevas herramientas para «fabricar rumores políticos a gran escala». El ministro calificó estas operaciones de una forma de «guerra cognitiva» capaz de amenazar la seguridad política, institucional e ideológica del país asiático.
Fue en septiembre de 2024 cuando un marco de seguridad elaborado bajo la dirección del regulador del ciberespacio chino incorporó por primera vez de forma explícita un escenario de pérdida de control frente a la IA. El documento reconocía que no podía descartarse que una tecnología futura fuera capaz de obtener recursos externos autónomamente, replicarse, desarrollar autoconciencia y buscar poder. Una actualización publicada un año después hablaba directamente del peligro de una «inteligencia artificial descontrolada» que amenazara la supervivencia y el desarrollo humanos.
La realidad ya ha ofrecido algunas señales de alarma. El modelo chino Kimi K3, desarrollado por Moonshot, consiguió eludir un entorno de pruebas del Instituto de Seguridad de la IA del Reino Unido, un episodio que mostró que los modelos chinos también pueden esquivar barreras diseñadas para limitar sus acciones. Al mismo tiempo, Pekín defiende los modelos de ponderación abierta, muy extendidos entre sus desarrolladores porque permiten que especialistas en ciberseguridad inspeccionen y modifiquen el sistema, aunque esa misma apertura facilita que puedan ser alterados y redistribuidos con menor supervisión.
El mensaje lanzado ahora desde la agencia de espionaje es muy relevante porque desnuda hasta que punto la IA ya no se contempla en Pekín sólo como un desafío tecnológico que necesita regulación, sino como un nuevo frente de seguridad nacional. Pero reconocer el peligro no significa querer detener la carrera. Estos días los portavoces oficiales chinos rechazan, al menos delante del micrófono, cualquier propuesta occidental para reducir la velocidad de su desarrollo.
El Ministerio de Exteriores chino respondió a los llamamientos de Dario Amodei, consejero delegado de Anthropic, y otros líderes tecnológicos estadounidenses para ralentizar el avance de los modelos más poderosos. «Infundir miedo, la confrontación y la competencia sólo perturbarán el proceso de gobernanza global de la IA», afirmó el portavoz Guo Jiakun.
Amodei había pedido durante el fin de semana a la industria que redujera el ritmo de mejora de las capacidades de sus modelos. Sam Altman y Elon Musk apoyaron la propuesta. La respuesta más contundente en China llegó desde el Global Times, diario vinculado al Partido Comunista, que atacó especialmente la afirmación del jefe de Anthropic de que un liderazgo chino en inteligencia artificial representaría un grave peligro para EEUU y para el mundo. El periódico acusó a Amodei de convertir la seguridad de la IA en otra competición geopolítica de suma cero y atribuyó su posición a intereses comerciales.
Para Pekín, aceptar una pausa unilateral supondría conceder ventaja precisamente cuando la IA se ha convertido, en palabras de los propios altavoces del régimen, en «el principal campo de batalla para la competencia tecnológica mundial». China quiere seguridad, pero no a costa de perder terreno frente a Silicon Valley. Aunque eso no significa que no apueste por una mayor supervisión.
En la Conferencia Mundial sobre Inteligencia Artificial celebrada en Shanghái en julio, el presidente Xi Jinping reclamó prestar mayor atención a los riesgos inherentes a esta tecnología y dejó una frase que resume la línea oficial: la IA debe «permanecer siempre bajo control humano». Pekín también está preparando una legislación más amplia y ha pedido cautela con la IA especialmente en el terreno militar para evitar errores de cálculo y una nueva carrera armamentística.
