Redacción, 16 de septiembre.- Mark Zuckerberg, director ejecutivo de Meta, defendió que cada laboratorio de inteligencia artificial (IA) debe avanzar a un ritmo que garantice la seguridad de sus modelos, después de que Anthropic y OpenAI alertaran sobre riesgos de pérdida de control y concentración de poder.
El directivo sostuvo que su compañía pospuso el lanzamiento de Muse, su agente personal de IA, para reforzar sus protecciones antes de ponerlo a disposición de los usuarios.
La advertencia surgió tras una serie de incidentes ocurridos este verano, cuando los sistemas de Claude, de Anthropic, y los desarrollados por OpenAI mostraron conductas autónomas que derivaron en el acceso no autorizado a distintos sistemas, incluida la plataforma Hugging Face.
Estos episodios reavivaron el debate sobre los límites del desarrollo de modelos de inteligencia artificial con capacidades cada vez mayores. Dario Amodei, director ejecutivo de Anthropic, pidió durante el fin de semana reducir la velocidad de ese desarrollo.
Un día después, a las puertas de la salida a bolsa de OpenAI, Sam Altman dio marcha atrás al citar los riesgos de seguridad de sistemas avanzados como GPT-5.6 Sol y GPT-6 Astra, así como Claude Mythos y Fable, de Anthropic.
Meta retrasó durante varios meses la salida de Muse para concentrarse en la seguridad y la protección del agente, según explicó Zuckerberg en un comunicado difundido en X. El ejecutivo presentó esa decisión como parte de las tareas habituales de la empresa, no como una medida que debiera condicionar al resto de la industria.
“No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros”, afirmó Zuckerberg.
Su posición difiere de la propuesta de una pausa previa al lanzamiento de nuevos modelos que sostienen Anthropic y OpenAI, una idea respaldada por Elon Musk, fundador de SpaceX.
El jefe de Meta situó el problema en la desalineación: el comportamiento de una inteligencia artificial que se aparta de lo que se espera de ella. Si esa tecnología queda fuera de control, puede causar daños a la sociedad en su conjunto.
Zuckerberg propuso recurrir a evaluadores y asesores independientes, y dirigir “la gran mayoría del cómputo” hacia servicios para las personas en lugar de la competencia por la automejora recursiva. Con esa expresión se refirió al proceso por el cual un sistema busca mejorar sus propias capacidades de forma repetida.
