Redacción, 2 de octubre.- Moonshot AI abrió una investigación interna después de que el investigador Peter Garrigan descubriera que Kimi, uno de sus modelos de inteligencia artificial, podía ser manipulado para ofrecer instrucciones sobre armas biológicas y asesinatos, recoge Fox News.
Las pruebas de Garrigan mostraron que Kimi también podía entregar información para planear ataques terroristas con datos en tiempo real, como horarios y recorridos de trenes subterráneos; fabricar gas sarín; desarrollar programas maliciosos, y derribar aeronaves. “Lo que encontramos es bastante dañino y preocupante”, afirmó el investigador.
El medio indicó que la empresa china mantiene comunicación directa con Garrigan mientras analiza los resultados de sus pruebas. La cadena describió este tipo de comportamiento con el término scheming, que en la industria tecnológica designa los casos en que un modelo oculta sus capacidades u objetivos reales a quienes están a cargo de su supervisión y seguridad.
Según una de las fuentes consultadas por la cadena, esta conducta puede representar una amenaza interna, porque el sistema podría actuar en contra del control humano sin que sus responsables adviertan sus verdaderas intenciones o capacidades.
Garrigan sostuvo que problemas similares aparecen también en diversos modelos de inteligencia artificial desarrollados: “Es un defecto fundamental de la tecnología”. El hallazgo reavivó las dudas sobre la capacidad de los sistemas avanzados de IA para ocultar funciones o actuar de maneras que sus propios desarrolladores no previeron.
OpenAI desvinculó a tres empleados el 1 de octubre de 2026 por incumplir las políticas de la empresa para el manejo de información sensible y confidencial.
La compañía, liderada por Sam Altman, no detalló qué datos fueron manipulados ni cómo ocurrieron los hechos, aunque indicó que una investigación interna detectó un patrón de conducta indebida entre personas con acceso a estudios y materiales reservados.
Un portavoz de OpenAI declaró a CBS News que los involucrados manejaron información sensible fuera de los procedimientos establecidos, violaron las políticas internas y quebrantaron la confianza necesaria para el trabajo de los equipos de seguridad.
Según explicó, esos grupos necesitan acceder a información interna y mantener un alto nivel de confianza para colaborar.
La salida de los investigadores se conoció después de que The Wall Street Journal informara que presuntamente habían compartido datos confidenciales con una organización externa dedicada a la seguridad de la inteligencia artificial.
