Londres, 9 de enero — Grok, el chatbot de inteligencia artificial desarrollado por xAI y promovido por Elon Musk, comenzó a bloquear la generación y edición de imágenes para usuarios gratuitos luego de una ola de críticas internacionales por la creación de deepfakes sexualizados, una medida que, sin embargo, no ha satisfecho a las autoridades europeas, que consideran insuficiente la respuesta de la plataforma.
En las últimas semanas, investigadores y organizaciones de monitoreo digital detectaron que Grok, accesible a través de la red social X, había atendido numerosas solicitudes maliciosas para modificar imágenes reales, incluyendo pedidos para colocar a mujeres en bikini o en posiciones sexualmente explícitas. Según las alertas, en algunos casos las imágenes generadas parecían representar a menores, lo que encendió las alarmas entre gobiernos y reguladores de distintos países.
Desde el viernes, ante solicitudes de alteración de imágenes, Grok responde con un mensaje automático que indica: “La generación y edición de imágenes actualmente están limitadas a suscriptores de pago. Puedes suscribirte para desbloquear estas funciones”. Aunque no existen cifras públicas sobre la cantidad de usuarios premium del chatbot, observadores señalaron una disminución notable en la producción de imágenes explícitas en comparación con días anteriores.
No obstante, la herramienta sigue permitiendo la creación de imágenes a usuarios de X que cuentan con la verificación azul, reservada a quienes pagan una suscripción mensual de 8 dólares, que incluye límites de uso más altos y acceso ampliado a funciones del chatbot. Hasta el momento, X no ha emitido comentarios oficiales sobre la polémica ni sobre los cambios implementados.
Las autoridades europeas dejaron claro que la restricción parcial no resuelve el problema de fondo. “Esto no cambia nuestro problema fundamental. Con suscripción de pago o sin ella, no queremos ver este tipo de imágenes. Es así de simple”, afirmó Thomas Regnier, portavoz de la Comisión Europea, que ya había calificado el comportamiento de Grok como “ilegal” y “espantoso”.
En el Reino Unido, el gobierno también expresó su descontento. Geraint Ellis, portavoz del primer ministro Keir Starmer, sostuvo que las modificaciones anunciadas por Grok “no son una solución” y las calificó de “insultantes para las víctimas de misoginia y violencia sexual”. Según Ellis, el hecho de que X haya actuado rápidamente demuestra que la empresa sí tiene capacidad de reacción, por lo que exigió medidas inmediatas y contundentes, advirtiendo que “todas las opciones están sobre la mesa”.
En declaraciones a la emisora Greatest Hits, Starmer reforzó el mensaje y señaló que X debe “ponerse las pilas y eliminar este material”, anticipando que el gobierno británico intervendrá si la plataforma no cumple con las normas vigentes. Paralelamente, los reguladores de medios y privacidad del Reino Unido confirmaron que ya se han puesto en contacto tanto con X como con xAI para exigir información detallada sobre las acciones adoptadas para cumplir con la legislación nacional.
La preocupación se extiende más allá de Europa. Francia, Malasia e India han iniciado revisiones sobre el funcionamiento de Grok, mientras que en Brasil una legisladora solicitó formalmente la apertura de una investigación. En el ámbito comunitario, la Comisión Europea ordenó a X conservar todos los documentos internos y datos relacionados con Grok hasta finales de 2026, en el marco de una investigación más amplia bajo la Ley de Servicios Digitales (DSA).
Grok fue lanzado en 2023 y se presenta como un chatbot de uso gratuito para los usuarios de X, que pueden interactuar con él directamente en publicaciones o respuestas. El verano pasado, xAI incorporó la función Grok Imagine, que incluía un denominado “modo picante”, diseñado para generar contenido para adultos, una característica que ahora se encuentra en el centro de la controversia.
El problema, según expertos, se agrava porque Musk ha promovido a Grok como una alternativa menos restrictiva frente a otros sistemas de IA con mayores salvaguardas, y porque las imágenes generadas son públicas, lo que facilita su rápida difusión en la plataforma. Para los reguladores, la cuestión ya no es solo técnica, sino legal y ética, y consideran que las medidas parciales adoptadas hasta ahora no garantizan la protección de las víctimas ni el cumplimiento de las normas internacionales sobre contenido digital y abuso sexual.
