IMÁGENES SEXUALES SIN CONSENTIMIENTO Y UNA IA SIN CONTROL: EL CASO DE GROK

La inteligencia artificial Grok, desarrollada por Elon Musk a través de su empresa xAI, se encuentra en el centro de la polémica internacional tras revelarse que su sistema de generación de imágenes ha permitido la creación masiva de contenido sexual no consensuado. La herramienta ha sido utilizada para “desvestir” digitalmente a personas, incluyendo menores de edad, generando una crisis que ha puesto en evidencia los vacíos regulatorios en materia de inteligencia artificial y la protección de la intimidad digital.

La gravedad del asunto ha provocado una respuesta global. El regulador británico de comunicaciones, Ofcom, lanzó esta semana una investigación formal contra la plataforma X, propiedad de Musk, por el uso de Grok en la producción de deepfakes sexualizados. El organismo advirtió que la creación de imágenes íntimas falsas podría constituir abuso y que las imágenes sexualizadas de menores se consideran material de abuso sexual infantil. Ofcom tiene la capacidad de prohibir completamente a Grok e imponer multas equivalentes al 10% de los ingresos globales de la empresa. 

Organizaciones dedicadas a la protección de derechos digitales, seguridad infantil y defensa de los derechos de las mujeres se han sumado a la presión, solicitando a Apple y Google que retiren a Grok de sus tiendas de aplicaciones, alegando que la herramienta se utiliza para crear masivamente imágenes íntimas no consentidas que constituyen delitos penales.

El primer ministro del Reino Unido, Keir Starmer, calificó las imágenes generadas por Grok como “repugnantes” e “ilegales”, exigiendo que X “tome el control” de la IA. Downing Street ha indicado incluso que está dispuesta a abandonar la plataforma X si Musk no actúa de manera contundente. Por su parte, la Secretaria de Tecnología, Liz Kendall, insistió en que Ofcom debe completar su investigación rápidamente, señalando que las víctimas no aceptarán demoras.

Ante la presión internacional, xAI parece haber implementado nuevas restricciones en Grok. Investigadores de la plataforma de detección de contenido Copyleaks señalan que el chatbot ya no responde con tanta frecuencia a solicitudes de generación de imágenes, a veces describiendo escenarios en lugar de crear las imágenes solicitadas o cumpliendo peticiones de manera más genérica. Sin embargo, organizaciones como AI Forensics han identificado inconsistencias en el tratamiento del contenido pornográfico entre las interacciones públicas de Grok en X y los chats privados en su plataforma web.

La controversia ha tenido consecuencias inmediatas en varios países. Indonesia y Malasia bloquearon completamente el acceso a Grok, mientras que el fiscal general de California, Rob Bonta, anunció una investigación sobre la proliferación de material sexualmente explícito no consensuado generado por la herramienta. A pesar de que Musk afirmó en X que no estaba al tanto de ninguna imagen desnuda de menores generada por Grok y que la herramienta se niega a producir contenido ilegal, los investigadores señalan que el problema real radica en la capacidad de Grok para modificar imágenes de personas quitándoles ropa y poniéndoles en posiciones sexualmente provocativas.

Este escándalo plantea interrogantes fundamentales sobre la responsabilidad de las empresas tecnológicas en la era de la inteligencia artificial generativa. Bajo la Ley de Seguridad en Línea del Reino Unido, aprobada en 2023, las plataformas que alojan contenido potencialmente dañino deben implementar una verificación de edad estricta. En Estados Unidos, los creadores de este tipo de imágenes podrían enfrentar cargos criminales por material de abuso sexual infantil bajo la ley Take it Down, firmada el año pasado por el presidente Donald Trump. 

El caso de Grok evidencia que las regulaciones actuales luchan por mantenerse al ritmo de los avances tecnológicos, y que la facilidad de acceso a herramientas generativas de IA amplifica desproporcionadamente la violencia digital contra mujeres y adolescentes, dejando a millones de personas vulnerables ante el abuso digital.