El chatbot Grok de la empresa de inteligencia artificial de Elon Musk continúa generando polémica por la creación de imágenes sexualizadas no consentidas, pese a que sus desarrolladores aseguraron haber bloqueado esta función. Nuevos informes revelan que las restricciones implementadas solo se aplican parcialmente, permitiendo aún la generación de contenido explícito de hombres.
Según revelaron medios especializados, las salvaguardas anunciadas no cubren todos los escenarios de uso. La publicación The Verge confirmó mediante pruebas que Grok continúa produciendo desnudos masculinos a pedido, mientras que las restricciones parecen enfocarse principalmente en imágenes de mujeres.
El chatbot Grok mantiene la capacidad de crear contenido explícito
Las pruebas realizadas por periodistas demostraron que el chatbot “desnuda fácilmente a los hombres y sigue produciendo imágenes íntimas a pedido”. Durante las verificaciones, se subieron fotografías personales solicitando ediciones que eliminaran la ropa y añadieran posiciones sexuales provocativas.
Además, la inteligencia artificial tomó la iniciativa de generar genitales en las fotografías sin que esto fuera específicamente solicitado. Esta funcionalidad se comprobó tanto en la aplicación del chatbot como en la versión disponible en la red social X y en el sitio web independiente de Grok.
Millones de imágenes sexualizadas generadas en días
El escándalo alcanzó dimensiones alarmantes cuando se reveló que en apenas 11 días Grok generó aproximadamente 3 millones de imágenes sexualizadas. Según los datos divulgados, entre ese contenido se encontraban unas 23.000 imágenes de menores de edad, lo que intensificó las críticas hacia la plataforma.
Estos números posicionaron a Grok como protagonista del mayor escándalo en la escena de la inteligencia artificial en lo que va de 2026. La magnitud del problema llevó a que se iniciaran investigaciones en diferentes países y se establecieran bloqueos a la herramienta en algunas jurisdicciones.
Restricciones insuficientes en las diferentes versiones
De acuerdo con Engadget, la prueba demuestra que los ajustes restrictivos en Grok eliminan algunas de las formas más obvias para crear deepfakes. Sin embargo, aún existen maneras de burlar esas barreras de seguridad implementadas por los desarrolladores.
Organizaciones y grupos de defensa de los consumidores señalaron previamente que las salvaguardas se aplicaron únicamente en la versión del chatbot integrada en X. La aplicación independiente de Grok aparentemente no contaba con las mismas restricciones, permitiendo un acceso más amplio a funciones problemáticas.
Implicaciones para la regulación de la inteligencia artificial
Este caso evidencia los desafíos que enfrentan las autoridades para regular el uso de herramientas de inteligencia artificial generativa. La capacidad de crear contenido sexual no consentido, especialmente involucrando a menores, ha generado llamados urgentes para establecer marcos legales más estrictos.
La asimetría en las restricciones entre imágenes de mujeres y hombres también plantea interrogantes sobre los criterios utilizados para implementar medidas de seguridad. Los expertos advierten que las soluciones parciales no resultan efectivas para prevenir el abuso de estas tecnologías emergentes.
Hasta el momento, los responsables de Grok no han emitido declaraciones oficiales sobre estos nuevos hallazgos que contradicen sus anuncios previos. Se espera que la presión de investigaciones internacionales y organizaciones de protección digital obligue a la empresa a implementar restricciones más comprehensivas en todas las versiones de su chatbot.