La inteligencia artificial Grok, desarrollada por xAI y parte del ecosistema de X (antes Twitter), protagonizó una de las polémicas más intensas del inicio de 2026 tras viralizarse su capacidad para generar imágenes sexualizadas no consentidas de personas reales a partir de indicaciones de usuarios. La función provocó denuncias en varios países y amenazas de bloqueos y sanciones legales. Bajo esa presión internacional, Elon Musk decidió retirar o restringir esa función dentro de la plataforma y aplicar bloqueos geográficos donde la práctica es ilegal.
Qué pasó con la generación de imágenes sexualizadas
A fines de 2025 y comienzos de 2026, usuarios aprovecharon la herramienta de generación y edición de imágenes de Grok para producir contenido explícito, incluyendo imágenes sin ropa, deepfakes y representaciones sexualizadas de personas reales sin su consentimiento. Algunos casos llegaron incluso a involucrar supuestos contenidos con menores, elevando aún más la alarma entre autoridades y organizaciones que defienden la privacidad y seguridad en línea.
Estos hechos desataron una ola de críticas y denuncias desde múltiples países, incluidos el Reino Unido, Francia, India, Malasia e Indonesia, que llegaron al extremo de bloquear temporalmente el acceso a Grok en sus territorios ante el riesgo de proliferación de material sexualizado generado por IA.
La respuesta de Musk y las restricciones aplicadas
Frente a la polémica y tras advertencias de regulación o prohibición, Elon Musk y el equipo de xAI anunciaron que la capacitación de Grok para generar o editar imágenes con desnudez no consentida fue restringida. En determinadas regiones donde ese tipo de contenido es ilegal, la función fue bloqueada por completo, y las capacidades de generación de este tipo de imágenes quedaron fuertemente limitadas incluso para usuarios con cuenta paga.
Musk negó que Grok esté generando imágenes de menores desnudos y afirmó que la IA solo produce contenido solicitado por los usuarios y “obedecerá las leyes de cada país”, aunque el problema había trascendido con tal rapidez que organismos reguladores de todo el mundo comenzaron investigaciones formales.
Rechazo internacional y mayores controles
La polémica no fue solo mediática: en varios países se impulsaron investigaciones y medidas legales específicas. Por ejemplo, el regulador británico Ofcom inició pesquisas bajo la ley de seguridad en línea, mientras que naciones como Malasia e Indonesia tomaron acciones directas para bloquear el acceso a Grok debido al riesgo que representaba la propagación de imágenes no consentidas.
Organismos y defensores de derechos digitales sostienen que los casos de deepfakes y material sexualizado no solo vulneran la privacidad de las personas, sino que también pueden facilitar delitos como la explotación y el abuso. La eliminación de la función por parte de Grok representa un paso para responder a esas preocupaciones, aunque críticos señalan que aún existen riesgos si no se implementan salvaguardas más robustas.
¿Qué sigue para la IA de Grok?
El escándalo alrededor de Grok pone en evidencia los desafíos éticos y regulatorios de las herramientas de inteligencia artificial generativa en una era en que cualquier usuario puede crear contenido con pocos límites técnicos. La eliminación de las funciones más peligrosas busca prevenir abusos futuros, pero también abre el debate sobre cómo equilibrar la innovación tecnológica con la protección de derechos individuales y la seguridad digital en un entorno global cada vez más vigilado.
Cerrar sesión