Grok y las fotos para desnudar con IA: la UE y los niños

En los primeros días de enero de 2026, una herramienta de IA para editar imágenes, integrada en una de las redes sociales más grandes del mundo, se usó para crear ediciones sexualizadas de personas reales a una escala que casi nadie imaginaba. El Center for Countering Digital Hate calculó que Grok, la IA de X, generó unos 3 millones de imágenes sexualizadas fotorrealistas en 11 días, de las cuales unas 23,000 parecían mostrar a niños. El 26 de enero, la Comisión Europea abrió un procedimiento formal contra X bajo la Ley de Servicios Digitales. El caso de Grok y las fotos para desnudar con IA les importa a los papás por algo que va más allá de lo legal: mostró que las herramientas para abusar de la imagen de un niño ya no viven solo en sitios oscuros de “desnudos”. Pueden estar dentro de una app que tu hijo ya usa. Aquí te cuento de qué trata el caso europeo, qué exige hoy la ley y qué hacer, paso a paso, si alguna vez atacan a tu hijo.

Puntos clave

• La Comisión Europea abrió el 26 de enero de 2026 un procedimiento formal contra X para revisar si evaluó y redujo los riesgos de Grok, incluidas imágenes sexuales manipuladas “que pueden constituir material de abuso sexual infantil”.
• El CCDH calculó 3,002,712 imágenes sexualizadas fotorrealistas en 11 días, a partir de una muestra de 20,000 publicaciones de imágenes de Grok, y unas 23,338 parecían mostrar a niños. Es una estimación de una organización activista, no una conclusión oficial.
• Abrir un procedimiento no es una sentencia. Al 1 de noviembre de 2026 no encontré una decisión final de la Comisión.
• La herramienta gratuita Take It Down, del NCMEC, sirve para menores de 18 en cualquier país y ayuda a frenar la difusión de una imagen sin que la imagen salga de tu aparato.
• En América Latina hay canales para denunciar: Te Protejo en Colombia, las líneas 102 y 137 en Argentina, y la policía cibernética o la fiscalía en cada país.

Si tu hijo está en crisis o habla de hacerse daño: México, Línea de la Vida 800 911 2000 (24 horas, gratis); Colombia, Línea 106 o la Línea 141 del ICBF; Argentina, Centro de Asistencia al Suicida 0800 345 1435; Chile, *4141; Perú, Línea 113; en EE. UU., llama o escribe al 988 (tiene opción en español). En otros países, busca tu línea en findahelpline.com. En una emergencia, llama al número de emergencias de tu país.

De qué trata la investigación europea sobre las fotos para desnudar con IA

La Ley de Servicios Digitales (DSA, por sus siglas en inglés) es la ley de la Unión Europea que obliga a las plataformas muy grandes a evaluar y reducir los “riesgos sistémicos” que crean sus servicios, incluida la difusión de contenido ilegal. El 26 de enero de 2026, la Comisión anunció una nueva investigación formal contra X. Va a revisar si la empresa evaluó y redujo bien los riesgos de integrar las funciones de Grok en X, incluidas “imágenes sexualmente explícitas manipuladas, entre ellas contenido que puede constituir material de abuso sexual infantil”. La Comisión agregó que esos riesgos “parecen haberse materializado” y expuesto a los ciudadanos europeos a daños graves.

En concreto, revisará si X evaluó y mitigó con diligencia los riesgos sistémicos, incluidos los “efectos negativos en relación con la violencia de género”, y si entregó a la Comisión la evaluación de riesgos obligatoria de las funciones de Grok antes de lanzarlas. Además, amplió una investigación de diciembre de 2023 sobre los sistemas de recomendación de X.

Al Jazeera informó que la presidenta de la Comisión, Ursula von der Leyen, dijo que Europa no tolerará conductas impensables como “desnudar digitalmente a mujeres y niños”, y que la comisaria Henna Virkkunen llamó a los deepfakes sexuales sin consentimiento “una forma violenta e inaceptable de degradación”. También informó que Grok limitó la generación y edición de imágenes a usuarios de pago tras las críticas, que el regulador británico Ofcom abrió su propia investigación contra X y que Malasia bloqueó Grok.

Dos advertencias. El comunicado de la Comisión aclara que abrir un procedimiento formal “no prejuzga su resultado”. Y al 1 de noviembre de 2026 no encontré una decisión final ni una multa en el caso Grok. La multa de 120 millones de euros que recibió X en diciembre de 2025 fue por reglas de transparencia, no por Grok.

Qué muestran, y qué no, las cifras del CCDH

La estimación viene del Center for Countering Digital Hate, una organización activista, publicada el 22 de enero de 2026. El CCDH tomó una muestra aleatoria de 20,000 de unos 4.6 millones de publicaciones de imágenes de Grok entre el 29 de diciembre de 2025 y el 8 de enero de 2026. Un clasificador de IA marcó el contenido sexualizado, y los investigadores revisaron a mano las imágenes marcadas como de niños. Extrapolando, el CCDH estimó 3,002,712 imágenes sexualizadas fotorrealistas, con un rango del 95% de entre 2.96 y 3.05 millones. Unas 23,338 parecían mostrar a niños, con un rango de 17,099 a 30,039.

El método es razonable para una estimación, y el CCDH publicó sus márgenes de error. Pero depende de un clasificador y de juzgar la edad a simple vista, y el CCDH hace campaña por la responsabilidad de las plataformas. Toma la cifra como un orden de magnitud creíble, no como un conteo exacto.

La lección para las familias: la herramienta ya viene integrada

Durante años nos advirtieron sobre las apps y sitios sueltos de “desnudos”. El caso Grok muestra otra vía. Cuando una IA para editar imágenes viene integrada en una red social, cualquier desconocido puede alterar una foto publicada, dentro de la misma app, a gran escala y en segundos. Ni el niño ni quien abusa de su imagen tienen que entrar a un sitio raro.

Eso cambia lo que significa protegerlo. Casi todo tiene que ver con la exposición y con cómo responder, no con el comportamiento de tu hijo. La víctima de una imagen falsa no hizo nada malo. Decirle “no debiste subir esa foto” le enseña que la próxima vez mejor no te cuente.

También explica por qué los reguladores se fijan en el diseño. La pregunta de la Comisión no es si una imagen fue ilegal, sino si X evaluó el riesgo antes de lanzar la función.

Qué hacer si atacan a tu hijo

Paso	Herramienta u oficina	Para qué sirve	Notas
Mantén la calma y apoya a tu hijo	Tú	Que sepa que no está en problemas	Primero esto, antes de lo técnico
No veas, descargues ni reenvíes la imagen	Tú	Evita que se difunda y posibles riesgos legales	Compartir imágenes sexuales de un menor puede ser delito aunque sean falsas
Anota dónde apareció	Tú	Registra por escrito enlaces, usuarios, fechas y plataforma	No guardes copias de la imagen
Frena la difusión con una huella digital	Take It Down del NCMEC	Crea una huella para que las plataformas participantes detecten copias	La imagen no sale del aparato; es anónima; sirve para menores de 18 en cualquier país
Denuncia la explotación	CyberTipline del NCMEC, en español	Reporta explotación sexual infantil, amenazas y extorsión	Útil sobre todo si la plataforma es de EE. UU.
Pide que lo borren	La herramienta de denuncia de la plataforma	Solicitud formal de retiro	En EE. UU., la ley Take It Down obliga a retirar en 48 horas
Acude a las autoridades de tu país	Te Protejo (Colombia), Línea 102 o 137 (Argentina), fiscalía o policía cibernética	Investigación y protección	Lleva tus notas de dónde circuló
Habla con la escuela	Dirección del colegio	Contención y medidas disciplinarias	Sobre todo si quien la hizo es un compañero

Sobre Take It Down, el NCMEC es claro: no envíes, compartas ni descargues ninguna imagen o video para usar el servicio. Está pensado para imágenes que ya están en el aparato donde se tomaron; si es un montaje que tú no tienes, usa la denuncia en la plataforma y en las autoridades. Aquí tienes más sobre los deepfakes de menores y cómo prevenirlos en América Latina y sobre qué dice la ley cuando crean imágenes falsas de niños con IA.

¿Y en América Latina?

En la región todavía no hay una investigación como la europea contra X por Grok, pero sí hay leyes en camino y canales de denuncia que ya funcionan.

En Colombia, la línea Te Protejo, de Red PaPaz, procesó en 2025 más de 15 casos en los que se usaron herramientas de IA para crear cientos de imágenes ilegales de menores, según El Colombiano. Red PaPaz pide no compartir estas imágenes y reportarlas por el CAI Virtual o en teprotejo.org.

En Argentina, no existe todavía un delito específico para los deepfakes sexuales de menores, pero un tribunal de Zárate-Campana interpretó en 2025 que el artículo 128 del Código Penal también alcanza imágenes generadas o modificadas con IA, explica Chequeado. Las autoridades recomiendan denunciar en la Línea 102, la Línea 137 o la fiscalía, no culpar al chico, conservar los datos de dónde circuló y no reenviar la imagen ni para denunciarla.

En México, la Cámara de Diputados aprobó por unanimidad en febrero de 2026 sancionar la creación y difusión de contenido sexual íntimo falso hecho con tecnología; las reformas pasaron al Senado. En Chile, la Cámara aprobó en general, por 129 votos contra 2, un proyecto contra los deepfakes no consentidos con multas de 5,000 a 10,000 UTM (entre unos 358 y 716 millones de pesos chilenos) y retiro de contenido por orden judicial.

Prevención que sí sirve

Revisa quién puede ver y reusar las fotos de tu hijo

Pon las cuentas de tu hijo en privado donde la app lo permita y limita quién puede responder, etiquetar o mencionarlo. Las fotos públicas son la materia prima de estas ediciones.

Habla del tema antes de que pase

Dile a tu hijo, sin rodeos, que se pueden hacer imágenes falsas de cualquiera, que nunca es culpa de la víctima y que tú lo vas a ayudar, no a castigar, si le pasa. Los chicos que esperan regaño se quedan callados.

Explica por qué una edición “de broma” es grave

A veces los adolescentes crean o reenvían imágenes editadas de compañeros sin dimensionar el daño ni el riesgo legal. Que les quede claro que hacer o compartir una imagen sexualizada de un menor puede ser delito, sea falsa o no. En Argentina, por ejemplo, hubo alumnos denunciados por difundir por WhatsApp imágenes manipuladas de compañeras, según Chequeado.

Ubica hoy los botones de denuncia

Busca la opción de reportar en las apps que usa tu hijo antes de necesitarla. En plena crisis, cinco minutos buscando se sienten como una hora.

Lo que no conviene hacer

No enfrentes en línea a quien crees que hizo la imagen y no juntes copias de la imagen como prueba. Anota enlaces y usuarios y deja que la plataforma, las autoridades y las líneas especializadas manejen el material.

Qué observar en los próximos 3 meses

• Semana 4: Revisa la privacidad de tu hijo y quién puede etiquetarlo o responderle en cada app. Hablen una vez sobre las imágenes falsas y qué hacer.
• Señales de alerta en el mes 2: Tu hijo de pronto evita la escuela o una app, borra cuentas, se asusta con ciertos mensajes o menciona que alguien “tiene fotos”. Cualquier amenaza de difundir imágenes es extorsión: denúnciala.
• Autoevaluación del mes 3: ¿Tu hijo sabe que puede acudir a ti sin que lo culpes? ¿Sabes dónde está el botón de denuncia en sus apps? Pendiente de la decisión de la Comisión en el caso X.

Preguntas frecuentes

¿Es delito crear con IA una imagen “desnudada” de un menor?

En muchos lugares, sí. El NCMEC señala que las imágenes sexuales de menores de 18 pueden considerarse material de abuso sexual infantil en varias jurisdicciones. La UE investiga si lo que generó Grok incluyó contenido que “puede constituir” ese material. En Argentina, un tribunal ya aplicó el Código Penal a imágenes hechas con IA. Consulta a las autoridades sobre tu caso.

¿Qué hago primero si alguien hizo una imagen falsa de mi hijo?

Tranquiliza a tu hijo: no está en problemas. No veas, descargues ni reenvíes la imagen. Anota dónde apareció, denúnciala en la plataforma y ante las autoridades de tu país, y usa Take It Down si la imagen está en su aparato. Si tu hijo está muy afectado o habla de hacerse daño, llama a la línea de tu país (en México, 800 911 2000; en Colombia, 106) o busca la tuya en findahelpline.com.

¿Take It Down borra la imagen de todo internet?

No. Las plataformas participantes buscan la huella de la imagen en sus servicios públicos y sin cifrado y pueden borrar las copias, pero el NCMEC aclara que no puede impedir que se suba a otros sitios y que algunas plataformas tienen poca capacidad para borrar publicaciones viejas. Combínalo con la denuncia en la plataforma y ante las autoridades.

¿El caso europeo cambia algo en América Latina?

No de forma directa: la DSA aplica en la UE. Una decisión europea podría empujar a X a cambiar las funciones de Grok, y a veces las empresas aplican los cambios en todo el mundo, pero en tu país las protecciones vienen de tus leyes y de tus canales de denuncia.

¿Mi hijo puede meterse en problemas por reenviar una imagen editada de un compañero?

Puede que sí. Compartir una imagen sexualizada de un menor puede ser delito aunque la haya hecho una IA, y la escuela también puede sancionar. Por eso conviene hablarlo temprano, para que tu hijo entienda lo que está en juego antes de que un grupo de WhatsApp lo haga parecer una broma.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Comisión Europea. (2026, 26 de enero). “Commission investigates Grok and X’s recommender systems under the Digital Services Act.” Shaping Europe’s Digital Future. https://digital-strategy.ec.europa.eu/en/news/commission-investigates-grok-and-xs-recommender-systems-under-digital-services-act
2. Comisión Europea. (2026, 26 de enero). Comunicado de prensa IP/26/203. Press Corner. https://ec.europa.eu/commission/presscorner/detail/en/ip_26_203
3. Al Jazeera. (2026, 26 de enero). “EU launches probe into Grok AI feature creating deepfakes of women, minors.” Al Jazeera. https://www.aljazeera.com/news/2026/1/26/eu-launches-probe-into-grok-ai-feature-creating-deepfakes-of-women-minors
4. Center for Countering Digital Hate. (2026, 22 de enero). “Grok floods X with sexualized images of women and children.” CCDH. https://www.counterharm.com/research/grok-floods-x-with-sexualized-images
5. National Center for Missing & Exploited Children. (2026). “Take It Down” y “Frequently Asked Questions.” NCMEC. https://takeitdown.ncmec.org/
6. National Center for Missing & Exploited Children. (2026). “CyberTipline” (en español). NCMEC. https://report.cybertip.org/es
7. El Colombiano. (2026, 17 de febrero). “Indignante: uso de IA en Colombia disparó creación de material sexual ilegal con niños.” El Colombiano. https://www.elcolombiano.com/tecnologia/uso-de-ia-en-colombia-creacion-contenido-ilegal-ninos-EC33640721
8. Chequeado. (2026, 8 de octubre). “Qué hacer si tu hija o hijo es víctima de un deepfake sexual creado con IA.” Chequeado. https://chequeado.com/el-explicador/que-hacer-si-tu-hija-o-hijo-es-victima-de-un-deepfake-sexual-creado-con-ia/
9. N+. (2026, 18 de febrero). “Diputados aprueban reformas para sancionar la violencia a través de IA generativa.” N+. https://www.nmas.com.mx/nacional/diputados-aprueban-reformas-para-sancionar-la-violencia-a-traves-de-ia-generativa/
10. CNN Chile. (2026, 23 de julio). “Con multas de hasta $716 millones: Cámara de Diputadas y Diputados aprueba proyecto que sanciona las deepfakes.” CNN Chile. https://www.cnnchile.com/pais/con-multas-de-hasta-716-millones-camara-de-diputadas-y-diputados-aprueba-proyecto-que-sanciona-las-deepfakes/
11. Find A Helpline. (2026). “Encuentra una línea de ayuda.” findahelpline.com. https://findahelpline.com