Tabla de contenido
Deepfakes y tu Hijo: Guía para Papás sobre Imágenes Falsas con IA
Las imágenes falsas generadas con IA que apuntan a menores van en aumento. Los papás necesitan saber qué son, cómo se crean y qué hacer si su hijo es el objetivo.
Una adolescente de 14 años llega a casa llorando. Sus compañeros de escuela han estado compartiendo imágenes generadas por IA de ella — de aspecto realista, pero falsas — creadas a partir de fotos que había publicado en Instagram. Ella no consintió esto. No tiene idea de cuántas personas las han visto. La persona que las creó es alguien que conoce de su salón. Este escenario, que se volvió ampliamente conocido en casos documentados en 2023, ya no es inusual. La tecnología que lo hace posible está disponible como descarga gratuita de app. El único requisito son unas pocas fotos de la víctima.
Los deepfakes — imágenes o videos generados por IA que representan de manera realista a una persona en situaciones que nunca experimentó — han pasado de la ciencia ficción a una preocupación real de seguridad para las familias con niños en línea. Entender qué son, cómo se crean y qué pueden hacer los papás ya no es conocimiento opcional.
Puntos Clave
- Las herramientas de IA capaces de generar imágenes falsas realistas a partir de unas pocas fotos reales son ahora de acceso gratuito y no requieren habilidades técnicas para usarlas
- Las imágenes de deepfake no consensuales que involucran a menores — incluso cuando no son explícitamente sexuales — pueden constituir material de abuso sexual infantil (MASI) según las leyes federales y muchas leyes estatales
- El FBI y el NCMEC han documentado aumentos en los reportes que involucran imágenes generadas por IA de menores
- Las imágenes de redes sociales de niños (incluso fotos de ropa y aparentemente inocentes) proporcionan el material base para las herramientas de deepfake
- El reporte de imágenes deepfake de un menor debe ir al CyberTipline de NCMEC y, en paralelo, a las autoridades locales
Qué Son los Deepfakes y Cómo se Crean
El término “deepfake” originalmente se refería a una técnica específica de IA llamada Red Generativa Adversarial (GAN) usada para intercambiar rostros en videos. La tecnología se ha expandido desde entonces para incluir una categoría más amplia de medios sintéticos generados por IA: fotos falsas, videos falsos y grabaciones de audio falsas que representan de manera realista a personas reales.
Las herramientas actuales de generación de imágenes con IA — incluyendo varias disponibles como apps gratuitas y herramientas basadas en el navegador — pueden tomar un pequeño conjunto de fotos de una persona real y generar nuevas imágenes realistas de esa persona en cualquier pose, entorno o estado. La calidad del resultado ha mejorado drásticamente en los últimos tres años. En muchos casos, estas imágenes son indistinguibles de fotografías reales para el ojo no entrenado.
El proceso desde un perfil de redes sociales hasta una imagen falsa realista puede tomar menos de dos minutos y no requiere conocimientos de programación. Esta es la razón fundamental por la que la amenaza se ha escalado.
Tipos de Contenido Deepfake que Afecta a Menores
- Imágenes íntimas no consensuales (IINC): Imágenes falsas que retratan a un menor en contextos sexuales. Esto es MASI según la ley federal independientemente de si la tecnología subyacente es IA.
- Imágenes humillantes o degradantes: Imágenes falsas que son vergonzosas o diseñadas para dañar la reputación sin contenido sexual — colocando el rostro de un menor en un cuerpo involucrado en consumo de drogas, actividad criminal o comportamiento degradante.
- Contenido de suplantación: Videos o imágenes falsas que hacen parecer que un menor dijo o hizo algo que no hizo — usados para campañas de acoso.
- Sextorsión financiera: Los perpetradores crean IINC falsas y luego amenazan con compartirlas a menos que el menor pague dinero o proporcione imágenes reales.
El Marco Legal
Leyes en Estados Unidos
Bajo el derecho federal estadounidense, la definición de material de abuso sexual infantil incluye imágenes generadas por IA que retraten a un menor en conducta sexualmente explícita. La PROTECT Act (2003) criminalizó explícitamente las imágenes “modificadas” — una categoría que abarca los deepfakes de menores generados por IA.
| Estado (EE.UU.) | Ley | Alcance |
|---|---|---|
| California | AB 602, AB 730 | Recursos civiles por IINC deepfake |
| Virginia | Código § 18.2-386.2 | Sanciones penales por pornografía deepfake no consensual |
| Texas | SB 1736 | Sanciones penales por contenido sexual deepfake |
| Federal (propuesto) | TAKE IT DOWN Act | Eliminación de plataformas en 48 horas |
Leyes en América Latina
En México, la Ley Olimpia (2021) fue un paso importante: tipifica como delito la difusión de contenido sexual digital sin consentimiento, incluyendo material digital alterado o falso. Esta ley se ha adoptado en varios estados y hay esfuerzos por federalizarla completamente.
En Argentina, Colombia, Chile y otros países latinoamericanos, el marco legal evoluciona, pero el material de abuso sexual infantil — incluyendo imágenes generadas por IA — generalmente está criminalizado bajo leyes existentes de protección a menores.
Señales de Alerta de que tu Hijo Puede ser el Objetivo
- Tu hijo descubre imágenes de sí mismo que no creó ni autorizó
- Compañeros de escuela hacen referencia a imágenes que vieron de tu hijo que no coinciden con fotos reales que conoces
- Tu hijo recibe mensajes amenazando con compartir imágenes a menos que cumpla con demandas (sextorsión)
- Tu hijo se vuelve repentinamente retraído, se niega a ir a la escuela, o expresa miedo sobre su celular o cuentas
- Descubres que alguien ha estado recopilando sistemáticamente fotos de tu hijo de múltiples cuentas de redes sociales
Qué Hacer si tu Hijo es el Objetivo
Paso 1: No Borres Nada
Antes que cualquier otra cosa: preserva evidencia. Toma capturas de pantalla de cada instancia del contenido que puedas localizar, incluyendo la información de cuenta de cualquiera que lo esté compartiendo. Si el contenido está en un sitio web, documenta la URL.
No intentes que se elimine el contenido antes de documentarlo. Las eliminaciones de plataformas pueden ser irreversibles y pueden eliminar evidencia necesaria para las autoridades.
Paso 2: Reporta a las Autoridades
En México, reporta a la Policía Cibernética de la SSC (Si es CDMX: 55 5242-6600) o al CERT-MX. También puedes presentar una denuncia ante la FGR (Fiscalía General de la República) bajo la Ley Olimpia si aplica.
En otros países latinoamericanos, contacta a la policía cibernética o unidad de delitos informáticos de tu país.
Si el contenido involucra a un menor de forma sexualmente explícita, también puedes reportar al CyberTipline del NCMEC en cybertipline.org — esta organización coordina con autoridades internacionales.
Paso 3: Reporta a la Plataforma
Envía solicitudes de eliminación de contenido a cada plataforma que aloje o distribuya el material. Para contenido de MASI conocido, las plataformas están legalmente obligadas a eliminarlo. Usa los canales de reporte específicos de CSAM/MASI de la plataforma donde estén disponibles — reciben manejo prioritario.
Paso 4: Busca Apoyo
Tu hijo ha experimentado una violación grave. El apoyo profesional de un terapeuta familiarizado con el trauma y el abuso en línea es apropiado. El Cyber Civil Rights Initiative (cybercivilrights.org) proporciona recursos específicamente para víctimas de compartición de imágenes no consensuales.
Reduciendo el Riesgo Futuro: Repensar el Compartir en Redes Sociales
El mecanismo por el cual se crean los deepfakes — usar fotos reales como material base — significa que las fotos disponibles públicamente de tu hijo son la materia prima. Considera:
- Poner todas las cuentas de redes sociales en privado
- Limitar el número y variedad de fotos de primer plano del rostro publicadas públicamente
- Ser reflexivo sobre qué plataformas albergan fotos de tus hijos
- Explicar a los niños mayores por qué podrían querer limitar lo que comparten públicamente
Ninguno de estos pasos elimina el riesgo — alguien que haya conocido a tu hijo en la escuela tiene acceso a fotos que la configuración más restrictiva de redes sociales no puede prevenir. Pero sí reduce significativamente la disponibilidad de material base para esta amenaza específica.
Qué Observar Durante 3 Meses
Mes 1: Revisa la configuración de privacidad en cada cuenta donde aparecen fotos de tu hijo. Identifica las fotos públicas que podrían servir como material base y decide si restringirlas o eliminarlas.
Mes 2: Ten una conversación apropiada para la edad con tu hijo sobre los deepfakes — qué son, que crearlos es ilegal, y que deben decirte de inmediato si encuentran alguno. Enmárcalo como información, no como alarma.
Mes 3: Revisa qué está haciendo la escuela de tu hijo para abordar las imágenes generadas por IA específicamente. Muchas escuelas aún no han actualizado sus políticas de acoso para cubrir explícitamente el contenido de IA.
Preguntas Frecuentes
¿Son ilegales los deepfakes de menores completamente vestidos?
Depende. Las imágenes generadas por IA que no son sexualmente explícitas generalmente no están cubiertas por los estatutos de MASI, pero pueden violar leyes estatales de acoso o difamación. En México, la Ley Olimpia y otras leyes estatales pueden aplicar incluso para contenido no sexual diseñado para dañar la reputación.
¿Pueden las herramientas de detección de IA saber si una imagen es falsa?
Las herramientas actuales de detección de IA están mejorando pero son imperfectas. No te apoyes en herramientas de detección para confirmar si una imagen de tu hijo es real o falsa — trata cualquier imagen sospechosa como potencialmente requiriente de investigación.
Mi hijo encontró una imagen deepfake de otra persona, no de sí mismo. ¿Qué debo hacer?
Si la imagen representa a un menor, repórtala. Ver este contenido también debe provocar una conversación con tu hijo sobre por qué las imágenes falsas generadas por IA de personas reales — especialmente niños — son dañinas e ilegales.
¿Cómo le explico esto a un niño pequeño sin crear miedo excesivo?
Mantén la explicación apropiada para la edad y sin dramatismo. Para niños más pequeños: “Existen programas de computadora que pueden hacer fotos falsas que parecen reales. Nunca está bien que nadie haga fotos falsas de ti, y si alguien alguna vez te muestra una foto tuya que sabes que no es real, ven a decirme de inmediato.”
Sobre el autor: Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Federal Bureau of Investigation. (2024). Sextortion and AI-Generated Images of Minors. https://www.fbi.gov/news/stories/sextortion-involving-ai
- National Center for Missing & Exploited Children. (2024). CyberTipline Annual Report. https://www.missingkids.org/gethelpnow/cybertipline
- Westerlund, M. (2019). The emergence of deepfake technology: A review. Technology Innovation Management Review, 9(11). https://doi.org/10.22215/timreview/1282
- Chesney, R., & Citron, D. (2019). Deepfakes and the new disinformation war. Foreign Affairs, 98(1). https://www.foreignaffairs.com/
- CNDH México. (2024). Derechos de las Niñas, Niños y Adolescentes ante la Violencia Digital. https://www.cndh.org.mx/
- Cyber Civil Rights Initiative. (2024). Non-Consensual Intimate Imagery Resources. https://cybercivilrights.org/
- UNICEF. (2024). Protección de la Infancia en el Entorno Digital. https://www.unicef.org/es/proteccion-de-la-infancia/entorno-digital
