Subir fotos de niños a apps de IA: lo que debes saber antes

En octubre de 2026, una mamá de Carolina del Sur se enteró de que la escuela de su hija de 6 años había usado IA para convertir la foto de la niña en una imagen de ella a los 25 años, vestida de enfermera. Nadie le preguntó. La historia corrió rápido porque tocó algo que muchos papás sienten y pocos dicen: subir fotos de niños a apps de IA parece un juego inofensivo, pero cuando la cara sale de tu celular ya no decides a dónde va. Puede quedarse guardada, entrenar un modelo, acabar en una base de datos o ser reutilizada por alguien que nunca vas a conocer. Nada de eso está garantizado. Todo eso ya pasó. Aquí te cuento qué se sabe y te dejo cuatro preguntas para hacerte antes del próximo filtro de caricatura o de la moda de “mira cómo serás de grande”.

Puntos clave

• Una vez que la subes, la foto de tu hijo queda sujeta a los términos y servidores de la app, no a tu galería. Busca tres cosas: cuánto la guardan, si la usan para entrenar y con quién la comparten.
• Human Rights Watch encontró 170 fotos identificables de niños brasileños en LAION-5B, una base de datos usada para entrenar herramientas populares de imágenes, revisando menos del 0.0001% de ella. Muchas venían de blogs familiares.
• Las herramientas conocidas también se pueden usar mal. En enero de 2026 la Comisión Europea abrió una investigación contra X después de que su IA, Grok, se usara para crear imágenes sexualizadas de mujeres y niños.
• La ley empieza a alcanzar al problema. España aprobó en enero de 2026 un anteproyecto que fija en 16 años la edad para consentir el uso de la propia imagen. En Estados Unidos, la ley COPPA trata la foto de un menor de 13 como dato personal.
• Lo más seguro es sencillo: usa un dibujo, un avatar o una foto sin cara; pregúntale primero a tu hijo; y evita apps que se reservan el derecho de entrenar con lo que subes.

Qué pasó en Carolina del Sur y por qué tocó una fibra

El caso está registrado en el Monitor de Incidentes de IA de la OCDE con fecha del 20 de octubre de 2026. La mamá, Nikki Anderson, protestó porque la escuela de su hija usó IA para generar una imagen de la niña de 6 años como enfermera adulta, sin consentimiento de los papás. Lo cubrieron People, Yahoo News, el Economic Times y otros medios.

La OCDE lo clasifica como un “peligro” de IA, no como un “incidente”. La diferencia sirve. Un peligro es una situación que podría llevar a un daño; no se ha confirmado ningún daño ni violación de derechos, y cuando se registró faltaba la respuesta de la escuela. Nadie dice que la imagen se haya usado mal.

¿Entonces por qué la reacción? Porque se cruzaron dos preguntas distintas. Una es el consentimiento: ¿quién decidió que la cara de esta niña podía entrar a una herramienta de IA? La otra es la autoría: ¿quién tiene derecho a imaginar el futuro de una niña? Un dibujo que ella hubiera hecho de sí misma como enfermera habría sido suyo. La versión de la IA era de la escuela, hecha con su cara. Las dos preguntas aplican a las apps que usamos en casa.

Subir fotos de niños a apps de IA: qué le pasa al archivo

Este es el mecanismo, sin publicidad. Cuando tocas “subir”, el archivo viaja a los servidores de la empresa. La app suele detectar la cara para encontrarla y recortarla, y la convierte en un conjunto de números que resume sus rasgos, a veces llamado embedding. Un modelo generativo usa la imagen y esos números para producir el resultado estilizado que te regresa.

Lo que pasa después depende de decisiones que la empresa tomó y escribió en sus términos:

• Retención. ¿Borran la original al terminar, a los 30 días o la guardan para siempre?
• Entrenamiento. ¿Los términos le dan a la empresa licencia para usar lo que subes para mejorar o entrenar sus modelos? Cuando una foto ya influyó en un modelo entrenado, no se puede sacar limpiamente.
• Compartir. ¿Las imágenes se comparten con proveedores, socios o “afiliados”?
• Público por defecto. Algunas apps publican los resultados en una galería abierta a menos que lo desactives.

Aparte, todo lo que se publica abiertamente en internet, incluida la caricatura que compartes después, se puede recolectar. Así pasó lo de LAION-5B.

El problema de las bases de datos: fotos que nadie debía encontrar

En junio de 2024, Human Rights Watch reportó que LAION-5B, una base de unos 5,850 millones de imágenes con sus descripciones, sacadas de la web y usadas para entrenar herramientas populares de IA, tenía enlaces a fotos identificables de niños brasileños. Los investigadores revisaron menos del 0.0001% de la base y aun así encontraron 170 fotos de niños de al menos 10 estados de Brasil, y advirtieron que seguramente era un conteo muy por debajo de la realidad. Algunas descripciones o direcciones incluían el nombre del niño; muchas mostraban dónde y cuándo se tomó la foto. Muchas las habían publicado los papás en blogs personales, algunas una década antes de que existiera la base, y no aparecían en una búsqueda normal.

LAION confirmó que las fotos estaban ahí y se comprometió a quitarlas. Negó que los modelos entrenados con esos datos pudieran reproducir información personal tal cual, y dijo que los niños y sus tutores son responsables de quitar fotos de internet. Human Rights Watch sostuvo que entrenar con fotos de niños reales ha facilitado crear falsificaciones convincentes de cualquier niño.

Las dos partes dejan una lección. Un modelo entrenado normalmente no escupe tu foto exacta. Pero la foto no tenía que “reproducirse” para haberse usado sin permiso de nadie.

El problema del mal uso: no solo son apps marginales

Muchos papás creen que el abuso con deepfakes viene de sitios oscuros para “desnudar” fotos. En enero de 2026, la Comisión Europea abrió una investigación formal bajo la Ley de Servicios Digitales para ver si X atendió los riesgos después de que su IA, Grok, se usara para crear imágenes sexualizadas de mujeres y niños a partir de instrucciones de los usuarios. El Centro para Contrarrestar el Odio Digital (CCDH) calculó que Grok produjo unos 3 millones de imágenes sexualizadas de mujeres y niños en cuestión de días. La presidenta de la Comisión, Ursula von der Leyen, dijo que Europa no toleraría el “desnudo digital de mujeres y niños”.

La lección para las familias no es entrar en pánico. Es entender que una IA de uso general metida en una red social se puede usar contra la foto de una persona real, así que entre menos fotos claras y públicas haya de tu hijo, menos materia prima existe. Para prevención y qué hacer si pasa, aquí está nuestra guía para papás sobre imágenes falsas de niños hechas con IA.

Qué dice la ley sobre la cara de los niños

Estados Unidos. Bajo la ley COPPA, la Comisión Federal de Comercio (FTC) incluye “una fotografía, video o archivo de audio que contenga la imagen o la voz de un niño” como información personal. Las apps dirigidas a menores de 13 años, o que saben que recogen datos de ellos, necesitan consentimiento verificable de los papás. La regla se actualizó en abril de 2025. COPPA no impide que un papá suba la foto de su propio hijo a una app para público general.

España. El 13 de enero de 2026, el Consejo de Ministros aprobó un anteproyecto que fija en 16 años la edad mínima para consentir el uso de la propia imagen, limita el reúso de imágenes en línea y de voces o rostros generados con IA sin permiso, y considera ilegítimo usar con fines comerciales imágenes o voces hechas con IA sin consentimiento. Todavía tiene que pasar consultas y el Parlamento.

Unión Europea. La Ley de Servicios Digitales le da a la Comisión poder para investigar a las plataformas muy grandes por riesgos sistémicos como el contenido ilegal. El procedimiento contra X sigue abierto; al 1 de noviembre no se había reportado una decisión final.

¿Y en América Latina?

El caso que más debería importarnos en la región es justo el de Brasil: las fotos de la investigación de Human Rights Watch eran de niños brasileños, subidas por sus propias familias. Brasil respondió después con el ECA Digital, vigente desde marzo de 2026, que entre otras cosas prohíbe usar datos de menores para publicidad.

En Colombia, Red PaPaz informó en febrero de 2026 que su línea Te Protejo procesó en 2025 más de 15 casos en los que se usaron herramientas de IA para producir cientos de imágenes ilegales de menores. Si encuentras algo así, se denuncia en teprotejo.org o en el CAI Virtual de la Policía.

En Argentina no existe un delito específico para los deepfakes sexuales de menores, aunque en 2025 una cámara de apelaciones de Zárate-Campana interpretó que el artículo 128 del Código Penal los cubre. Según Chequeado, un estudio de 2026 de la Defensoría del Pueblo porteña encontró que el 43% de los adolescentes de 12 a 19 años había recibido imágenes o videos manipulados con IA y solo el 35% verifica si son auténticos. Se denuncia en la Línea 102, la Línea 137 o una fiscalía.

Una regla que vale para toda la región: si alguien hace una imagen sexual de tu hijo, nunca la descargues, reenvíes ni la mandes por WhatsApp, ni siquiera para denunciar, porque eso también puede ser delito. Guarda el enlace, la cuenta, la fecha y la plataforma, y denuncia.

Cómo enseñarle a tu hijo a cuidar sus propias fotos

De 5 a 8 años: la regla del pulgar arriba

Antes de publicar o subir cualquier foto de tu hijo, enséñasela y pregúntale: “¿Te parece bien si la comparto?”. Respeta el pulgar abajo. Eso es todo. Construye la idea de que una foto tuya es en parte tuya, y cuesta diez segundos. Extiéndelo a los amigos: “También preguntamos antes de tomarle una foto a alguien más”.

De 9 a 12 años: búsqueda del tesoro en la política de privacidad

Elige una app de fotos o avatares con IA que le dé curiosidad a tu hijo. Abran juntos su política de privacidad y busquen cuatro palabras o ideas: “conservar” (cuánto tiempo), “entrenar” o “mejorar nuestros servicios” (uso para IA), “compartir” o “terceros” (quién más) y “eliminar” (si se puede borrar). Un punto por cada una que encuentren y expliquen. Luego decidan juntos: ¿la app pasa la prueba? Los niños suelen decidir más rápido y con más rigor de lo que uno cree.

De 13 en adelante: audita tu propia cara en internet

Que tu adolescente busque su nombre completo en un buscador de imágenes y vea qué aparece. Luego revisen cada una de sus cuentas: qué fotos son públicas, en cuáles lo etiquetaron otros, cuáles muestran el logo de la escuela o la colonia. Hagan un plan para cerrar o borrar las más identificables. Platiquen el lado del consentimiento: cuando sube una foto de grupo, ¿todos estaban de acuerdo? Los adolescentes que se auditan a sí mismos suelen publicar distinto después.

La pregunta que debes hacer: “Si subes una foto a una app, ¿quién decide qué pasa con ella después, y cómo te enterarías?”

Cara real u otras opciones: comparación rápida

Opción	Qué sale de tu celular	Riesgo de entrenamiento o reúso	Materia prima para deepfakes	Sirve para
Foto clara de la cara de tu hijo	La cara en alta resolución, a veces con metadatos	Depende de los términos; puede guardarse o usarse para entrenar	Alta	Evítala en apps de novedad
Foto de espaldas o con la cara tapada	Cuerpo, lugar, ropa	Menor	Baja	Ediciones divertidas sin identidad
Dibujo de tu hijo, escaneado	Un dibujo	Muy bajo riesgo personal	Ninguna	Proyectos de “convierte mi dibujo en…”
Avatar o creador de personajes de la app	Ninguna foto	Ninguno por la cara	Ninguna	Fotos de perfil, juegos
Edición en el aparato (sin subir)	Nada, si de verdad se procesa en el celular	Ninguno por la app	Ninguna por la app	Filtros básicos; revisa la configuración

Recuerda que el resultado que compartes también cuenta. Una caricatura sigue mostrando los rasgos de tu hijo, y una vez publicada se puede copiar.

Qué hacer en casa antes de la próxima moda de fotos

Haz las cuatro preguntas

Antes de subir algo: (1) ¿Cuánto tiempo guarda la app la foto? (2) ¿Puede usarla para entrenar IA? (3) ¿Con quién la comparte? (4) ¿Puedo borrarla, y cómo? Si la app no responde claro, asume “para siempre, sí, con otros, no”.

Que el permiso de tu hijo sea regla de la casa

Pregunta antes de subir, desde los 5 años. Parece poco. Le enseña que su imagen es suya, justo lo que la mamá de Carolina del Sur dijo que se saltaron. La investigación sobre el sharenting y lo que publicar hace a la privacidad de los niños muestra que estos hábitos marcan cómo tratarán después sus fotos y las de otros.

Pregúntale a la escuela qué herramientas usa

Cada vez más escuelas pasan trabajos y fotos de alumnos por herramientas de IA. Puedes preguntar por escrito: ¿qué herramientas procesan imágenes de los alumnos?, ¿piden consentimiento?, ¿se usan para entrenar?, ¿cuánto se guardan?

Prefiere dibujos y avatares

Casi toda la diversión de jugar con imágenes de IA sobrevive sin una cara real. Deja que tu hijo se dibuje como científico del futuro y usen el dibujo. De paso, le devuelves a él la tarea de imaginar. Sobre consentimiento y generadores de imágenes, revisa qué deben saber los papás sobre los generadores de imágenes con IA y las fotos de niños.

Lo que no conviene hacer

No subas fotos claras y de frente de tu hijo a apps cuyos términos no has leído, sobre todo las “gratis”. No publiques el resultado con su nombre, escuela o ubicación. Y no des por hecho que borrar la app borra la foto; casi siempre hay que pedirlo aparte.

Qué observar en los próximos 3 meses

• Semana 4: revisa las apps de IA en los celulares de la familia. Borra lo subido cuando se pueda, desactiva cualquier opción de “usar mi contenido para mejorar” y elimina las apps que no pasen las cuatro preguntas.
• Señales de alerta en el mes 2: que tu hijo suba fotos de amigos sin preguntar, una nueva moda de filtros de cara en la escuela, o una foto de tu hijo en un lugar donde tú no la publicaste. Pregunta con calma cómo llegó ahí.
• Autoevaluación en el mes 3: busca el nombre de tu hijo y revisa tus redes en busca de imágenes públicas e identificables. ¿Tu hijo puede explicarte por qué preguntas antes de publicar?

Preguntas frecuentes

¿Es seguro subir la foto de mi hijo a una app de IA?

Depende de los términos de la app. Algunas borran las fotos rápido y nunca entrenan con ellas; otras las guardan y se reservan derechos amplios. Revisa retención, uso para entrenamiento, con quién comparten y cómo borrar antes de subir. Si la política no es clara, usa un dibujo o una foto sin cara.

¿Las apps de IA pueden entrenar con la foto de mi hijo?

Algunas sí, si sus términos les dan licencia para usar lo que subes. Además, las fotos públicas pueden recolectarse para bases de entrenamiento, como documentó Human Rights Watch con LAION-5B en 2024 con niños de Brasil. Cuando una foto ya influyó en un modelo, no se puede sacar limpiamente.

¿Se puede hacer un deepfake con una sola foto de mi hijo?

Human Rights Watch dice que los modelos de IA pueden crear falsificaciones convincentes con muy pocas imágenes, a veces una. La investigación europea de 2026 contra Grok muestra que hasta herramientas conocidas pueden usarse así. Menos fotos claras y públicas significa menos materia prima. Si pasa, denuncia y no reenvíes la imagen.

¿Qué hago si la escuela usó IA con la foto de mi hijo sin preguntar?

Pregunta por escrito qué herramienta se usó, si la imagen se guardó o se usó para entrenar y si se puede borrar. Pide la política de consentimiento de aquí en adelante. La OCDE registró el caso de Carolina del Sur como un peligro, no como un daño probado, y ese es un buen tono para empezar la conversación.

¿Hay alguna herramienta para quitar imágenes íntimas de un menor?

Sí. Take It Down, del Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos (NCMEC), es gratuita y ayuda a quitar de plataformas participantes imágenes explícitas tomadas antes de los 18 años. Crea una huella digital en tu aparato sin subir la imagen. En la región, denuncia además en tu línea local.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. OECD AI Incidents Monitor. (2026, 20 de octubre). Registro 2026-10-20-3a14: imagen de IA de una niña de 6 años hecha por su escuela sin consentimiento de los papás (clasificado como peligro de IA). https://oecd.ai/en/incidents/2026-10-20-3a14
2. Human Rights Watch. (2024, 10 de junio). “Brazil: Children’s Personal Photos Misused to Power AI Tools.” https://www.hrw.org/news/2024/06/10/brazil-childrens-personal-photos-misused-power-ai-tools
3. Al Jazeera. (2026, 26 de enero). “EU probes Musk’s Grok AI feature over deepfakes of women, minors.” https://www.aljazeera.com/news/2026/1/26/eu-launches-probe-into-grok-ai-feature-creating-deepfakes-of-women-minors
4. Majorca Daily Bulletin. (2026, 13 de enero). “Spain moves to curb AI deepfakes, tighten consent rules on images and teen social media use.” https://amp.majorcadailybulletin.com/news/local/2026/01/13/139531/spain-moves-curb-deepfakes-tighten-consent-rules-images-and-teen-social-media-use.html
5. Federal Trade Commission. “Complying with COPPA: Frequently Asked Questions.” https://www.ftc.gov/business-guidance/resources/complying-coppa-frequently-asked-questions
6. National Center for Missing & Exploited Children. “Take It Down.” https://takeitdown.ncmec.org/
7. El Colombiano. (2026, 17 de febrero). “Indignante: uso de IA en Colombia disparó creación de material sexual ilegal con niños.” https://www.elcolombiano.com/tecnologia/uso-de-ia-en-colombia-creacion-contenido-ilegal-ninos-EC33640721
8. Chequeado. (2026, 13 de octubre). “Qué hacer si tu hija o hijo es víctima de un deepfake sexual creado con IA.” https://chequeado.com/el-explicador/que-hacer-si-tu-hija-o-hijo-es-victima-de-un-deepfake-sexual-creado-con-ia/
9. Tecnoblog. (2026, 17 de marzo). “ECA Digital entra em vigor para proteger menores na internet; veja mudanças.” https://tecnoblog.net/noticias/eca-digital-entra-em-vigor-para-proteger-menores-na-internet-veja-mudancas/