Riesgos de la IA para niños: el apocalipsis o los daños reales

Los titulares sobre inteligencia artificial de este otoño parecían el tráiler de una película de desastres. Expertos que advierten que la tecnología podría acabar con la humanidad en una década. Un enjambre de agentes de IA que lanza un hackeo por su cuenta. Líderes de empresas de IA pidiendo frenar. Si eres mamá o papá, es lógico preguntarte si debes preocuparte por el fin del mundo o por el chatbot que tu hijo trae en el celular.

La respuesta corta: los riesgos de la IA para niños que hoy tienen evidencia sólida están mucho más cerca de casa. Un adolescente que le pide consejos de salud mental a un chatbot y no se lo cuenta a nadie. Un compañero de clase que fabrica un deepfake sexual. Tareas que se entregan sin que haya aprendizaje. Datos de niños que terminan en manos de empresas con reglas débiles. El debate de largo plazo es real. Solo que no es donde tu atención hace más bien este mes.

Puntos clave

• Los daños presentes tienen datos; los escenarios apocalípticos tienen sobre todo pronósticos. Justin Reich, del MIT, le dijo a Education Week: “No hace falta especular sobre daños futuros”.
• Cerca de 1 de cada 5 jóvenes (19.2%) en Estados Unidos ha usado chatbots para pedir consejos de salud mental, y el 63.3% no se lo contó a nadie, según un estudio representativo publicado en JAMA Pediatrics en 2026.
• Las funciones de seguridad todavía no son confiables. La prueba de Common Sense Media a ChatGPT para adolescentes, en octubre de 2026, encontró que las cuentas vinculadas a los papás no recibieron ninguna alerta tras hasta una hora de conversación sobre autolesiones o pensamientos suicidas.
• Los deepfakes sexuales ya tocan a muchos adolescentes. En una encuesta de Thorn de 2024 a jóvenes de 13 a 20 años en EE. UU., el 17% conocía a alguien que había sido víctima de desnudos falsos de menores, o a alguien que los había hecho.
• Ordena por evidencia y luego actúa en lo que está arriba de la lista: conversaciones, configuraciones, diseño de tareas y datos. Más abajo hay una tabla con el ranking.

Qué desató los titulares apocalípticos de este otoño

El “apocalipsis de la IA” es la idea de que una IA avanzada podría causar la extinción humana o una catástrofe a escala de civilización. No es nueva. En mayo de 2023, una larga lista de investigadores y ejecutivos, entre ellos Geoffrey Hinton, Yoshua Bengio y los directores de OpenAI, Google DeepMind y Anthropic, firmó una declaración de una sola frase organizada por el Center for AI Safety: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear”.

En septiembre de 2026 llegó una nueva ola. Alyson Klein, de Education Week, enumeró los detonantes el 22 de septiembre: expertos que advierten sobre la extinción en una década, un hackeo hecho por agentes de IA que reportó The New York Times el 3 de septiembre, y líderes de grandes empresas de IA pidiendo en público bajar la velocidad, entre ellos Dario Amodei, director de Anthropic, quien argumentó que los ingenieros todavía no pueden garantizar medidas de seguridad adecuadas.

Después, el mundo de la protección infantil lanzó su propia alarma. En la primera Cumbre de Niños e IA de Common Sense Media, el 28 de octubre de 2026 en Nueva York, el exdirector de salud pública de EE. UU. Vivek Murthy comparó la llegada de la IA con la de las armas nucleares por la necesidad de normas de seguridad cuidadosas, según la paráfrasis de TIME, y dijo: “Estamos en una bifurcación”. Jim Steyer, fundador de Common Sense, dijo que la IA es “básicamente las redes sociales con esteroides”.

Fíjate en la diferencia entre esos dos tipos de advertencia. La primera habla de lo que la IA podría hacerle a la humanidad. La segunda, de lo que la IA ya les está haciendo a los niños. A las dos se les llama “riesgo de la IA”. Solo una es algo sobre lo que puedes actuar esta misma noche.

Por qué los daños de hoy merecen tu atención primero

Reich, que dirige el Teaching Systems Lab del MIT, lo planteó sin rodeos: “Los educadores y las familias tienen mucho de qué hablar, mucho de qué preocuparse, con solo atender los daños”. También cuestionó los motivos de los ejecutivos que suenan la alarma: “Esta gente no es honesta”, dijo. “Actúan por interés propio y son malísimos para predecir el futuro”. Según Education Week, algunos críticos sospechan que ciertos directores quieren regulaciones que frenen a la competencia, o mostrar lo poderosos que son sus productos.

No tienes que estar de acuerdo con Reich sobre las intenciones de nadie para aceptar su punto práctico. Una mamá o un papá tiene un presupuesto limitado de atención. Gastarlo en escenarios en los que ninguna familia puede influir deja menos para los riesgos que se pueden medir, que están pasando ya y que en parte están en tus manos.

Eso no quiere decir que el riesgo de largo plazo sea falso. Hay investigadores serios que no se ponen de acuerdo, y es una pregunta legítima de política pública. Quiere decir que, como papá o mamá, el esfuerzo rinde más en otro lado. Si quieres una explicación tranquila del debate grande, lee la inteligencia artificial general explicada para papás.

Riesgos de la IA para niños, ordenados por la evidencia

El ranking pondera tres cosas: qué tan sólida es la evidencia, a cuántos niños afecta y si una mamá o un papá puede hacer algo al respecto. Es una decisión de criterio, y alguien razonable podría ordenar distinto las filas del medio.

Riesgo	Evidencia hoy	Qué tan común	Qué puedes hacer
Chatbots usados como apoyo emocional, sin salvaguardas confiables	Sólida: encuesta representativa (JAMA Pediatrics, 2026) y pruebas independientes de seguridad (Common Sense, 2026)	19.2% de los jóvenes de 12 a 21 años en EE. UU. ha pedido consejos de salud mental a un chatbot	Pregunta directamente; no confíes en las alertas automáticas; que el apoyo humano esté a la vista
Deepfakes sexuales de menores	Moderada a sólida: encuesta nacional a jóvenes (Thorn, 2025)	17% de los jóvenes de 13 a 20 años conoce a una víctima o a un autor; 6% dice que le pasó	Habla del tema antes de que ocurra; conoce las vías de denuncia
Aprendizaje perdido por una IA que da respuestas	Sólida en cuanto al mecanismo: experimento de campo aleatorio (PNAS, 2025)	54% de los alumnos en EE. UU. usó IA para la escuela en 2025 (RAND)	Pide herramientas que den pistas; revisa explicaciones en casa
Datos de niños recolectados y reutilizados	Moderada: revisiones de políticas (UNESCO, 2023-25)	Solo el 16% de los países garantiza por ley la privacidad de datos en educación	Revisa la configuración de las apps y la lista de proveedores de la escuela
Confiar de más en respuestas equivocadas dichas con seguridad	Poca investigación directa con niños todavía	Común donde se usan chatbots	Enseña a comprobar con una segunda fuente
Riesgo de extinción o a escala de civilización	Preocupación de expertos y pronósticos; sin datos directos sobre niños	No se puede medir	Apoya las políticas en las que creas; responde con calma las preguntas de tus hijos

Unas notas sobre las primeras filas.

Apoyo emocional. Ryan McBain y su equipo de RAND encuestaron a 1,009 jóvenes de 12 a 21 años en noviembre de 2025; el estudio salió en JAMA Pediatrics el 1 de junio de 2026. El 19.2% había usado un chatbot para pedir consejos de salud mental, frente al 13.1% del año anterior. El 42.8% de quienes lo usan lo hace al menos una vez al mes, y el 91.7% dice que le sirvió. Esa valoración es real y cuenta. Pero el 63.3% no se lo dijo a nadie, y de los que sí lo contaron, solo el 16.4% se lo dijo a un adulto de confianza. Una encuesta muestra el uso, no el daño. La pregunta del daño viene de las pruebas: cuando el Youth AI Safety Institute de Common Sense Media corrió más de 4,000 mensajes en cuentas de adolescentes, ChatGPT “no hizo más de una de cada cuatro derivaciones a ayuda en crisis que correspondían”, y las cuentas vinculadas a los papás no recibieron alertas tras hasta una hora de conversación sobre autolesiones o pensamientos suicidas.

Deepfakes. Thorn encuestó a 1,200 jóvenes de 13 a 20 años en Estados Unidos en el otoño de 2024. El 13% conocía a alguien menor de 18 que había sido víctima de desnudos falsos, el 12% conocía a alguien que los había creado o compartido, y el 6% dijo que habían hecho desnudos falsos de él o ella. Es un daño presente, con víctimas en muchas secundarias y prepas. Para la parte de prevención, lee por qué los deepfakes son una amenaza real para niños y adolescentes.

Aprendizaje. Hamsa Bastani y su equipo dieron tutores con GPT-4 a casi mil alumnos de prepa en Turquía, en un ensayo aleatorio publicado en PNAS en 2025. El acceso sin restricciones subió las notas de práctica un 48%, y luego dejó a los alumnos 17% por debajo de sus compañeros cuando se lo quitaron. Una versión que daba pistas evitó casi toda la pérdida. Aquí nadie sale lastimado de forma escandalosa. El costo es silencioso y se acumula, por eso es tan fácil no verlo.

¿Y en América Latina?

En la región, los daños presentes ya llegaron a la agenda legislativa, aunque las leyes todavía van más lento que la tecnología. En México, la Cámara de Diputados aprobó por unanimidad, en febrero de 2026, reformas que sancionan crear total o parcialmente, sin consentimiento y con medios tecnológicos, imágenes, videos o audios sexuales íntimos de una persona, y también compartirlos. Las penas por acoso sexual aumentan hasta en la mitad si la víctima es menor de edad. La reforma pasó al Senado, y no encontré confirmación de su aprobación final.

En Colombia, Red PaPaz informó en febrero de 2026 que su línea Te Protejo atendió en 2025 más de 15 casos en los que se usaron herramientas de IA para crear cientos de imágenes ilegales de menores, y que en su línea Te Guío crece la preocupación por imágenes sexuales falsas y por agentes de IA usados para crear vínculos emocionales y sexuales con menores. Su recomendación a las familias es clara: no compartir esas imágenes y denunciarlas en el CAI Virtual o en la página y la app de Te Protejo.

Sobre el apocalipsis de la IA, en cambio, no hay una agenda latinoamericana propia; el debate se da sobre todo en Estados Unidos y Europa. Para ver cómo se previenen los deepfakes desde la región, revisa deepfakes de menores desde una perspectiva latinoamericana.

Cómo hablar con niños asustados por los titulares apocalípticos

Algunos niños, sobre todo los más ansiosos, van a ver los mismos titulares que tú. Ayudan unos cuantos principios.

Empieza por lo que escucharon. “¿Qué viste sobre la IA y qué pensaste?” Muchas veces los niños se quedan con una versión revuelta. Corrige los hechos antes de atender los sentimientos.

Separa “algunos expertos se preocupan” de “esto va a pasar”. Es correcto decir que algunos científicos respetados creen que la IA avanzada podría ser peligrosa a largo plazo, que otros creen que esos miedos son exagerados, y que gobiernos e investigadores trabajan en seguridad. No es correcto decir que hay un desastre con fecha.

Regresa a lo que está en sus manos. “La IA que tú usas se puede equivocar, te puede dar la razón de más y no debe ser el único lugar al que vayas cuando te sientes mal. Eso lo podemos manejar juntos”. Así un miedo difuso se vuelve una habilidad concreta.

El distrito de Oregon que perfiló Education Week da un buen ejemplo. La superintendente de Umatilla le pidió a su consejo de alumnos que ayudara a definir la postura del distrito sobre la IA. Los alumnos propusieron dejarla fuera de las clases de escritura, salvo para la lluvia de ideas, y sugirieron capacitar también a los papás. Los niños que ayudan a escribir las reglas suelen tenerle menos miedo a lo que se regula.

Qué hacer este mes con los daños reales de la IA

Haz la pregunta del apoyo emocional sin rodeos

“¿Alguna vez platicas con un chatbot cuando estás estresado o triste?” es una pregunta válida desde los 10 años más o menos. Hazla con calma, acepta la respuesta y sigue con cómo se siente hacerlo. Si la mayoría de los jóvenes que lo usan no se lo cuentan a nadie, la pregunta en sí ya protege.

No le dejes la seguridad a la configuración

Activa las cuentas para adolescentes y los controles parentales donde existan. Y luego asume que se les van a escapar cosas, porque las pruebas independientes muestran que así es. La relación contigo es la función de seguridad que sí funciona.

Ten la conversación sobre deepfakes antes de necesitarla

Explica que hacer o compartir una imagen sexual de una persona real, aunque sea falsa, es un daño serio y puede ser delito, y que si le pasa a él o a un amigo puede acudir a ti sin que le quites el celular como castigo. En Colombia existe Te Protejo; en Estados Unidos, el servicio Take It Down del NCMEC y la CyberTipline.

Revisa el aprendizaje, no solo la tarea

Pídele a tu hijo que te explique en voz alta una tarea por semana. Si puede, la IA no le robó el aprendizaje. Si no puede, revisa cómo está usando la herramienta.

Lo que no conviene hacer

No trates el debate apocalíptico como tontería ni como profecía frente a tus hijos. Las dos posturas pecan de exceso de seguridad. Y no dejes que un titular te lleve a prohibirlo todo una semana para luego olvidarlo. Los hábitos constantes y concretos le ganan a un arranque de alarma.

Qué observar en los próximos 3 meses

• Semana 4: ¿Ya hiciste la pregunta del apoyo emocional y la de los deepfakes al menos una vez? ¿Revisaste qué herramientas de IA usa tu hijo en casa y en la escuela?
• Mes 2, focos rojos: Tu hijo se aísla después de pasar tiempo con un chatbot; dice que una IA lo “entiende” mejor que las personas; hay un incidente en la escuela con imágenes falsas; las calificaciones de las tareas suben, pero no puede explicar lo que hizo.
• Mes 3, autoevaluación: ¿Puedes nombrar los dos riesgos de la IA más relevantes para la edad de tu hijo y una cosa que hiciste con cada uno? Si sí, tu atención está donde la evidencia dice que debe estar.

Preguntas frecuentes

¿Cuáles son los mayores riesgos de la IA para niños hoy?

Los mejor documentados son: jóvenes que usan chatbots como apoyo emocional sin salvaguardas confiables, deepfakes sexuales de menores, aprendizaje que se pierde cuando la IA da respuestas en lugar de pistas, y poca protección de los datos de los niños. Cada uno tiene evidencia de encuestas o experimentos de 2024 a 2026.

¿Debo preocuparme de que la IA acabe con el mundo?

Algunos científicos respetados creen que la IA avanzada podría implicar riesgos graves a largo plazo, y otros no están de acuerdo. Es un debate legítimo de política pública. Pero ninguna familia puede influir en él desde la mesa del comedor, mientras que los daños actuales a los niños se pueden medir y en parte están en tus manos.

Mi hijo tiene miedo por las noticias del apocalipsis de la IA. ¿Qué le digo?

Pregúntale qué escuchó, corrige los datos revueltos y explícale que los expertos no se ponen de acuerdo y que mucha gente trabaja en seguridad. Luego pasa a lo que está en sus manos: la IA se equivoca, puede adular y no debe reemplazar a las personas cuando se siente mal. Una habilidad concreta tranquiliza más que solo consolar.

¿Los chatbots son seguros para la salud mental de los adolescentes?

Todavía no de forma confiable. En 2026, el 19.2% de los jóvenes de 12 a 21 años en EE. UU. había pedido consejos de salud mental a un chatbot, y la mayoría no se lo contó a nadie. Si tu hijo está en crisis: en México, Línea de la Vida 800 911 2000; en Colombia, 106; en Argentina, 0800 345 1435; en Chile, *4141; en Perú, 113. En otros países, findahelpline.com.

¿Lo del apocalipsis de la IA es solo publicidad de las empresas?

En parte, según algunos críticos. Justin Reich, del MIT, cuestionó los motivos de los directores de empresas tecnológicas, y hay quien piensa que las advertencias sirven a fines comerciales. Otros, incluidos investigadores académicos reconocidos que no venden ningún producto, lo plantean con sinceridad. Las dos cosas pueden ser ciertas a la vez.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Klein, A. (2026). “Headlines Warn of an AI Apocalypse. How Should Schools Respond?” Education Week. https://www.edweek.org/technology/headlines-warn-of-an-ai-apocalypse-how-should-schools-respond/2026/09
2. Center for AI Safety. (2023). “Statement on AI Risk.” https://safe.ai/work/statement-on-ai-risk
3. Luscombe, B. (2026). “‘Social Media on Steroids.’ Advocates for Children Call for Guardrails Around AI.” TIME. https://time.com/article/2026/10/30/ai-kids-common-sense-media/
4. McBain, R. K., et al. (2026). “AI Chatbot Use and Disclosure for Mental Health Among US Adolescents and Young Adults.” JAMA Pediatrics, 180(8), 884-890. https://jamanetwork.com/journals/jamapediatrics/fullarticle/2849307
5. Common Sense Media. (2026). “ChatGPT for Teens Poses Unacceptable Risk to Kids, Common Sense Media Finds.” https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
6. Thorn. (2025). “Deepfake Nudes & Young People: Navigating a New Frontier in Technology-facilitated Nonconsensual Sexual Abuse and Exploitation.” https://www.thorn.org/research/library/deepfake-nudes-and-young-people/
7. Bastani, H., et al. (2025). “Generative AI without guardrails can harm learning: Evidence from high school mathematics.” Proceedings of the National Academy of Sciences. https://doi.org/10.1073/pnas.2422633122
8. RAND Corporation. (2025). “AI Use in Schools Is Quickly Increasing but Guidance Lags Behind.” https://www.rand.org/pubs/research_reports/RRA4180-1.html
9. UNESCO. (2023, actualizado 2025). “To ban or not to ban? Smartphones in school only when they clearly support learning.” Global Education Monitoring Report. https://www.unesco.org/en/articles/smartphones-school-only-when-they-clearly-support-learning
10. N+. (2026). “Diputados aprueban reformas para sancionar la violencia a través de IA generativa.” nmas.com.mx. https://www.nmas.com.mx/nacional/diputados-aprueban-reformas-para-sancionar-la-violencia-a-traves-de-ia-generativa/
11. Bautista Romero, L. (2026). “Indignante: uso de IA en Colombia disparó creación de material sexual ilegal con niños.” El Colombiano. https://www.elcolombiano.com/tecnologia/uso-de-ia-en-colombia-creacion-contenido-ilegal-ninos-EC33640721