Tabla de contenido
Riesgos de la IA para familias, ordenados por evidencia
Los riesgos de la IA para familias ordenados por cuánta evidencia los respalda y qué puedes hacer tú en casa. El orden de los medios está casi al revés.
El orden en que un papá se topa con los riesgos de la IA es casi exactamente el inverso del orden en que debería actuar. Acá están los riesgos de la IA para familias ordenados con dos criterios que puedo defender: cuánta evidencia real respalda cada preocupación y cuánto puede hacer una casa al respecto este mes. El riesgo existencial encabeza los titulares y queda noveno en esta lista. El uso no supervisado de un chatbot acompañante por un adolescente que ya lo está pasando mal casi no sale en las noticias y queda primero. Casi tres de cada cuatro adolescentes han usado un acompañante de IA, y cerca de un tercio ha preferido uno antes que a una persona para una conversación seria.
Puntos clave
- Ordenados por evidencia y accionabilidad, los tres primeros son el uso de acompañantes por un adolescente vulnerable, el abuso basado en imágenes con menores y los permisos excesivos en agentes de IA.
- El conjunto de datos más sólido disponible para papás es el reporte de Common Sense Media de julio de 2025: casi tres de cada cuatro adolescentes han usado acompañantes de IA, la mitad los usa de forma regular, cerca de un tercio ha elegido uno antes que a una persona para una conversación seria y una cuarta parte ha compartido información personal.
- Los reguladores también ordenaron. La indagatoria de la FTC de septiembre de 2025 fue a siete empresas sobre chatbots acompañantes y menores, no sobre superinteligencia.
- El orden de los medios está más o menos invertido. El volumen de cobertura se correlaciona con lo dramático que suena un riesgo, no con la evidencia disponible ni con lo tratable que es en casa.
- La entrada honesta sobre daño al aprendizaje es “mixta”. Quien te diga que la investigación está resuelta en cualquiera de las dos direcciones está exagerando.
Cómo los ordené
Tres criterios, dichos en voz alta para que puedas discutir la ponderación.
Calidad de la evidencia. ¿Hay investigación publicada, acción regulatoria o datos documentados de incidentes, o hay una historia plausible? Las historias plausibles pueden ser correctas. Quedan más abajo.
Accionabilidad doméstica. ¿Puede una familia reducirlo de forma medible en una tarde, con configuración o conversación? Un riesgo que no puedes tocar va más abajo en la lista de un papá aunque sea real.
Gravedad cuando pasa. No frecuencia. El peor caso, ponderado por qué tan recuperable es.
Lo que puntúa alto en los tres sube. Ese es todo el método, y produce un orden que no se parece nada a un feed de noticias.
Los riesgos de la IA para familias, del uno al nueve
1. Uso no supervisado de chatbots acompañantes por un adolescente que ya está mal
Primero en todos los criterios, y no por poco.
El reporte Talk, Trust, and Trade-Offs de Common Sense Media, del 16 de julio de 2025, encontró que casi tres de cada cuatro adolescentes han usado acompañantes de IA, la mitad los usa de forma regular, cerca de un tercio ha preferido un acompañante de IA antes que a una persona para una conversación seria, y una cuarta parte ha compartido información personal con estas plataformas. Casi la mitad los ve como herramientas y no como amigos, lo cual tranquiliza y no describe a la otra mitad.
Los reguladores actuaron sobre este riesgo específico y no sobre otro. La indagatoria 6(b) de la FTC, abierta el 11 de septiembre de 2025, envió requerimientos a Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap y X.AI, preguntando cómo “miden y monitorean los daños potenciales a menores antes y después del lanzamiento”, cómo restringen el acceso de niños y qué pasos dieron para evaluar la seguridad de sus chatbots cuando actúan como acompañantes.
Qué lo reduce: configurar la edad real de la cuenta, para que apliquen los clasificadores correctos; saber qué plataforma usa tu hijo para conversar y no solo para tareas; y un mensaje repetido en la casa de que contarle a un papá sobre un intercambio que lo perturbó siempre es seguro.
2. Abuso basado en imágenes con menores
Segundo porque la gravedad es extrema, la capacidad está ampliamente disponible y el sistema legal se movió aquí más rápido que en casi cualquier otro daño de IA.
El calendario de la Ley de IA de la UE muestra que las prohibiciones sobre sistemas de IA que generan imágenes íntimas no consentidas y material de abuso sexual infantil entran en aplicación el 2 de diciembre de 2026, separadas de las prohibiciones generales de febrero de 2025. Cuando una legislatura separa una categoría y le da su propia fecha, eso es una declaración de prioridad.
Qué lo reduce: una conversación sobre qué hacer si pasa, antes de que pase, incluido que el niño no está en problemas y que las imágenes se reportan, no se borran. Nuestra guía sobre imágenes falsas hechas con IA cubre las rutas de reporte.
3. Permisos excesivos en agentes de IA
Tercero porque está creciendo rápido, casi nadie lo ha configurado y el arreglo toma cuarenta minutos.
El encuadre de seguridad es formal. El Top 10 de OWASP para aplicaciones con LLM 2025 pone la inyección de instrucciones en primer lugar y lista la agencia excesiva en LLM06. Juntos describen la falla real: un agente lee contenido no confiable, lo trata como orden y actúa con los permisos que le dieron.
Qué lo reduce: solo lectura por defecto, ningún medio de pago conectado, aprobación por acción para todo lo que envía o gasta. El detalle está en los permisos de agentes de IA.
4. Actuar sobre una respuesta equivocada y segura en algo que importa
Cuarto porque la falla está bien documentada y la mitigación es un hábito y no un ajuste, lo que la hace más lenta de instalar.
La propia investigación de OpenAI sobre por qué los modelos alucinan atribuye parte del problema a la evaluación: “los procedimientos estándar de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre”. La consecuencia práctica es que la fluidez no informa nada sobre la exactitud, y las categorías donde más cuesta son salud, medicamentos, temas legales y cualquier cosa con un número.
Qué lo reduce: una sola regla dura y angosta. En mi casa, nada sobre salud ni dosis sale de un chatbot, y los niños la aceptan porque es específica.
5. Degradación del entorno informativo
Quinto porque es medible y difuso. El centro de rastreo de IA de NewsGuard contaba 3.749 sitios de noticias tipo granja de contenido al 23 de junio de 2026, con criterios que incluyen “evidencia fuerte de que el contenido se publica sin supervisión humana significativa”.
Qué lo reduce: enseñar la pregunta de responsabilidad, “si esto está mal, ¿quién pierde algo?”, en lugar de enseñar detección, que no funciona de forma confiable. Lo desarrollamos en basura generada por IA.
6. Sustitución del aprendizaje, donde la evidencia es de verdad mixta
Sexto, y es la entrada donde quiero ser más cuidadoso.
Pew Research Center encontró que el 26% de los adolescentes estadounidenses de 13 a 17 años había usado ChatGPT para tareas, el doble del 13% de 2023, en una encuesta de septiembre y octubre de 2024, con 31% entre los de últimos años. Eso es exposición, no daño.
Sobre el daño, la investigación es temprana y está en disputa. El Índice de IA 2025 de Stanford documenta incidentes al alza y evaluación estandarizada escasa, que es una afirmación sobre medición y no sobre resultados de aprendizaje. Los maestros reportan preocupación. Los estudios se contradicen. Quien afirme una respuesta cerrada va por delante de los datos.
7. Fragmentación de la atención por agentes proactivos
Séptimo porque el mecanismo es real y la medición viene de adultos en oficinas. Mark, González y Harris, en CHI 2005, encontraron 57% de bloques de trabajo interrumpidos y unos 11 minutos en cada uno antes de cambiar. Nadie ha hecho el estudio equivalente con niños y asistentes proactivos.
Qué lo reduce: que la salida proactiva caiga en un resumen o una carpeta, no en una notificación.
8. Cambios en el mercado laboral
Octavo en accionabilidad, no en importancia. Es una pregunta económica legítima con horizonte largo y casi nada que un papá pueda hacer este trimestre más allá de lo obvio: mantener amplias las habilidades del hijo, mantenerlo construyendo cosas, y resistir la tentación de optimizar las decisiones de un chico de catorce años en función de un mercado que nadie puede pronosticar.
9. Riesgo catastrófico o existencial
Último, y quiero ser preciso sobre por qué.
No está último porque sea falso. El Índice de Seguridad en IA del Future of Life Institute, del 17 de julio de 2025, calificó a siete desarrolladores y ninguno superó D en planeación de seguridad existencial, con un panel que concluyó que “la industria está fundamentalmente poco preparada para sus propias metas declaradas”. Ese es un hallazgo serio sobre instituciones.
Está último porque la accionabilidad doméstica es casi cero. No hay ajuste, conversación ni configuración en tu casa que lo cambie. La respuesta adecuada es cívica, no doméstica.
Todo en una tabla
| Puesto | Riesgo | Calidad de evidencia | Tiempo de arreglo en casa | Puesto en cobertura mediática |
|---|---|---|---|---|
| 1 | Acompañantes de IA y adolescente vulnerable | Encuestas sólidas, acción regulatoria | 20 minutos | 5.º |
| 2 | Abuso basado en imágenes de menores | Acción legal, fechas propias en la ley | Una conversación | 3.º |
| 3 | Permisos excesivos en agentes | Taxonomía formal de seguridad | 40 minutos | 7.º |
| 4 | Actuar sobre una respuesta segura y falsa | Investigación publicada por los desarrolladores | Un hábito, semanas | 4.º |
| 5 | Degradación del entorno informativo | Contado: 3.749 sitios | Enseñanza continua | 6.º |
| 6 | Sustitución del aprendizaje | Mixta y en disputa | Depende del colegio | 2.º |
| 7 | Fragmentación de la atención | Sólida, pero en adultos | 10 minutos | 8.º |
| 8 | Mercado laboral | Especulativa, horizonte largo | No accionable | 9.º |
| 9 | Riesgo catastrófico | Debate real, evidencia institucional | No accionable en casa | 1.º |
Los puestos de cobertura mediática son mi estimación de leer este tema, no una medición. El punto se sostiene sin precisión: los dos riesgos que una familia puede reducir con más eficacia reciben menos atención que los dos que no puede tocar.
¿Y en América Latina?
Acá el orden cambia, y no por matices culturales: cambia porque un delito que ya existe a escala en la región se vuelve mucho más fácil con estas herramientas.
El primer lugar regional probablemente no es el chatbot acompañante. Es el fraude y la extorsión con voz clonada. En México, Colombia y Perú el patrón de la llamada de extorsión, el “secuestro virtual” y la suplantación telefónica de un familiar lleva años operando con guiones y actores humanos. La clonación de voz a partir de unos segundos de audio de una historia de Instagram no inventa un delito nuevo: le quita el eslabón más difícil a uno que ya funcionaba. Y los niños son la puerta de entrada por dos vías: su voz es el material de origen, y su teléfono es el canal.
La defensa es concreta y vale más que cualquier configuración: una palabra clave familiar, acordada en persona, que nunca se escriba en un chat. Si alguien llama con la voz de tu hijo pidiendo dinero o diciendo que está en problemas, se pide la palabra. Esa frase de una línea es lo más útil que puedes sacar de este artículo si vives en la región, y toma treinta segundos acordarla hoy en la cena.
El segundo cambio está en el puesto tres. Los permisos de los agentes pesan más acá porque el dinero se mueve por transferencia inmediata y monedero digital, donde no existe el contracargo de la red de tarjetas. Un error que en Estados Unidos se revierte con una llamada, aquí no se revierte.
El tercero está en el puesto cinco. La degradación informativa pesa más porque el canal dominante es el reenvío de WhatsApp, que no deja rastro de origen, y porque la capacidad de verificación en español es más chica: Chequeado, ColombiaCheck, El Sabueso, Ojo Público y AFP Factual son buenos y son equipos pequeños frente a un volumen que ahora se produce gratis.
Y uno que baja: la sustitución del aprendizaje es igual de incierta acá, pero las palancas son distintas. En la región el rediseño de tareas depende de ministerios y secretarías con menos capacidad técnica, y los exámenes de alto impacto, Saber 11, la PAES, el EXANI, siguen siendo presenciales y vigilados. Eso significa que el incentivo real para aprender de verdad sigue existiendo, aunque la tarea de la casa se pueda generar en treinta segundos. Es una buena noticia poco mencionada.
Qué hacer con este orden
Gasta tu primera hora en los puestos uno a tres
No en leer más. Veinte minutos en configuración de cuentas, una conversación sobre qué hacer si aparece una imagen, cuarenta minutos auditando a qué tiene permiso cada herramienta de IA de la casa. Si vives en la región, agrega los treinta segundos de la palabra clave familiar. Esa es la hora de mayor valor disponible en este tema a principios de 2027.
Elige una regla dura, no cinco blandas
Las casas que escriben políticas tecnológicas completas no las cumplen. Las casas con una prohibición específica, dicha con una razón, normalmente sí. Elige la que corresponda a tu preocupación mejor rankeada.
Deja que lo no accionable siga siendo no accionable
Tienes permiso de encontrar el riesgo existencial interesante, preocupante y no tu tarea de este mes. Tratar cada riesgo como proyecto doméstico produce agotamiento y ninguna seguridad.
Reordena cada año, no cada semana
La base de evidencia se mueve lento y las noticias rápido. Un orden reconstruido con cada ciclo de noticias es un estado de ánimo, no un plan.
Lo que no debes hacer
No uses este orden para descartar una preocupación concreta sobre tu hijo concreto. Estas son prioridades de población. Si tu hijo de once está teniendo conversaciones largas con un chatbot sobre algo que te inquieta, eso le gana a toda la lista para tu familia, sin importar dónde quede la categoría en general.
Qué observar en los próximos 3 meses
- Semana 4: Si la indagatoria de la FTC produce resultados públicos. Cuando un regulador publique lo que siete empresas le contaron sobre menores y chatbots acompañantes, esa será la mejor evidencia que haya tenido cualquier papá sobre el riesgo número uno.
- Mes 2, señales de alerta: Si el orden de tu propia casa cambia por una razón distinta a un titular. Algo específico que tu hijo dijo o hizo debería poder subir un riesgo en la lista. Una nota de prensa, no.
- Mes 3, autoevaluación: Pregúntate si los puestos uno a tres de verdad están hechos. La mayoría de las familias lee un orden, está de acuerdo y no configura nada. La diferencia entre saber y hacer es una cita en el calendario.
Preguntas frecuentes
¿Cuál es el mayor riesgo de IA para una familia ahora?
En términos globales, el uso no supervisado de chatbots acompañantes por un adolescente que ya está pasándolo mal. En América Latina, probablemente el fraude con voz clonada, porque aprovecha un patrón de extorsión que ya operaba a escala en la región.
¿Debo preocuparme por la superinteligencia?
Como ciudadano, con razón. Como papá configurando aparatos este fin de semana, no: no hay nada que ajustar. El Future of Life Institute no encontró a ningún desarrollador grande por encima de D en planeación de seguridad existencial, que es un hallazgo institucional y no doméstico.
¿La IA le hace daño al aprendizaje?
La evidencia es mixta y lo honesto es que nadie lo sabe todavía. La exposición está documentada: Pew registró 26% de adolescentes estadounidenses usando ChatGPT para tareas a fines de 2024, el doble que en 2023. Si eso afecta el aprendizaje depende mucho del diseño de las tareas.
¿Qué hago con la clonación de voz?
Acuerda hoy una palabra clave familiar, en persona, que nunca se escriba en un chat. Si una llamada con la voz de un familiar pide dinero o dice estar en problemas, se pide la palabra. Es la defensa más barata y más efectiva que existe para este riesgo.
¿Es peor preocuparse de más o de menos?
Las dos fallan, de forma distinta. Preocuparse de más produce prohibiciones que se revierten y niños que no te cuentan cosas. De menos deja la configuración sin hacer. La salida es ser específico: uno o dos riesgos nombrados, con acciones nombradas.
¿Cómo me mantengo al día sin leer noticias de IA todos los días?
Repite una revisión de configuración cada trimestre e ignora el resto. La base de evidencia cambia en meses, no en días, y casi nada de la cobertura de una semana cualquiera cambia lo que una familia debería hacer.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Common Sense Media. (2025). “Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions.” 16 de julio de 2025. https://www.commonsensemedia.org/research/talk-trust-and-trade-offs-how-and-why-teens-use-ai-companions
- Federal Trade Commission. (2025). “FTC Launches Inquiry into AI Chatbots Acting as Companions.” 11 de septiembre de 2025. https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-acting-companions
- Future of Life Institute. “EU AI Act Implementation Timeline.” https://artificialintelligenceact.eu/implementation-timeline/
- OWASP. (2025). “OWASP Top 10 for LLM Applications 2025.” https://genai.owasp.org/llm-top-10/
- OpenAI. (2025). “Why language models hallucinate.” Septiembre de 2025. https://openai.com/index/why-language-models-hallucinate/
- NewsGuard. “AI Tracking Center.” Actualizado el 23 de junio de 2026. https://www.newsguardtech.com/special-reports/ai-tracking-center/
- Pew Research Center. (2025). “About a quarter of U.S. teens have used ChatGPT for schoolwork – double the share in 2023.” 15 de enero de 2025. https://www.pewresearch.org/short-reads/2025/01/15/about-a-quarter-of-us-teens-have-used-chatgpt-for-schoolwork-double-the-share-in-2023/
- Future of Life Institute. (2025). “AI Safety Index: Summer 2025.” 17 de julio de 2025. https://futureoflife.org/ai-safety-index-summer-2025/
- Stanford Institute for Human-Centered AI. (2025). “The 2025 AI Index Report.” https://hai.stanford.edu/ai-index/2025-ai-index-report
- Mark, G., González, V. M. y Harris, J. (2005). “No Task Left Behind? Examining the Nature of Fragmented Work.” Proceedings of CHI 2005, ACM. https://www.ics.uci.edu/~gmark/CHI2005.pdf
