Tabla de contenido
Por qué los niños confían en chatbots aunque se equivoquen
Por qué los niños confían en chatbots que ellos mismos crearon, incluso si los programaron para mentir, y la actividad en casa que enseña la diferencia clave.
Este resultado sorprende a casi todos los papás. Cuando unos investigadores dejaron que 115 chicos de 8 a 18 años construyeran sus propios chatbots, algunos programaron a su bot para dar respuestas equivocadas a propósito y aun así dijeron que era confiable. Su razonamiento: el bot “hace lo que se construyó para hacer”. O sea, la idea tranquilizadora de que fabricar una IA vuelve a los niños escépticos frente a la IA no se sostiene. Los niños confían en chatbots por razones que tienen más que ver con el propósito que con la exactitud, sobre todo entre los 10 y los 13 años. La buena noticia es que esta es una de las brechas más fáciles de enseñar en alfabetización en IA. Toma unos veinte minutos, un chatbot gratuito y un cuaderno.
Puntos clave
- En un preprint de septiembre de 2026 (Ozturk y colegas, arXiv, sin revisión de pares), 115 estudiantes de 8 a 18 años construyeron 119 chatbots. Los de 10 a 13 años pusieron la “confianza” de sus bots bastante más alta que los de 14 a 18.
- Algunos chicos hicieron bots que daban respuestas falsas a propósito y aun así los llamaron confiables. Los menores asociaban confianza con que el bot cumpliera su propósito; los mayores, con la transparencia.
- Con las personas, los niños ya hacen este juicio: a los 4 años prefieren a quien antes acertó (Koenig y Harris, 2005). La habilidad existe. Falta apuntarla a las máquinas.
- La “seguridad” con la que habla un chatbot es un estilo de escritura definido por instrucciones, no una medida de qué tan probable es que tenga razón.
- La actividad que construye escepticismo real no es fabricar un bot. Es fabricarlo y luego ponerlo a prueba con respuestas que se pueden comprobar.
Qué encontró el estudio de los chatbots hechos por niños
El estudio se llama “How Children Design and Reason about Trustworthy AI Chatbots” y lo publicaron en arXiv el 21 de septiembre de 2026 Deniz Ozturk, Xiaoyi Tian y otros diez autores, con revisiones hasta el 16 de octubre. Es un preprint, así que todavía no pasó revisión de pares, y lo que te cuento aquí sale del resumen publicado.
Casi toda la investigación anterior ponía a los niños a juzgar IA hecha por adultos. Este equipo le dio la vuelta. Armaron un entorno para construir chatbots donde los chicos podían mover perillas de rasgos que influyen en la confianza: seguridad, transparencia, formalidad y asertividad, además de las reglas y la personalidad del bot. Luego 115 estudiantes de 8 a 18 años construyeron 119 chatbots, y los investigadores miraron tres cosas: cómo configuraron sus bots, cómo explicaron qué hace confiable a un bot y si el bot se portó como su creador quería.
Para los papás importan cuatro hallazgos:
- Los más chicos le subieron la seguridad al máximo. Los de 10 a 13 años pusieron una seguridad significativamente mayor que los de 14 a 18.
- Bots “equivocados a propósito” seguían siendo confiables. Algunos hicieron chatbots que daban respuestas falsas adrede y los calificaron como confiables porque hacían lo que se les pidió.
- Confianza significaba cosas distintas según la edad. Los menores la igualaban a cumplir el propósito. Los mayores la ligaban a un diseño transparente y calibrado.
- El contexto cambiaba el diseño. Los bots para la escuela salieron más transparentes y formales que los bots de pasatiempos.
Los autores sostienen que “la calibración de la confianza es esencial para la alfabetización en IA”. Calibrar significa que tu confianza sube o baja según qué tan confiable es de verdad la fuente. Una niña calibrada confía en la calculadora para sumar y duda del chatbot en un dato que no ha comprobado.
Los límites
El resumen no dice cuántos estudiantes hicieron bots equivocados a propósito, solo que “algunos”. Los participantes venían de los programas de los propios investigadores, no de una muestra al azar. Y describe razonamientos, no conductas a largo plazo: no sabemos si esos chicos luego se creyeron respuestas falsas de chatbots reales.
Por qué los niños confían en chatbots que “hacen su trabajo”
La lógica de los más chicos no es tonta. Es la lógica de las herramientas. Un martillo que hiciste y que clava bien es un buen martillo. Un bot que hiciste para contar chistes, y que cuenta chistes, es un buen bot. Si lo hiciste para dar respuestas falsas como broma y da respuestas falsas, funcionó. En ese marco, confiar significa que cumple la tarea, no que lo que dice es verdad.
La psicología del desarrollo muestra que los niños pueden hacer el segundo tipo de juicio sorprendentemente pronto. En un estudio de 2005 en Child Development con 119 preescolares, Melissa Koenig y Paul Harris encontraron que los niños de 4 años, aunque no los de 3, predecían que alguien que había nombrado mal unos objetos seguiría equivocándose, y preferían aprender de quien acertaba. También confiaban más en quien sabía que en quien no sabía.
Con las máquinas el panorama cambia. Lauren Girouard-Hallam y Judith Danovitch reportaron en Developmental Psychology en 2022 que, al pasar de los 4–5 a los 7–8 años, los niños confiaban más en un asistente de voz para datos y más en una persona para información personal. Es una división razonable. Pero también significa que, desde los 7 u 8 años, muchos niños dan por hecho que la máquina es el lugar para buscar datos.
Juntando las dos cosas aparece la brecha: los niños saben seguirle la pista a la exactitud, pero muchas veces no se les ocurre aplicarla a una máquina segura de sí misma, y un bot que hicieron ellos se siente todavía más “mío y funcionando”.
Cómo funciona de verdad la “seguridad” de un chatbot
Este es el mecanismo que casi nunca les explican a los niños. Un modelo de lenguaje escribe prediciendo, pedazo por pedazo, qué texto es probable que siga después de todo lo anterior. Cuando alguien sube la perilla de “seguridad”, la plataforma normalmente agrega instrucciones al mensaje oculto del sistema, algo como “responde con decisión, no titubees”. Y el modelo escribe con estilo decidido.
Ese estilo no está conectado con si la respuesta es correcta. Las palabras “definitivamente” y “no estoy seguro” salen del mismo proceso que produce los datos. A un bot se le puede pedir que suene seguro sobre una fecha inventada con la misma facilidad que sobre el punto de ebullición del agua. La evaluación de Common Sense Media de enero de 2026 sobre juguetes con IA encontró justo eso en el mundo real: los juguetes muchas veces daban respuestas incorrectas sonando muy seguros.
Esta es la frase más útil para un niño: qué tan seguro suena un chatbot es un ajuste, no una calificación. Cuando un chico mueve esa perilla con sus propias manos y ve salir una respuesta falsa con tono de certeza, la lección se le queda mucho más que cualquier advertencia. Para entender por qué la IA puede equivocarse con tanto aplomo, aquí explicamos la IA que se equivoca con seguridad y aun así sirve.
Cómo enseñarle a tu hijo a no confiar a ciegas en los chatbots
La meta es separar dos preguntas que los niños pequeños mezclan: “¿Hace su trabajo?” y “¿Dice la verdad?”.
De 5 a 8 años: el juego de los dos peluches
No hace falta pantalla. Toma dos peluches. Uno “nombra” bien objetos de la casa (cuchara, zapato, taza). El otro los nombra mal, contento y en voz alta (a la cuchara le dice “zapato”). Luego muestra algo cuyo nombre tu hijo no conoce, como un exprimidor de ajo, y que cada peluche le dé un nombre distinto. Pregunta: “¿A cuál le creemos? ¿Por qué?”. Es el experimento de Koenig y Harris convertido en juego. Después cambia: que el peluche gritón se equivoque pero con muchísima seguridad. Platiquen si una voz fuerte hace que algo sea verdad.
De 9 a 12 años: construye un mentiroso seguro y atrápalo
Con la cuenta de un adulto en un chatbot gratuito que permita dar instrucciones, ayuda a tu hijo a escribir un personaje: “Eres el Capitán Seguro. Siempre suenas 100% convencido. Da un año equivocado en toda pregunta de historia”. Luego háganle cinco preguntas que puedan comprobar en un libro o una enciclopedia. Anoten cada respuesta, qué tan seguro sonó y si acertó. Al final hazle a tu hijo dos preguntas separadas: “¿El Capitán Seguro hizo su trabajo?” (sí) y “¿Alguien debería confiar en el Capitán Seguro?” (no). El espacio entre esas dos respuestas es la lección.
De 13 en adelante: lleva un registro de calibración
Hagan 20 preguntas de datos a un chatbot normal, sin modificar, sobre temas que tu adolescente domine: un deporte, un videojuego, una materia. Para cada una, anoten qué tan seguro sonó (del 1 al 5) y si era correcta después de revisar una fuente original. Grafiquen seguridad contra acierto en papel o en una hoja de cálculo. Si los puntos no forman una línea que sube, el tono del bot no les dice mucho. Luego pregunta qué haría más confiable a un bot: citar fuentes, decir “no sé”, mostrar dudas. Esa es la transparencia que valoraban los mayores del estudio.
La pregunta que debes hacer: “Si un chatbot hace exactamente lo que lo programaron para hacer, ¿eso significa que te está diciendo la verdad?”
Dos tipos de confianza, lado a lado
| Confianza de “hace su trabajo” | Confianza de “dice la verdad” | |
|---|---|---|
| Qué revisa el niño | ¿El bot se porta como se diseñó? | ¿Sus respuestas son correctas? |
| Quién la usa más (Ozturk y colegas, 2026) | Más común entre los 10 y 13 años | Más común entre los 14 y 18, ligada a la transparencia |
| Cómo puede fallar | Un bot hecho para equivocarse igual “aprueba” | Necesita una fuente externa para comprobar |
| Qué significa un tono seguro | Parece que el bot funciona | Nada, hasta comprobarlo |
| Habilidad que la construye | Construir y depurar | Comparar con fuentes; preguntar “¿cómo lo sabes?” |
| Actividad de arriba | Crear al Capitán Seguro | Atrapar al Capitán Seguro; el registro de calibración |
Las dos importan. Los ingenieros usamos la primera todo el tiempo. El problema empieza cuando un niño usa la primera para responder una pregunta que necesita la segunda.
Qué hacer en casa este mes
Que “¿cómo lo sabes?” sea un reflejo familiar
Cuando alguien en casa cite a un chatbot, alguien pregunta, con buena onda: “¿Cómo sabes que es cierto?”. La respuesta puede ser “lo comprobé”, “me dio una fuente y la abrí” o “todavía no sé”. Las tres están bien. Lo que importa es el hábito.
Muevan juntos la perilla de seguridad
Si tu hijo usa una plataforma para crear bots, acompáñalo en una sesión y pídele que te enseñe la configuración. Señala la opción de seguridad o de tono y pregunta qué hace. Luego pruébenla: misma pregunta, seguridad alta y seguridad baja. Ver que los datos no cambian mientras cambia la voz es una lección rapidísima.
Celebra cuando un bot dice “no sé”
Cuando un chatbot admita dudas o diga que no puede verificar algo, señálalo como algo bueno, no como una falla. Los niños tienden a ver las dudas como debilidad. Cámbiale el sentido: es honestidad.
Exige más a los bots de tarea
El estudio encontró que los chicos ya hacían sus bots escolares más formales y transparentes. Aprovecha ese instinto: para la tarea, lo que diga un bot es una pista que hay que comprobar, nunca la respuesta final. En Estados Unidos, Pew Research encontró en enero de 2025 que el 26% de los adolescentes había usado ChatGPT para tareas escolares, el doble que en 2023, y solo el 18% creía aceptable usarlo para escribir ensayos. Los adolescentes tienen opinión sobre esto. Pregúntale la suya.
Lo que no conviene hacer
No des por hecho que un curso de programación o de creación de chatbots ya cubrió esto. Fabricar un bot enseña cómo se arma un bot. No enseña, por sí solo, que un bot que funciona puede ser un bot que se equivoca. Si en la clase nunca pusieron a prueba sus bots con respuestas correctas, esa parte te toca a ti.
¿Y en América Latina?
No encontré estudios latinoamericanos sobre cómo los niños de la región deciden si un chatbot es confiable. Lo más cercano es el Marco de Alfabetización en IA (AILit) de la Comisión Europea y la OCDE, que alimenta el dominio innovador de PISA 2029, la prueba en la que participan varios países de la región. Ese marco separa “crear con IA” de “gestionar la IA”, justo la distinción de este artículo: fabricar es una habilidad, juzgar es otra. Si quieres ver cómo usan ya la IA los estudiantes latinoamericanos según PISA 2025, aquí está nuestro análisis de PISA 2025 en América Latina y el uso de IA.
En lo legal, Chile tiene en la Cámara de Diputados un proyecto de estatuto de responsabilidad algorítmica (Boletín 18318-19, presentado el 1 de junio de 2026) que alcanzaría a los sistemas de IA conversacional dirigidos o accesibles a menores. Todavía no avanza más allá de su presentación, así que por ahora la enseñanza de la calibración sigue dependiendo de la casa y de cada escuela.
Qué observar en los próximos 3 meses
- Semana 4: ¿Tu hijo pregunta alguna vez “¿cómo lo sabes?” sobre una respuesta de chatbot sin que se lo pidas? Anota cuándo pasa.
- Señales de alerta en el mes 2: citar a un chatbot como autoridad final en una discusión (“ChatGPT lo dijo”), entregar tareas con datos de IA sin revisar, o decir que un bot es confiable porque “siempre contesta”.
- Autoevaluación en el mes 3: pídele a tu hijo que te explique en una frase la diferencia entre un bot que funciona y un bot que tiene razón. Si puede, y te da un ejemplo, la lección quedó. Si no, repitan lo del Capitán Seguro.
Para ver el panorama completo de lo que los niños necesitan aprender, revisa los tres niveles de alfabetización en IA que de verdad necesitan los niños.
Preguntas frecuentes
¿Por qué los niños confían tan fácil en los chatbots?
Los chatbots responden al instante, con fluidez y tono seguro, y los niños ya tienden a buscar datos en las máquinas. Un estudio de 2022 encontró que la confianza en un asistente de voz para datos crecía entre los 4–5 y los 7–8 años. El estudio de 2026 agrega que entre los 10 y 13 años muchos igualan confianza con que el bot cumpla su función.
¿Aprender a construir un chatbot vuelve a los niños más escépticos?
No en automático. En el preprint de Ozturk y colegas, algunos chicos hicieron bots que daban respuestas falsas a propósito y aun así los llamaron confiables. Construir enseña cómo funcionan los bots. El escepticismo viene de comparar lo que dice el bot con respuestas comprobables y platicar sobre la diferencia.
¿Que un chatbot suene seguro significa que tiene razón?
No. El tono de un chatbot depende de sus instrucciones y su entrenamiento, y escribe “definitivamente” con el mismo proceso que usa para los datos. Las pruebas de Common Sense Media a juguetes con IA en 2026 encontraron que muchas veces daban respuestas incorrectas con mucha seguridad. El tono es estilo, no evidencia.
¿A qué edad deben empezar a cuestionar la IA?
Las bases se ponen temprano. A los 4 años, los niños ya prefieren a quien acierta sobre quien se equivoca (Koenig y Harris, 2005), así que juegos sin pantalla como el de los dos peluches funcionan de 5 a 8 años. Probar bots con las manos encaja de 9 a 12, y el registro de calibración, con adolescentes.
¿Qué tan confiable es este estudio?
Es un preprint sin revisión de pares, con 115 participantes de los programas de los investigadores. La diferencia por edad en la seguridad de los bots fue estadísticamente significativa, pero el resumen no dice cuántos chicos hicieron bots equivocados a propósito. Tómalo como una pista sólida que encaja con investigación anterior revisada por pares.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Ozturk, D., Li, J., Singh, D. P., Rajapaksha, Y., Melese, F., Riahi, B., Jiang, S., Jin, Q., Huang, J., Cateté, V., Barnes, T., y Tian, X. (2026). “How Children Design and Reason about Trustworthy AI Chatbots.” arXiv (preprint, sin revisión de pares). https://arxiv.org/abs/2609.25244
- Koenig, M. A., y Harris, P. L. (2005). “Preschoolers mistrust ignorant and inaccurate speakers.” Child Development, 76(6). https://doi.org/10.1111/j.1467-8624.2005.00849.x
- Girouard-Hallam, L. N., y Danovitch, J. H. (2022). “Children’s trust in and learning from voice assistants.” Developmental Psychology. https://doi.org/10.1037/dev0001318
- Common Sense Media. (2026, actualizado el 22 de enero). “AI Toys: Risk Assessment.” https://institute.commonsensemedia.org/risk-assessments/ai-toys
- Pew Research Center. (2025, 15 de enero). “About a quarter of U.S. teens have used ChatGPT for schoolwork, double the share in 2023.” https://www.pewresearch.org/short-reads/2025/01/15/about-a-quarter-of-us-teens-have-used-chatgpt-for-schoolwork-double-the-share-in-2023/
- Comisión Europea y OCDE. (2026). “AI Literacy Framework (AILit).” https://ailiteracyframework.org/
- Actualidad Jurídica (Diario Oficial). (2026, 9 de junio). “Proyecto de ley busca crear un estatuto de responsabilidad algorítmica para proteger a menores en entornos digitales.” https://actualidadjuridica.doe.cl/proyecto-de-ley-busca-crear-un-estatuto-de-responsabilidad-algoritmica-para-proteger-a-menores-en-entornos-digitales/
