¡Noviembre está lleno! Las próximas clases despegan la semana del lunes 7 de diciembre.

Reserva tu lugar
La IA se equivoca con seguridad: y aun así puede servir
Tabla de contenido

La IA se equivoca con seguridad: y aun así puede servir

La IA se equivoca con seguridad porque la fluidez no mide nada. El mecanismo real, la regla para usarla bien y un proyecto de dos semanas con tu hijo.

La seguridad con la que escribe un modelo de lenguaje no mide nada. Esa frase es toda la lección, y es la razón por la que la IA se equivoca con seguridad de una forma que engaña igual a niños y a adultos: la prosa pulida y segura que lees la genera exactamente el mismo mecanismo, sin importar si el contenido es correcto o inventado. No hay pista. No titubea, no cambia de tono, no se corrige. Suena a razón para no usarla, y en realidad es la base de una regla para usarla bien, una que un niño de nueve años puede aplicar.

Puntos clave

  • La fluidez y la exactitud son independientes en un modelo de lenguaje. Nada en el estilo de una respuesta te dice si es cierta, porque el mismo proceso produce los dos tipos de salida.
  • La propia investigación de OpenAI atribuye parte del problema a la calificación: “los procedimientos estándar de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre”.
  • Hay investigación para detectar estos errores, pero sus autores son explícitos sobre los límites. La entropía semántica “no garantiza veracidad, porque no ayuda cuando las salidas del modelo son sistemáticamente malas”.
  • La regla usable: vale usar una IA cuando verificar su respuesta cuesta menos que producir la respuesta tú mismo. Ese criterio clasifica casi cualquier tarea en cinco segundos.
  • Un registro de calibración de dos semanas le gana a cualquier sermón. Los niños que midieron ellos mismos dónde falla el modelo dejan de confiar de forma uniforme, que es el objetivo real.

Qué pasa por dentro de una respuesta equivocada y segura

Un modelo de lenguaje genera texto por pedacitos, prediciendo qué es probable que venga después, dado todo lo anterior. El entrenamiento forma esas predicciones con cantidades enormes de texto, y una etapa posterior lo ajusta hacia respuestas que los evaluadores humanos prefirieron.

Fíjate en lo que falta en esa descripción: ningún paso donde el sistema compare una afirmación con el mundo. No hay consulta, no hay base de datos de hechos revisándose por defecto, no hay verificador interno. El sistema produce la continuación más plausible. Cuando los datos de entrenamiento traían la respuesta correcta en muchas formas consistentes, la continuación plausible suele ser correcta. Cuando no, la continuación plausible es una frase bien formada que resulta falsa.

El tono seguro no es un error puesto encima. Es el registro por defecto del texto del que aprendió. Las enciclopedias, los libros de texto y los artículos están escritos en prosa declarativa y firme. Un modelo entrenado con eso escribe con esa voz tenga o no la información.

Y la forma de calificarlo lo empeora. La investigación de OpenAI de 2025 sobre por qué los modelos alucinan explica el incentivo con una analogía de examen: si no sabes y adivinas, puedes acertar por suerte; dejarlo en blanco garantiza un cero. Con pruebas que califican respuestas como correctas o incorrectas sin crédito por abstenerse, un modelo que siempre contesta le gana a uno que a veces dice que no sabe. Su recomendación es cambiar el puntaje: “Penaliza los errores seguros más de lo que penalizas la incertidumbre, y da crédito parcial a las expresiones adecuadas de incertidumbre”. Anotan que “todas las métricas principales de evaluación necesitan rehacerse”, lo que te dice cuán lejos está de resolverse.

Calibración y por qué la ventana de chat la tira a la basura

La calibración es la propiedad de decir 70% y acertar más o menos el 70% de las veces. Un pronóstico del clima bien calibrado sirve de verdad aunque se equivoque seguido, porque el número lleva información.

Las interfaces de chat están mal calibradas por construcción, porque entregan prosa y no probabilidades. Cualquier incertidumbre que exista dentro del cálculo no sobrevive hasta la frase que lees.

Los investigadores han intentado recuperarla. Farquhar, Kossen, Kuhn y Gal publicaron en Nature, en junio de 2024, un método que estima incertidumbre a nivel de significado y no de palabras, agrupando respuestas equivalentes y calculando entropía entre los grupos. La intuición es elegante: haz la misma pregunta varias veces, y si las respuestas significan cosas distintas, el modelo está adivinando.

Los autores son cuidadosos. El método ataca la fabricación, no todo tipo de error, y “no garantiza veracidad, porque no ayuda cuando las salidas del modelo son sistemáticamente malas”. Un modelo al que le enseñaron algo falso de forma consistente va a estar consistente y medidamente seguro de ese error.

Puedes correr una versión burda de esto en la mesa de la cocina, y es una de las mejores cosas que le puedes mostrar a un hijo. Haz la misma pregunta de hecho en tres chats separados. Compara. Que no coincidan es una señal. Que coincidan es evidencia más débil de lo que se siente, pero el ejercicio vuelve visible la incertidumbre, que es el punto.

La regla que la vuelve útil de todas formas

Acá está el criterio, y es lo que vale guardar en una captura de pantalla: úsala donde revisar cueste menos que hacer.

Esa sola comparación clasifica tareas con limpieza, y los niños la pueden aplicar sin ayuda.

TareaCosto de verificar la respuestaCosto de equivocarseVeredicto
Generar veinte ideas para un proyectoCasi cero; solo las leesCasi cero; eliges unaExcelente uso
Explicarte un concepto en el que estás atoradoBajo; lo contrastas con el libroBajo, si revisasBuen uso
Traducir una frase al inglés para una tarjetaBajo; le preguntas a alguienBajoBuen uso
Resumir un capítulo que ya leísteBajo; conoces el capítuloMedioEstá bien, si lo leíste
Resumir un capítulo que no leísteAlto; no puedes notar lo que faltaAltoMal uso
Buscar fechas históricas para un ensayoMedio; una consulta por datoAlto; la nota y el hábitoSolo con verificación
Dosis de medicamentos, síntomas, temas legalesMuy altoMuy altoNo es un uso
Matemáticas donde el método es el objetivoBajo revisar el resultado, alto revisar el razonamientoAlto; aprender es el puntoSolo después de intentarlo

La asimetría de las filas cinco y seis es la que más se le escapa a los niños. Un resumen de algo que leíste es una herramienta. Un resumen de algo que no leíste es un hueco con una voz segura saliendo de él, porque la falla es la omisión, y no puedes notar lo que se dejó por fuera de un texto que nunca viste.

Cómo enseñarle esto a tu hijo

De 5 a 8 años

Hazle dos preguntas seguidas al asistente, en voz alta, con tu hijo escuchando. Primero: “¿Cuántas patas tiene una araña?” Después: “¿Cuántos pelos tiene mi perro?”

Escucha el tono. No cambia. Esa es toda la lección a esta edad, y a los niños chiquitos les da genuina risa. Remata con: “¿Dijo ‘no sé’ cuando no sabía?”, y deja que note que no. Le estás enseñando un solo hecho: sonar seguro no es lo mismo que estar seguro. Que, muy útilmente, también aplica a sus compañeros de clase.

De 9 a 12 años

Elige un tema que domine: las mecánicas de un videojuego, las reglas de un deporte, los discos de una banda. Pídele al asistente cinco datos específicos sobre eso, y que tu hijo marque cada uno: verdadero, falso o “lo tengo que buscar”.

Pasan dos cosas de forma confiable. Encuentra al menos un error, muchas veces un detalle falso que suena creíble. Y descubre que su propio conocimiento es un instrumento de verificación, que es algo genuinamente motivador para un niño de diez. Guarda la lista.

De 13 en adelante

Este es el proyecto que vale dos semanas. Haz una tabla simple con cuatro columnas: la pregunta, la categoría, la respuesta y si se sostuvo.

Que registre durante catorce días cada pregunta de fondo que le haga a un asistente, con la categoría tomada de una lista corta: dato puntual, explicación, código, matemáticas, apoyo de escritura, resumen. Después que verifique una muestra de cada categoría y calcule un porcentaje de acierto por categoría.

El resultado es un mapa personal y empírico de dónde falla esta herramienta para el trabajo que él de verdad hace. Por mi experiencia con ingenieros, ese mapa casi siempre tiene la misma forma: alta confiabilidad en explicación y estructura de código, mucho más baja en números específicos, citas, fechas y cualquier cosa que requiera una fuente. Cuando un adolescente produce ese hallazgo solo, se queda. Cuando un papá lo afirma, no.

Una extensión para los que les gustan los números: que le pida al modelo un porcentaje de confianza en cada respuesta y después compare la confianza declarada con la exactitud medida. La diferencia entre esos dos números es el error de calibración, y verlo graficado convence más que cualquier artículo.

La pregunta que debes hacer: “Si esta respuesta estuviera mal, ¿cómo te darías cuenta?”

Si no puede describir una forma de revisarlo, no debería usar la respuesta. Esa es toda la política, y cabe en una ficha.

¿Y en América Latina?

Acá hay un patrón que vale conocer y que la mayoría de las guías en inglés ni menciona: estos modelos son notablemente menos confiables en los temas locales que más le importan a una familia de la región.

No hace falta creerme. Haz la prueba con tu hijo, porque es un experimento de quince minutos y enseña más que este párrafo. Pregúntale al asistente, en español, por el calendario escolar oficial de este año en tu país, por cómo se estructura la prueba Saber 11 del ICFES en Colombia, por los requisitos de inscripción de la SEP en México o por las fechas de la PAES en Chile. Después abre la página oficial del organismo y compara. La respuesta casi siempre llega con el mismo tono seguro de siempre, y con detalles que ya cambiaron o que nunca fueron ciertos.

La razón es estructural y vale explicársela a un adolescente. Un modelo es bueno en lo que estaba abundante y repetido en su entrenamiento. Los trámites, calendarios y normas locales de la región están publicados en pocos sitios, cambian cada año y casi nunca se repiten en inglés. Es exactamente la “cola” de la distribución que primero se promedia hasta desaparecer, el mismo fenómeno que describimos en basura generada por IA.

Dos reglas prácticas que salen de ahí. Primera: para cualquier trámite, fecha o requisito oficial, la fuente es la página del organismo, nunca el chat. Segunda, y esta es la que sorprende: si la pregunta es sobre un tema técnico general, a veces conviene hacerla en inglés y traducir la respuesta, porque la cobertura de entrenamiento es más densa. Si la pregunta es sobre tu país, no hay atajo: hay que ir a la fuente.

Qué hacer en casa

Haz visible la verificación, en voz alta

Cuando uses un asistente para algo que importa, narra la revisión. “Me dijo que la fecha de entrega es el 14. Estoy mirando la página del colegio. Dice el 11.” Los niños copian la conducta que ven mucho más que la que se les indica, y esto toma treinta segundos. Nuestra guía para usar la IA para revisar tareas sin hacerlas desarrolla esa rutina.

Prohíbe una categoría y permite el resto

Una restricción general falla porque no se puede hacer cumplir y porque está equivocada. Una específica funciona. En mi casa la regla es que nada sobre salud, medicamentos o dosis sale de un chatbot, punto. Los niños aceptan reglas angostas con razones dichas; se les da la vuelta a las reglas anchas sin razón.

Pide la fuente, no la respuesta

Cambia la petición. En lugar de “en qué año pasó esto”, enséñale a decir “dónde puedo leer cuándo pasó esto”. Señalar una fuente es una tarea distinta y más verificable que afirmar un dato, y produce algo que un maestro va a aceptar.

Separa “equivocada” de “inútil”

Acá es donde falla casi todo el mensaje de los papás. Una herramienta que acierta el 85% de las veces vale muchísimo si puedes saber de qué 15% dudar, y es peligrosa si no. Enseña la habilidad de clasificar, no un veredicto sobre la tecnología.

La escala justifica el esfuerzo. Pew Research Center encontró que el 26% de los adolescentes estadounidenses de 13 a 17 años había usado ChatGPT para tareas escolares, el doble del 13% de 2023, en una encuesta a 1.391 adolescentes hecha entre el 18 de septiembre y el 10 de octubre de 2024. Entre los de últimos años de bachillerato la cifra era 31%. No hay un dato equivalente publicado con esa calidad para la región, pero cualquier maestro de Bogotá o de Monterrey te va a decir que la proporción no es menor.

Lo que no debes hacer

No le digas a un niño que el modelo “miente”. Es inexacto y le enseña un modelo equivocado del mundo. Mentir requiere conocer la verdad y elegir otra cosa. Este sistema no tiene un estado de creencia sobre su propia salida, que es un hecho más raro y más importante que la deshonestidad, y un niño de ocho lo entiende si se lo dices simple: no te está tratando de engañar, y tampoco tiene idea de si está acertando.

Qué observar en los próximos 3 meses

  • Semana 4: Si tu hijo empieza a decir “déjame revisar eso” sin que nadie se lo pida. Que esa frase aparezca sola es el único indicador confiable de que algo de esto aterrizó.
  • Mes 2, señales de alerta: Una cita bibliográfica segura que no existe. Las fuentes inventadas, con nombres de autor creíbles y revistas plausibles, siguen siendo una de las fallas más comunes, y una tarea construida sobre una de ellas es una lección dura y efectiva.
  • Mes 3, autoevaluación: Pregúntale qué categoría de pregunta verifica ya en automático y cuál todavía confía. Si la respuesta es “todas” o “ninguna”, el trabajo de calibración no ha pasado.

Preguntas frecuentes

¿Por qué suena tan segura cuando está equivocada?

Porque aprendió a escribir con texto seguro y declarativo, y nada en su proceso compara afirmaciones con el mundo. El tono firme es la voz por defecto del material con el que se entrenó, no una señal de corrección. Las pruebas que no dan crédito por decir “no sé” también la empujan a contestar.

¿Esto se va a arreglar pronto?

En parte, y no rápido. Los propios investigadores de OpenAI sostienen que la solución exige rehacer las métricas principales de evaluación en todo el campo para premiar la incertidumbre, que es un cambio de industria y no una actualización de modelo. Los métodos de detección ayudan con algunos errores y explícitamente no garantizan veracidad.

¿Mi hijo debería usar IA para la tarea?

Depende de la materia, de la tarea y del costo de verificar. Generar ideas y explicar conceptos es de bajo riesgo si se revisa. Resumir lo que no se leyó y buscar datos específicos es de alto riesgo. La pregunta útil no es si se permite, sino qué tareas pasan el criterio de “más barato revisar que hacer”.

¿Cómo le muestro que se equivoca sin que le dé miedo?

Pregúntale al modelo sobre algo en lo que tu hijo sea experto. Su propio conocimiento se convierte en el instrumento de medición, el descubrimiento es suyo y el tono emocional es curiosidad y no susto. Funciona muchísimo mejor que mostrarle un error en un tema que no conoce.

¿Cuál es la diferencia entre una alucinación y un error?

En la práctica los términos se mezclan, pero la distinción útil es que una fabricación es un invento arbitrario que cambia entre intentos, mientras un error sistemático se repite porque el modelo aprendió algo falso. La primera se atrapa preguntando dos veces. La segunda no, y por eso siguen importando las fuentes externas. La comunidad de seguridad los archiva bajo el mismo rubro: el Top 10 de OWASP para aplicaciones con LLM 2025 lista la desinformación como LLM09 y la llama una vulnerabilidad central.

¿Los modelos de pago alucinan menos?

En general sí para preguntas comunes, y la mejora es menor de lo que sugiere la publicidad, sobre todo en números específicos, datos oscuros y citas. Trata un número de versión nuevo como razón para confiar un poco más, nunca como razón para dejar de revisar.


Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.


Fuentes

  1. OpenAI. (2025). “Why language models hallucinate.” Septiembre de 2025; ver también arXiv:2509.04664. https://openai.com/index/why-language-models-hallucinate/
  2. Farquhar, S., Kossen, J., Kuhn, L. y Gal, Y. (2024). “Detecting hallucinations in large language models using semantic entropy.” Nature, 630(8017), 625-630. https://pmc.ncbi.nlm.nih.gov/articles/PMC11186750/
  3. OWASP. (2025). “OWASP Top 10 for LLM Applications 2025”, LLM09: Misinformation. https://genai.owasp.org/llm-top-10/
  4. National Institute of Standards and Technology. (2023). “AI Risk Management Framework” y el perfil de IA generativa, NIST AI 600-1 (2024). https://www.nist.gov/itl/ai-risk-management-framework
  5. Pew Research Center. (2025). “About a quarter of U.S. teens have used ChatGPT for schoolwork – double the share in 2023.” 15 de enero de 2025. https://www.pewresearch.org/short-reads/2025/01/15/about-a-quarter-of-us-teens-have-used-chatgpt-for-schoolwork-double-the-share-in-2023/
  6. Common Sense Media. (2025). “Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions.” 16 de julio de 2025. https://www.commonsensemedia.org/research/talk-trust-and-trade-offs-how-and-why-teens-use-ai-companions
  7. Stanford Institute for Human-Centered AI. (2025). “The 2025 AI Index Report.” https://hai.stanford.edu/ai-index/2025-ai-index-report
Ricky Flores
Escrito por Ricky Flores

Fundador de HiWave Makers e ingeniero eléctrico con más de 15 años trabajando en proyectos con Apple, Samsung, Texas Instruments y otras empresas Fortune 500. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo impulsado por la tecnología.