Cómo Generan Texto los Modelos de Lenguaje de IA: La Máquina de Predecir Palabras

Aquí hay algo que vale la pena probar en casa. Abre ChatGPT o cualquier chatbot de IA. Escribe: “Completa esta oración: La capital de México es…” Va a decir Ciudad de México. Ahora escribe: “Completa esta oración: La comida más deliciosa de México es…” Dirá algo sobre tacos, o mole, o pozole. Esa respuesta también es “correcta” — pero nota lo que cambió. La primera oración tiene una sola respuesta verdadera. La segunda tiene infinitas respuestas válidas.

ChatGPT no distingue entre ellas de ninguna manera significativa. En ambos casos está haciendo lo mismo: predecir qué palabra viene después según los patrones que vio durante el entrenamiento.

Eso no es un insulto. Es una descripción. Y es uno de los modelos mentales más clarificadores que un niño puede tener sobre la IA.

El Malentendido Central: “Sabe Cosas”

La frase “ChatGPT sabe que…” aparece constantemente. En salones de clase, en artículos de noticias, en conversaciones de papás. Y está sutilmente equivocada de una manera que importa.

Los modelos de lenguaje no “saben” cosas como tú sabes tu dirección de casa. Codifican patrones estadísticos en un conjunto de datos de entrenamiento enorme. Cuando esos patrones producen resultados precisos confiablemente, interpretamos eso como conocimiento. Cuando no lo hacen — cuando el modelo confabula o se contradice — lo llamamos alucinación. Ambos resultados vienen del mismo mecanismo.

El mecanismo es: predicción del siguiente token.

Cada palabra que lees de un modelo de lenguaje fue predicha un token a la vez. El modelo tomó todo lo anterior — tu prompt, más cada palabra que ya había generado — y preguntó: “Dado todo esto, ¿qué palabra (token) viene probablemente después?” Muestreó de una distribución de probabilidad, escogió una palabra, la agregó a la secuencia, y repitió.

Eso es todo. Esa es toda la magia.

Lo Explico Como Si Tuvieras 5 Años: El Mejor Completador de Oraciones del Mundo

Imagina alguien que ha leído todos los libros, artículos, páginas web y foros de internet jamás escritos — miles de millones de documentos. Pasó años sin hacer nada más que leer. Ahora le das un fragmento de oración, y la completa. No está inventando exactamente — está haciendo una versión extremadamente sofisticada de “¿qué suele venir después de esto?”

Es brillante para sonar como si supiera todo. Pero si le preguntas algo que no estaba en los textos que leyó — o algo que requiere razonamiento más allá de la completación de patrones — aún producirá una oración fluida y confiada. Solo que podría estar equivocada.

La diferencia entre esa persona y ChatGPT es que ChatGPT hace esto miles de millones de veces al día, nunca se cansa, y no sabe la diferencia entre las preguntas que puede responder con precisión y las que no puede.

Cómo Funciona en Realidad: La Temperatura y el Muestreo

Más allá de la predicción simple de la siguiente palabra, hay una perilla llamada temperatura que controla qué tan “creativa” o “aleatoria” es la salida del modelo.

A temperatura baja (cerca de 0), el modelo casi siempre escoge la siguiente palabra con mayor probabilidad. La salida es predecible, repetitiva y segura. Pídele que complete “El cielo es…” a temperatura baja y obtendrás “azul” cada vez.

A temperatura alta (cerca de 1 o mayor), el modelo muestrea más ampliamente de la distribución de probabilidad — a veces escoge palabras de menor probabilidad. La salida se vuelve más variada y sorprendente. A veces más creativa. A veces sin sentido.

Por eso los asistentes de escritura de IA tienen configuraciones como “más creativo” vs. “más preciso.” Literalmente están ajustando el parámetro de temperatura.

Ninguno de esto implica pensamiento. Son distribuciones de probabilidad y estrategias de muestreo aplicadas a un conjunto enorme de pesos aprendidos.

Por Qué los Niños Deben Saber Esto Hoy

Un estudio de 2023 en Computers & Education encontró que los estudiantes que entendían cómo los modelos de lenguaje generan texto eran significativamente más propensos a verificar el contenido generado por IA antes de usarlo académicamente, en comparación con estudiantes que no tenían ese modelo mental. Entender el mecanismo cambió el comportamiento.

Esto importa más allá de la honestidad académica. Un niño que sabe que la IA predice la siguiente palabra — no recupera hechos — es un niño que hace mejores preguntas, detecta errores más rápido, y usa los resultados de IA como borradores en lugar de respuestas finales.

Para los niños más grandes, esto también abre una ventana a las carreras. La ingeniería de prompts — el arte de formular entradas que produzcan resultados útiles de manera confiable — está parcialmente fundamentada en entender cómo funcionan el muestreo y los mecanismos de atención. Es una habilidad real. Y empieza con entender que estás guiando una máquina de predicción estadística, no preguntándole a una entidad con conocimiento.

Cómo Enseñarle Esto a Tu Hijo

Para 5 a 8 años: El Juego de Completar Oraciones

Escribe fragmentos de oraciones en tiras de papel y pide a tu hijo que los complete de tantas maneras diferentes como pueda. “El perro corrió hacia el/la…” — ¿jardín? ¿parque? ¿luna? Luego escoge la respuesta más común entre 10 tiras. Explica: “Esa respuesta más común es la que una computadora escogería si ajustas la perilla a ‘seguro’. Una respuesta graciosa o sorprendente es lo que escoge si la ajustas a ‘creativo’.”

Esto da a los niños una intuición física para la temperatura antes de que toquen una computadora.

Para 9 a 12 años: Compara Configuraciones de Creatividad

La mayoría de los chatbots de IA no exponen la temperatura directamente, pero puedes simularlo. Haz la misma pregunta creativa tres veces seguidas: “Escríbeme una historia de una oración sobre un robot.” Compara las tres respuestas. Algunas serán similares; otras divergirán. Luego haz la misma pregunta factual tres veces: “¿A qué temperatura hierve el agua?” Las respuestas deben ser casi idénticas — porque el token de alta probabilidad es “100 grados Celsius” y el modelo casi siempre lo escoge.

El contraste ilustra cómo el mismo sistema maneja tareas creativas vs. factuales de manera diferente — y por qué las salidas creativas varían mientras las factuales son más consistentes.

Para 13 años en adelante: Lee Sobre Estrategias de Muestreo

El paper del transformer original (Vaswani et al., 2017) y el paper de GPT-3 (Brown et al., 2020) están disponibles gratis y son sorprendentemente legibles en sus secciones introductorias. Para un adolescente, la serie gratuita Neural Networks: Zero to Hero de Andrej Karpathy cubre la construcción de un modelo de lenguaje a nivel de caracteres desde cero en Python. Ver el texto generarse un carácter a la vez hace que la predicción del siguiente token sea visceralmente clara.

Temperatura y Comportamiento de Salida

Configuración de Temperatura	Comportamiento de Salida	Mejor para	Desventaja
Muy baja (0–0.2)	Casi determinística, siempre escoge la top	Preguntas factuales, código, datos estructurados	Tono repetitivo y robótico
Baja-media (0.3–0.6)	Mayormente predecible, ligera variación	Resúmenes, escritura formal	Creatividad limitada
Media (0.7–0.9)	Variación equilibrada, conversacional	Escritura general, chat, lluvia de ideas	Ocasionalmente fuera de contexto
Alta (1.0–1.2)	Alta variedad, salidas sorpresivas	Escritura creativa, poesía, ideación	Puede volverse incoherente
Muy alta (1.5+)	Muy aleatoria, impredecible	Generación experimental	Frecuentemente produce sin sentido

La mayoría de los chatbots comerciales corren alrededor de 0.7–0.9 por defecto — suficientemente equilibrados para ser naturales, suficientemente limitados para mantenerse coherentes.

Ejemplos del Día a Día de Tu Hijo

Autocompletar en Gmail o correo — “Smart Compose” termina tus oraciones mientras escribes. Es un modelo de lenguaje más pequeño y rápido haciendo exactamente predicción del siguiente token.

GitHub Copilot — usado por desarrolladores profesionales para autocompletar código. Mismo mecanismo: dado el código escrito hasta ahora, ¿qué línea viene probablemente después?

Herramientas de retroalimentación de ensayos con IA — cuando una herramienta de IA da retroalimentación sobre el ensayo de un estudiante, está prediciendo qué texto de retroalimentación suele seguir a un ensayo como este. Esa retroalimentación es estadísticamente plausible — podría ser genuinamente útil, o podría ser ruido genérico que suena como retroalimentación.

Asistentes de voz — cuando Siri o el Asistente de Google responde a una pregunta, a menudo hay un modelo de lenguaje generando el texto de respuesta (separado del reconocimiento de voz). Mismo mecanismo de predicción.

Qué Observar en 3 Meses

Mes 1: ¿Tu hijo entiende que ChatGPT genera texto palabra por palabra? La prueba más simple: pregúntale “¿Cómo decide la IA qué palabra escribir después?” Si dice algo como “escoge la palabra más probable basándose en todo lo anterior,” el concepto central está ahí.

Mes 2: Al usar IA para la escuela, ¿tu hijo trata el resultado como un primer borrador que requiere verificación en lugar de una respuesta final? El cambio de comportamiento — de copiar-pegar a leer-y-verificar — es el verdadero beneficio de este entendimiento.

Mes 3: ¿Puede tu hijo explicar por qué la IA a veces da respuestas diferentes a la misma pregunta? “Porque está muestreando de una distribución de probabilidad — hay aleatoriedad incorporada” es la respuesta precisa.

Preguntas Frecuentes

¿ChatGPT es solo autocompletar? Parece demasiado simple.

Es una versión mucho más compleja de autocompletar — la escala es enorme y la arquitectura (mecanismos de atención transformer) es sofisticada. Pero sí, la operación fundamental es la predicción del siguiente token. Llamarla “solo autocompletar” subestima la ingeniería; llamarla “pensar” o “entender” exagera lo que está pasando.

¿Por qué ChatGPT suena tan seguro incluso cuando se equivoca?

Porque la confianza es un patrón estilístico en sus datos de entrenamiento. La mayoría del texto autoritativo está escrito con confianza. El modelo aprendió que el tono seguro predice bien — aparece frecuentemente en escritura correcta y útil. Así que aplica ese tono independientemente de si la predicción subyacente es precisa.

¿La IA genera texto en español igual de bien que en inglés?

Generalmente no — porque la mayoría de los grandes modelos de lenguaje fueron entrenados en conjuntos de datos predominantemente en inglés. El español está bien representado (es el cuarto idioma más común en internet), pero es menos común que el inglés. Esto puede afectar la calidad de los resultados en español, especialmente para temas muy específicos o regionalismos latinoamericanos.

¿Debería preocuparme por las habilidades de escritura de mi hijo si usa IA?

La investigación es genuinamente mixta. Un estudio de 2024 en Educational Psychology Review encontró que estudiantes que usaron IA para hacer borradores pero los revisaron y reescribieron mostraron un desarrollo de habilidades similar a quienes no usaron IA. Los estudiantes que usaron IA como sustituto sin involucrarse con el resultado mostraron habilidades de escritura degradadas. La diferencia está en si el niño está pensando o simplemente aceptando.

¿El modelo lee mi pregunta toda a la vez o palabra por palabra?

Procesa el prompt completo (ventana de contexto) a la vez usando mecanismos de atención — no lo lee de izquierda a derecha secuencialmente como los humanos. Pero genera la respuesta un token a la vez, de izquierda a derecha. Así que procesar tu entrada es paralelo; generar la salida es secuencial.

---

Sobre el autor Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). “Attention Is All You Need.” Advances in NeurIPS, 30. https://arxiv.org/abs/1706.03762
2. Brown, T., et al. (2020). “Language Models are Few-Shot Learners.” Advances in NeurIPS, 33. https://arxiv.org/abs/2005.14165
3. Bender, E. M., et al. (2021). “On the Dangers of Stochastic Parrots.” FAccT 2021. https://dl.acm.org/doi/10.1145/3442188.3445922
4. Ouyang, L., et al. (2022). “Training Language Models to Follow Instructions with Human Feedback.” NeurIPS 35. https://arxiv.org/abs/2203.02155
5. National Education Association. (2025). AI in Schools: Guidance for Educators and Families. https://www.nea.org/professional-excellence/student-engagement/tools-tips/artificial-intelligence-schools
6. Holzinger, A., et al. (2022). “Explainable AI Methods.” Proceedings of AI+X Symposium. https://doi.org/10.1007/978-3-031-04083-2_16