Tabla de contenido
Destilación de modelos: por qué los laboratorios la vigilan
Destilación de modelos explicada: Claude Fable 5 desvía los pedidos de destilación a otro modelo. Qué es, por qué la bloquean y cómo explicárselo a tu hijo.
La destilación de modelos es una técnica para entrenar un modelo pequeño que imite a uno grande, transfiriendo la mayor parte de la capacidad a algo mucho más barato de operar. Es una de las ideas más útiles del aprendizaje automático. También es, según la propia documentación de Anthropic, una de tres categorías de pedido lo bastante serias como para que Claude Fable 5 las desvíe a otro modelo en lugar de responderlas.
Las otras dos categorías son ciberseguridad y biología/química. La destilación está en esa lista al lado del riesgo de armas biológicas. Entender por qué es una lección corta y genuinamente interesante sobre cómo funciona la industria de la IA, y resulta ser un vehículo perfecto para enseñarle a un chico la diferencia entre aprender de alguien y copiarle.
Puntos clave
- La destilación entrena a un “estudiante” con las salidas de un “maestro”. El artículo de Hinton, Vinyals y Dean de 2015 mostró que se puede “comprimir el conocimiento de un ensamble en un solo modelo mucho más fácil de desplegar”.
- El anuncio de Anthropic del 9 de junio de 2026 dice que cuando los clasificadores de Fable 5 detectan un pedido relacionado con ciberseguridad, biología y química, o destilación, la respuesta la maneja automáticamente un modelo más restringido. Más del 95% de las sesiones de Fable no involucran ningún desvío.
- La razón por la que los laboratorios se cuidan es comercial: entrenar un modelo de frontera cuesta sumas enormes, y destilarlo puede reproducir buena parte de su comportamiento por una fracción de eso.
- La destilación usada legítimamente está en todas partes y es lo que vuelve asequible la IA. Los niveles pequeños y rápidos que la escuela de tu hijo puede pagar existen en parte gracias a ella.
- El encuadre didáctico que funciona: aprender de un maestro te vuelve capaz de hacer cosas nuevas; copiar las respuestas de un maestro te vuelve capaz de reproducir las viejas. La destilación está en algún punto intermedio.
Qué hace la destilación en realidad
Empecemos por la idea original. El artículo de 2015 de Geoffrey Hinton, Oriol Vinyals y Jeff Dean, “Distilling the Knowledge in a Neural Network”, describe una técnica de compresión: tomar un ensamble de redes neuronales grandes que funciona bien pero es caro de operar, y transferir lo que sabe a un solo modelo más chico que sí sea práctico. Su afirmación, dicha sin vueltas: “es posible comprimir el conocimiento de un ensamble en un solo modelo mucho más fácil de desplegar”. Lo validaron en MNIST y mostraron mejoras significativas en modelos acústicos de un sistema comercial.
El mecanismo es más interesante que “copiar las respuestas”. Cuando un clasificador mira la foto de un perro, no solo produce “perro”. Produce una probabilidad para cada categoría: 0,90 perro, 0,06 lobo, 0,03 gato, 0,001 camión. Esa distribución completa contiene información que la etiqueta sola no tiene. Dice que un perro se parece algo a un lobo y casi nada a un camión.
Esas probabilidades son los objetivos suaves, y entrenar a un estudiante con ellas transfiere más que entrenarlo con etiquetas duras. El estudiante aprende el sentido del maestro sobre qué se parece a qué, no solo sus respuestas finales.
Para modelos de lenguaje la misma idea aplica a las predicciones del siguiente token, y en la práctica mucha destilación moderna es más simple: generar muchísimas salidas de un modelo fuerte y después afinar un modelo más chico con esas salidas. Más barato, más tosco y efectivo.
Por qué los laboratorios la tratan como categoría de riesgo
Esta es la realidad comercial. Entrenar un modelo de frontera requiere cómputo enorme, trabajo de datos y evaluación de seguridad. El modelo resultante es el producto. Si un competidor puede consultarlo a precio de API, juntar unos millones de salidas de alta calidad y afinar un modelo más chico con ellas, adquirió buena parte de esa capacidad por una fracción minúscula del costo original.
Esa es la preocupación, y por eso el anuncio de Anthropic del 9 de junio de 2026 sobre Fable 5 y Mythos 5 nombra la destilación junto a ciberseguridad y bio/química. El mecanismo declarado: “Cuando los clasificadores de Fable detectan un pedido relacionado con ciberseguridad, biología y química, o destilación, la respuesta la maneja automáticamente Claude Opus 4.8”.
Dos detalles vuelven ese diseño interesante. Primero, es un desvío y no un rechazo: el pedido igual se responde, con otro modelo, y al usuario se le avisa. Segundo, la frecuencia reportada es baja, con más del 95% de las sesiones sin ningún desvío. Es un filtro angosto, no una restricción general.
El mismo anuncio describe a Mythos 5 como el mismo modelo subyacente con salvaguardas levantadas en esas áreas, de acceso restringido y desplegado inicialmente a través del Proyecto Glasswing con el gobierno de Estados Unidos.
Los términos de servicio de casi todos los laboratorios grandes también prohíben usar sus salidas para entrenar modelos competidores. Si eso es aplicable en toda jurisdicción es una pregunta legal genuinamente abierta, y prefiero señalar la incertidumbre antes que fingir lo contrario.
Vale decirlo con claridad: la destilación no es ilegal ni poco ética en sí misma. Es una técnica estándar, publicada y ampliamente usada. A lo que los laboratorios se oponen es específicamente a usar su modelo como maestro no pagado para un producto competidor.
Por qué la destilación también es la razón de que la IA sea asequible
Ahora el otro lado, que es la parte que más importa para las familias.
Cada nivel barato y rápido de modelo que de verdad puedes pagar existe en parte gracias a la destilación y a técnicas de compresión relacionadas. El patrón de toda la industria es un modelo grande y caro más variantes chicas y baratas que capturan buena parte de su capacidad. Mira el precio publicado: Claude Haiku 4.5 a 1 dólar por millón de tokens de entrada contra Claude Fable 5.1 a 10. Diez veces de diferencia, y el nivel barato es genuinamente útil para casi toda la tarea escolar.
Tres consecuencias concretas:
Las escuelas pueden pagar IA. Una secretaría que evalúa una herramienta para decenas de miles de estudiantes está eligiendo entre niveles, y el nivel asequible es el que vuelve posible el despliegue.
Existe la IA en el dispositivo. Un modelo lo bastante chico para correr en un celular sin conexión se volvió chico por compresión. El resumen de Google de agosto de 2026 describe Gemini Nano corriendo en el chip Tensor G6 del Pixel 11.
Los modelos abiertos mejoran. La familia Gemma de Google pasó los mil millones de descargas y corre en entornos “desde teléfonos e infraestructura de borde hasta el espacio”, según el mismo resumen. Lo que puedes hacer legalmente con esos pesos lo fijan los Términos de Uso de Gemma.
Así que el encuadre honesto para un chico no es “la destilación es robar”. Es que la misma técnica es infraestructura fundamental cuando un laboratorio la aplica a su propio modelo y una amenaza competitiva cuando alguien la aplica al de un rival.
¿Y en América Latina?
El ángulo regional aquí es el acceso, y es más importante de lo que parece. Los modelos destilados y comprimidos son los que caben en un celular de gama media, funcionan sin conexión estable y cuestan una fracción por token. Eso no es un detalle para una escuela rural en Perú o una secundaria en el interior de Colombia: es la diferencia entre tener herramienta y no tenerla.
Los modelos abiertos y chicos son la puerta concreta. Gemma corre en hardware modesto y sus pesos se pueden descargar, lo que significa que un grupo universitario en la UNAM, la Universidad de Chile o la PUCP puede afinar un modelo para materiales curriculares locales sin pagarle a nadie por consulta. Esa es una capacidad real y disponible hoy, y depende directamente de la compresión.
Hay también una lección de honestidad intelectual que conecta con la escuela. La distinción entre aprender de alguien y copiarle es exactamente la conversación sobre plagio que todo colegio de la región está teniendo ahora. Que los laboratorios de IA más grandes del mundo estén discutiendo la misma frontera, con clasificadores y abogados, es una forma menos moralista de abrir el tema con un adolescente que el sermón habitual.
Cómo enseñarle esto a tu hijo
Esto se mapea sobre algo que todo chico ya tiene opinión: copiar la tarea contra aprender de una buena explicación.
De 5 a 8 años: el juego de la adivinanza con dudas
Muéstrale una foto borrosa o parcialmente tapada de un animal. Pregúntale no solo “¿qué es?” sino “¿qué tan seguro estás y qué más podría ser?”. Va a decir algo como “un perro, pero quizá un lobo, definitivamente no un pájaro”. Señálale que la segunda respuesta te enseñó más. Después dile: “Los ayudantes grandes de computadora también dicen sus respuestas así, con sus ‘quizá’, y los ayudantes chicos aprenden más rápido cuando el grande comparte los ‘quizá’ en vez de solo la respuesta”. Eso son los objetivos suaves, explicados a alguien de seis años.
De 9 a 12 años: enseñarle a un hermano de dos formas
Que tu hijo le enseñe a un hermano menor o a un amigo algo que sabe, dos veces, de dos maneras. Primera: darle las respuestas a diez preguntas para memorizar. Segunda: explicarle por qué las respuestas son las que son, incluidas cuáles respuestas equivocadas están cerca y cuáles son absurdas. Después evalúa al que aprendió con una pregunta nueva, que no vio. El segundo método se transfiere; el primero no. Ahora ponle nombre: “La segunda forma es lo que hace funcionar la destilación, y también es por qué copiar la tarea no te ayuda en el examen”.
De 13 en adelante: leer la decisión del clasificador
Que tu hijo lea el anuncio de Fable 5 de Anthropic y responda tres preguntas por escrito: ¿cuáles son las tres categorías que disparan un desvío?, ¿por qué una empresa pondría la destilación en la misma lista que bio/química y ciberseguridad?, ¿qué te dice que el desvío sea a otro modelo y no un rechazo? No hay una sola respuesta correcta para la segunda, y el argumento es el ejercicio. Extra: que encuentre el porcentaje reportado de sesiones sin desvío y piense qué busca comunicar ese número.
La pregunta que debes hacer: “¿Cuál es la diferencia entre aprender de un maestro y copiar sus respuestas? ¿Una computadora puede notarlo?”
De maestro a estudiante: qué se transfiere y qué no
| Aspecto | Modelo maestro | Modelo estudiante | Qué se transfiere |
|---|---|---|---|
| Tamaño | Muy grande; caro de operar | Mucho más chico; barato y rápido | El tamaño no, obviamente |
| Costo de entrenamiento | Enorme: cómputo, datos, evaluación de seguridad | Una fracción del maestro | Solo el comportamiento, no la inversión |
| De qué aprendió | Datos crudos a escala | Salidas del maestro, incluidas distribuciones de probabilidad | Los “objetivos suaves” de Hinton et al. llevan la estructura de similitud |
| Techo de capacidad | Fija el techo | Generalmente en el techo o por debajo | Los estudiantes rara vez superan al maestro en lo destilado |
| Situaciones nuevas | Maneja entradas desconocidas desde entrenamiento amplio | Más débil donde las salidas del maestro no llegaron | Los huecos de cobertura se vuelven huecos del estudiante |
| Uso legítimo | El laboratorio destila su propio modelo en niveles baratos | Productos tipo Flash, Haiku, Nano | Todos ganan: IA más barata |
| Uso disputado | Un competidor lo consulta para construir un rival | Un clon barato del trabajo ajeno | A esto apuntan los clasificadores y los términos de servicio |
La fila que más importa para el entendimiento de un chico es la quinta. Un estudiante destilado hereda huecos. Es bueno donde las salidas del maestro cubrieron el terreno y más débil en los rincones que nadie muestreó, que es exactamente lo que le pasa a un estudiante que estudia de un solucionario en vez del material.
Qué hacer en casa
Usa el encuadre de copiar contra aprender
La distinción entre memorizar respuestas y entender por qué son correctas es el concepto académico más útil que un chico puede sostener, y la destilación te da una forma fresca de hablarlo que no es un sermón sobre hacer trampa.
Señala qué nivel está usando tu hijo
Los niveles baratos suelen ser versiones destiladas o comprimidas de modelos más grandes. Saberlo explica por qué el rápido a veces se pierde algo que el lento atrapa, y le da a tu hijo una razón real para cambiar de nivel a propósito. Nuestra guía sobre la mezcla de expertos en IA cubre la otra mitad de por qué los niveles baratos son baratos.
Pregunta qué pasa cuando el estudiante llega a un hueco
Un modelo destilado es más débil fuera del terreno que cubrieron las salidas de su maestro. Cuando un modelo barato falla con confianza en una pregunta inusual, suele ser un hueco de cobertura, y reconocerlo es más útil que concluir “la IA es tonta”.
Nota quién está en la lista
Cuando una empresa publica qué vigilan sus clasificadores, esa lista te dice qué considera un riesgo real. Ciberseguridad, bio/química y destilación es un conjunto revelador: dos preocupaciones de seguridad y una comercial, tratadas con la misma maquinaria. Eso merece la atención de un adolescente, y se conecta con cómo funcionan los clasificadores de seguridad.
Lo que no debes hacer
No enseñes que la destilación es hacer trampa. Es una técnica publicada por Hinton, Vinyals y Dean, la usa cada laboratorio grande sobre sus propios modelos, y es la razón de que una escuela pueda pagar una herramienta de IA. La versión disputada es angosta: usar el modelo de un competidor como maestro no pagado. Mezclar las dos le enseña a un chico algo falso sobre cómo funciona el campo.
Qué observar en los próximos 3 meses
- Semana 4: tu hijo puede explicar modelo maestro y modelo estudiante en una oración cada uno, y sabe que el nivel barato que usa probablemente es una versión comprimida de algo más grande.
- Señales de alerta en el mes 2: cree que la destilación significa que el modelo chico es una copia sin pérdidas. O concluye que todas las empresas de IA se roban entre sí.
- Autoevaluación del mes 3: pregúntale por qué una empresa trataría la destilación con la misma seriedad que la ciberseguridad. Una respuesta razonada sobre costo de entrenamiento y competencia significa que lo entendió.
Preguntas frecuentes
¿Qué es la destilación de modelos en términos simples?
Entrenar un modelo pequeño para que imite a uno grande, de modo que la mayor parte de la capacidad se transfiera a algo mucho más barato de operar. Hinton, Vinyals y Dean presentaron la versión moderna en 2015, mostrando que el conocimiento de un ensamble de redes grandes se puede comprimir en un solo modelo desplegable.
¿Por qué Claude desvía los pedidos de destilación a otro modelo?
Según el anuncio de Anthropic del 9 de junio de 2026, cuando los clasificadores de Fable 5 detectan un pedido relacionado con ciberseguridad, biología y química, o destilación, la respuesta la maneja un modelo más restringido, y se le avisa al usuario. La empresa reporta que más del 95% de las sesiones de Fable no involucran desvío.
¿La destilación es ilegal?
La técnica en sí es un método publicado y estándar usado en toda la industria. Lo disputado es usar las salidas de un proveedor específico para entrenar un modelo competidor, que casi todos los términos de servicio prohíben. Si esos términos son aplicables en todas partes es una pregunta legal abierta.
¿El modelo chico termina siendo tan bueno como el grande?
Normalmente cerca en las tareas para las que se destiló, y más débil en el resto. Un estudiante hereda la cobertura de su maestro: fuerte donde se muestrearon las salidas del maestro, más débil en los rincones que nadie cubrió. Por eso los niveles baratos se sienten irregulares en preguntas inusuales.
¿A mi hijo le tiene que importar algo de esto?
El mecanismo es una lección limpia sobre qué se transfiere cuando aprendes de alguien contra cuando le copias. Y en lo práctico, saber que los niveles baratos son versiones comprimidas de modelos más grandes explica su comportamiento irregular mejor que “es el malo”.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Hinton, G., Vinyals, O., y Dean, J. (2015). “Distilling the Knowledge in a Neural Network.” arXiv:1503.02531. https://arxiv.org/abs/1503.02531
- Anthropic. (2026, 9 de junio). “Claude Fable 5 and Claude Mythos 5.” https://www.anthropic.com/news/claude-fable-5-mythos-5
- Anthropic. (2026). “Pricing.” Claude Platform Documentation. https://platform.claude.com/docs/en/about-claude/pricing
- Google. (2026, agosto). “Google AI updates, August 2026.” The Keyword. https://blog.google/innovation-and-ai/technology/google-ai-updates-august-2026/
- Shazeer, N., Mirhoseini, A., Maziarz, K., et al. (2017). “Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer.” arXiv:1701.06538. https://arxiv.org/abs/1701.06538
- Google AI. “Gemma Terms of Use.” https://ai.google.dev/gemma/terms
- MarkTechPost. (2026, 1 de septiembre). “Anthropic releases Claude Fable 5.1 and Claude Mythos 5.1.” https://www.marktechpost.com/2026/09/01/anthropic-releases-claude-fable-5-1-and-claude-mythos-5-1-52-6-on-terminal-bench-science-and-75-cheaper-cache-reads/
