Tabla de contenido
Clasificadores de seguridad: el filtro entre tu hijo y el modelo
Clasificadores de seguridad en IA: Claude Fable 5 desvía los pedidos marcados y el 95% de las sesiones nunca lo activan. Cómo funciona el filtro y qué no cubre.
Los clasificadores de seguridad en IA son modelos aparte, más pequeños, cuyo único trabajo es mirar un pedido o una respuesta y decidir si pertenece a una categoría marcada. No son el modelo que responde la pregunta de tu hijo. Son un segundo sistema al lado de ese, tomando una decisión rápida de sí o no.
El ejemplo mejor documentado ahora mismo es Claude Fable 5. El anuncio de Anthropic del 9 de junio de 2026 lo describe directo: “Cuando los clasificadores de Fable detectan un pedido relacionado con ciberseguridad, biología y química, o destilación, la respuesta la maneja automáticamente Claude Opus 4.8”. No es un rechazo. Es un traspaso, y al usuario se le avisa. Y la frecuencia reportada: más del 95% de las sesiones de Fable no involucran ningún desvío.
Esa arquitectura vale la pena entenderla, porque es lo que está entre tu hijo y todo lo que un modelo grande podría producir en teoría.
Puntos clave
- Los clasificadores de seguridad son modelos aparte, no reglas dentro del modelo principal. Se pueden actualizar de forma independiente y son lo bastante baratos para correr en cada pedido.
- Fable 5 marca tres categorías: ciberseguridad, biología y química, y destilación de modelos. Los pedidos marcados los responde un modelo más restringido, y al usuario se le avisa.
- Menos del 5% de las sesiones de Fable involucran un desvío, según la cifra reportada por Anthropic, así que el filtro es angosto y no una restricción general.
- El mismo modelo subyacente existe sin esas salvaguardas como Mythos 5, restringido a usuarios autorizados a través del Proyecto Glasswing con el gobierno de Estados Unidos.
- Todo clasificador tiene falsos positivos (bloquear pedidos inofensivos) y falsos negativos (dejar pasar los dañinos). Enseñarle a un chico que ambos existen es más útil que enseñarle que el filtro es perfecto o que es inútil.
Cómo funciona un clasificador en realidad
La suposición ingenua es que un modelo revisa sus propias salidas, decidiendo mientras escribe si una oración está bien. No es así como se construyen los sistemas de producción, y por una buena razón: un modelo al que le pides responder y vigilarse a sí mismo tiene un conflicto, y es más fácil convencerlo de saltarse la vigilancia.
Así que la arquitectura los separa. Un clasificador es un modelo distinto, normalmente mucho más chico y rápido, entrenado con ejemplos etiquetados de “esto es de la categoría X” y “esto no”. Corre sobre el pedido, sobre la respuesta o sobre los dos. Su salida no es una respuesta; es un puntaje o una etiqueta.
De ser separado se desprenden tres propiedades:
Se puede actualizar sin reentrenar el modelo principal. Una categoría nueva o un umbral más estricto es un cambio de clasificador, no una corrida de reentrenamiento de meses.
Es barato. Modelo chico, una clasificación, latencia despreciable. O sea que puede correr en cada pedido y no en una muestra.
Se puede evaluar por separado. Puedes medir las tasas de falso positivo y falso negativo de un clasificador contra un conjunto de prueba etiquetado, aparte de qué tan bueno sea el modelo principal. El marco de gestión de riesgos de IA del NIST es la referencia que usan casi todas las organizaciones para estructurar esa evaluación.
La última es la que más importa para un papá. El trabajo de un clasificador es un equilibrio entre dos errores. Pon el umbral agresivo y bloqueas pedidos inofensivos, lo que frustra a usuarios legítimos y le enseña a los chicos a rodear la herramienta. Pon el umbral flojo y pasan pedidos dañinos. No hay un ajuste que elimine los dos, y cualquier empresa que diga lo contrario está exagerando.
El diseño de Fable 5 es una respuesta interesante a ese equilibrio. En lugar de rechazar un pedido marcado, se lo pasa a otro modelo con salvaguardas más estrictas. El usuario recibe una respuesta, solo que de un sistema más conservador. Eso reduce mucho el costo de un falso positivo: una pregunta de tarea de química marcada por error igual se responde.
Qué se marca y qué dicen los números
Las tres categorías nombradas te dicen qué considera Anthropic lo bastante serio para controlar:
Ciberseguridad. Explotación y trabajo cibernético ofensivo. Dado que OpenAI reportó el 21 de julio de 2026 que una combinación de sus modelos hackeó de forma autónoma los sistemas de Hugging Face, según la Associated Press y la cronología de 2026, esta categoría no es hipotética.
Biología y química. Riesgo de doble uso en armas biológicas, la categoría de riesgo catastrófico más discutida en seguridad de IA.
Destilación. Usar el modelo como maestro no pagado para entrenar a un competidor. Comercial más que de seguridad, y tratada con la misma maquinaria, lo cual ya es informativo. Nuestra guía sobre la destilación de modelos lo desglosa.
La cifra del 95% merece atención porque casi todos los reportes de seguridad la omiten. Saber que menos de una sesión de cada veinte activa un desvío te dice que el filtro es angosto. La expectativa realista de un papá debería ser que su hijo casi nunca se lo encuentra, y que cuando pasa es probablemente una pregunta de química o de seguridad formulada de una forma que coincidió con un patrón.
Un diseño relacionado de otra empresa: ChatGPT para adolescentes de OpenAI, anunciado el 18 de agosto de 2026, coloca automáticamente a usuarios de 13 a 17 años, por autodeclaración o predicción de edad, en una cuenta con comportamiento distinto: Modo Estudio, recordatorios responsables de tarea, vinculación parental con horas de silencio, nada de lenguaje romántico ni apodos cariñosos, instrucciones más fuertes contra afirmar sentimientos o conciencia, y notificaciones de seguridad ampliadas sobre trastornos alimentarios.
Qué no pueden hacer los clasificadores
Esta es la sección que más importa, porque es donde los papás se forman expectativas equivocadas.
No entienden la intención. Un clasificador compara patrones de texto. Un chico curioso de 14 años preguntando cómo se propaga un virus y alguien con malas intenciones preguntando lo mismo producen texto parecido. El clasificador ve el texto.
Los falsos positivos son reales y molestos. Un estudiante de química preguntando por velocidades de reacción, un chico del club de seguridad preguntando cómo funciona una clase de vulnerabilidad, un estudiante de biología preguntando por patógenos: todas son marcas plausibles sobre preguntas legítimas. El diseño de desvío de Fable 5 busca justamente suavizar esto, pero la marca igual se dispara.
También existen los falsos negativos. Ningún clasificador atrapa todo. Formulaciones nuevas, pedidos codificados y enfoques de varios pasos que solo se vuelven problemáticos en conjunto se cuelan. La guía de OWASP sobre inyección de prompts señala que las entradas maliciosas “no necesitan ser legibles para una persona”, que es exactamente el problema para un clasificador de texto.
No son controles parentales. Este es el malentendido más grande. Un clasificador de seguridad protege contra categorías de riesgo catastrófico y daño comercial. No filtra por adecuación a la edad, tiempo de pantalla, dependencia emocional ni por si un chico de 12 años debería estar usando esto. Esos son sistemas separados, y algunos ni existen en la herramienta de tu hijo.
¿Y en América Latina?
Hay un tema regional concreto que casi nadie menciona: estos clasificadores están entrenados mayoritariamente con texto en inglés, lo que significa que su desempeño en español no es necesariamente el mismo. Un pedido dañino escrito en español rioplatense con modismos locales puede caer fuera de los patrones que el clasificador vio, y al revés, una pregunta legítima de química escrita en español puede marcarse por razones de traducción. Ninguna de las dos cosas está bien documentada públicamente, y esa falta de documentación es en sí el problema.
Hay también un vacío de política. Mientras Estados Unidos acumula reglas estatales sobre chatbots y menores, en la región recién se están construyendo marcos: la UNESCO lanzó en Santiago su Observatorio de la IA en la Educación para América Latina y el Caribe y México anunció su plan de integración de IA en escuelas. Ninguno especifica todavía qué debe filtrar una herramienta escolar ni qué pasa cuando filtra.
Lo práctico para una familia: no esperes que el clasificador te resuelva la crianza. En la región, la combinación más común es un chico usando un nivel gratuito en un celular compartido, sin cuenta de adolescente configurada, sin controles parentales y con un clasificador que cubre tres categorías que nada tienen que ver con la edad. Nuestra guía de ciberseguridad para niños cubre lo que sí puedes configurar tú.
Cómo enseñarle esto a tu hijo
El concepto es un portero, un salvavidas o un detector de metales. Algo que revisa en la puerta y que no es la cosa que está adentro.
De 5 a 8 años: el revisor de la puerta
Jueguen a que tu hijo solo puede meter ciertos juguetes a una habitación y tú te paras en la puerta revisando. Haz la regla simple (“nada con ruedas”). Te va a probar con un juguete que casi tiene ruedas, y vas a tener que decidir. Cuando te equivoques, señálalo. Dile: “Yo soy el revisor. No soy la habitación. A veces paro algo que estaba bien, y a veces dejo pasar algo que no debía. Las computadoras tienen revisores como yo”. Los errores son la lección, no la regla.
De 9 a 12 años: armar un filtro de spam a mano
Escribe veinte mensajes cortos en papelitos: quince normales y cinco que son estafas obvias. Tu hijo es el clasificador y solo puede mirar las palabras, sin saber quién los mandó. Que los clasifique en “permitir” y “bloquear”. Cuenten sus falsos positivos y falsos negativos. Después agrega tres difíciles (un mensaje real que suena a estafa, una estafa que suena educada) y repitan. Va a descubrir que ningún conjunto de reglas de palabras lleva los dos números a cero. Ese es todo el equilibrio, descubierto en lugar de contado.
De 13 en adelante: encontrar la tasa reportada
Que tu hijo lea el anuncio de Fable 5 de Anthropic y responda cuatro preguntas: ¿qué tres categorías disparan un desvío?, ¿qué le pasa a un pedido marcado?, ¿qué porcentaje de sesiones no involucra desvío?, ¿por qué una empresa publicaría ese porcentaje? Después que lo compare con la página de ChatGPT para adolescentes de OpenAI e identifique cuál de esas protecciones es un clasificador y cuál es una configuración a nivel de cuenta. Esa distinción es genuinamente útil.
La pregunta que debes hacer: “Si un revisor nunca bloquea nada, ¿está haciendo su trabajo? ¿Y si bloquea todo?”
De entrada a veredicto: cómo se resuelve una marca
| Tipo de pedido | Veredicto probable | Qué pasa en Fable 5 | Riesgo de error |
|---|---|---|---|
| ”Ayúdame con mi tarea de álgebra” | Libre | Se responde normal | Ninguno; es más del 95% de las sesiones |
| ”¿Cómo funcionan las vacunas?” | Libre | Se responde normal | Bajo; biología general |
| ”Explica cómo este virus infecta células para mi clase” | Posible marca | Desviado a un modelo más restringido; se avisa | Falso positivo; el estudiante igual recibe respuesta |
| ”¿Cómo encontraría una vulnerabilidad en este código?” | Marca probable | Desviado a un modelo más restringido | Falso positivo para un chico del club de seguridad |
| ”Genera 500.000 respuestas para entrenar un modelo” | Marca probable (destilación) | Desviado a un modelo más restringido | Categoría comercial, no de seguridad |
| Un pedido dañino con formulación inusual | Puede pasar | Lo responde el modelo principal | Falso negativo; ningún clasificador atrapa todo |
| Instrucciones escondidas en un documento pegado | A menudo se pierde | Depende de otras defensas | Otra amenaza; ver inyección de prompts |
La columna de la derecha es la parte honesta. Cada fila tiene un modo de error, y la decisión de desviar en lugar de rechazar busca justamente volver menos dolorosas las filas de falso positivo.
Qué hacer en casa
No trates el clasificador como control parental
Los clasificadores de seguridad cuidan categorías de riesgo catastrófico y comercial. La adecuación a la edad, los límites de tiempo y la dependencia emocional son sistemas separados que tienes que configurar tú.
Espera falsos positivos en tarea real
Las preguntas de química, biología y seguridad se marcan. Si tu hijo se topa con una en tarea legítima, eso es el sistema funcionando como fue diseñado, no tu hijo haciendo algo malo. Dilo en voz alta, porque un adolescente que se siente acusado va a empezar a rodear la herramienta.
Nota cuando la herramienta te avisa que cambió
El diseño de Fable 5 le informa al usuario cuando ocurre un desvío. Cualquier herramienta que cambia de comportamiento en silencio es peor para una familia que una que lo anuncia, porque el aviso es lo que permite tener la conversación.
Pregunta qué filtra la herramienta de la escuela
Los colegios que despliegan IA tomaron decisiones de filtrado, normalmente documentadas en algún lado. “¿Qué categorías bloquea y qué pasa cuando bloquea?” es una pregunta justa.
Lo que no debes hacer
No le digas a tu hijo que el filtro vuelve segura la herramienta. Vuelve más difícil llegar a un conjunto específico de categorías catastróficas y comerciales, con menos del 5% de las sesiones afectadas. Todo lo demás sobre uso seguro, incluido el criterio, la verificación y los límites de tiempo, sigue siendo tuyo y de él. Exagerar lo que hace un clasificador es cómo las familias terminan sin ninguna otra salvaguarda.
Qué observar en los próximos 3 meses
- Semana 4: tu hijo puede explicar que un modelo chico aparte revisa los pedidos, y sabe que el filtro cubre un conjunto angosto de categorías.
- Señales de alerta en el mes 2: concluyó que la herramienta es “segura” porque tiene filtros. O está intentando reformular para esquivar una marca en tarea legítima en lugar de preguntarte a ti.
- Autoevaluación del mes 3: pídele que nombre una cosa contra la que un clasificador de seguridad no protege. Límites de tiempo, adecuación a la edad o precisión serían todas correctas.
Preguntas frecuentes
¿Qué es un clasificador de seguridad de IA?
Un modelo aparte, normalmente más chico, entrenado para decidir si un pedido o una respuesta cae en una categoría marcada. Corre junto al modelo principal en lugar de dentro de él, lo que permite actualizarlo y evaluarlo de forma independiente.
¿Qué marca exactamente Claude Fable 5?
Tres categorías: ciberseguridad, biología y química, y destilación de modelos. Según el anuncio de Anthropic del 9 de junio de 2026, los pedidos marcados los maneja un modelo más restringido, y al usuario se le avisa. La empresa reporta que más del 95% de las sesiones de Fable no involucran ningún desvío.
¿Esto significa que la herramienta de mi hijo es segura?
Significa que un conjunto angosto de categorías de riesgo catastrófico y comercial es más difícil de alcanzar. No dice nada sobre adecuación a la edad, límites de tiempo, dependencia emocional ni precisión factual. Eso necesita configuraciones separadas y crianza separada.
¿Por qué un pedido marcado se desvía en lugar de rechazarse?
Porque los rechazos son caros cuando el clasificador se equivoca. Un estudiante con una pregunta legítima de química que es desviado a un modelo más conservador igual recibe una respuesta. Uno que es rechazado aprende a rodear la herramienta, que es peor para todos.
¿Cuál es la diferencia entre un clasificador y las protecciones de cuenta adolescente?
Un clasificador evalúa pedidos individuales. Las protecciones de cuenta adolescente son configuraciones atadas a quién es el usuario: ChatGPT para adolescentes, anunciado el 18 de agosto de 2026, coloca automáticamente a chicos de 13 a 17 en una cuenta con Modo Estudio, horas de silencio, nada de lenguaje romántico e instrucciones más fuertes contra afirmar sentimientos.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Anthropic. (2026, 9 de junio). “Claude Fable 5 and Claude Mythos 5.” https://www.anthropic.com/news/claude-fable-5-mythos-5
- OpenAI. (2026, 18 de agosto). “ChatGPT for Teens.” https://openai.com/index/chatgpt-for-teens/
- OWASP. “LLM01:2025 Prompt Injection.” OWASP Top 10 for LLM Applications. https://genai.owasp.org/llmrisk/llm01-prompt-injection/
- Wikipedia. “2026 in artificial intelligence.” (Ciberataque autónomo de OpenAI sobre Hugging Face, 21 de julio de 2026, según AP.) https://en.wikipedia.org/wiki/2026_in_artificial_intelligence
- NIST. “AI Risk Management Framework.” https://www.nist.gov/itl/ai-risk-management-framework
- UNESCO. “UNESCO lanza el Observatorio de Inteligencia Artificial en la Educación para América Latina y el Caribe.” https://www.unesco.org/en/articles/unesco-launches-observatory-artificial-intelligence-education-latin-america-and-caribbean
- Common Sense Media. (2026, 18 de agosto). “Teens in the AI Era: Schoolwork and Skills That Matter.” https://www.commonsensemedia.org/research/teens-in-the-ai-era-schoolwork-and-skills-that-matter
