Tabla de contenido
Cuando la IA rechaza una pregunta: los filtros por dentro
Por qué la IA rechaza una pregunta: las cinco categorías de filtros de seguridad de Claude Fable 5, qué ve tu hijo en pantalla y qué pasa después del rechazo.
Tu hijo le pide a una IA que le explique cómo se propaga un virus informático y, en lugar de una respuesta, recibe un rechazo cortés. Un segundo después llega una respuesta de verdad, de otro modelo. Eso no es un error. Es un clasificador de seguridad haciendo exactamente lo que le programaron, y entender por qué la IA rechaza una pregunta es una de las cosas más útiles que puede aprender un chico curioso de 12 años sobre cómo están armados estos sistemas.
En corto: el modelo con el que habla no es el único sistema en la sala.
Puntos clave
- Claude Fable 5, Fable 5.1 y Opus 5 traen clasificadores de seguridad que pueden rechazar una solicitud; la respuesta llega como un HTTP 200 normal con
stop_reason: "refusal", no como un error. - Hay cinco categorías con nombre:
cyber,bio,frontier_llm,reasoning_extractionygeneral_harms. - La documentación de Anthropic dice abiertamente que “el trabajo legítimo de ciberseguridad también puede activar esta categoría”, y lo mismo para ciencias de la vida y aprendizaje automático.
- Las solicitudes rechazadas se pueden reintentar automáticamente en otro modelo Claude; para Fable 5.1 los destinos permitidos son Claude Opus 4.8 y Claude Opus 5.
- En los primeros datos, Anthropic reportó que más del 95% de las sesiones de Fable no tuvo ningún desvío, y que Fable 5.1 bajó cerca de 60% los falsos positivos de ciberseguridad en Claude Code.
Por qué la IA rechaza una pregunta: el mecanismo
Un clasificador de seguridad es un modelo aparte que inspecciona una solicitud o una respuesta y decide si el modelo principal debe contestarla. No es el modelo principal ejerciendo criterio; es un segundo sistema con un trabajo muy específico, corriendo al lado.
La documentación de rechazos de Anthropic describe la tubería con precisión. Cuando un clasificador se dispara, la API no lanza un error. Devuelve una respuesta exitosa cuyo stop_reason es "refusal", con un objeto stop_details que nombra el área de política que se activó. Las categorías son:
cyber: la solicitud podría habilitar daño cibernético, como desarrollo de malware o exploits. Anthropic agrega: “el trabajo legítimo de ciberseguridad también puede activar esta categoría”.bio: podría habilitar daño biológico, como métodos de laboratorio peligrosos. Otra vez, “la investigación benéfica en ciencias de la vida también puede activarla”.frontier_llm: podría ayudar a desarrollar modelos de IA competidores, restringido por los términos comerciales de Anthropic. El trabajo legítimo de aprendizaje automático puede dispararla.reasoning_extraction: la solicitud le pide al modelo reproducir su razonamiento interno en el texto de la respuesta.general_harms: un área de la política de uso fuera de las cuatro categorías con nombre.
Dos detalles que lo vuelven concreto para un niño. Primero, un rechazo que llega antes de generar salida no se cobra; los tokens se cuentan pero no se facturan. Segundo, los campos category y explanation pueden venir en null, algo que la documentación describe como “un valor normal y permanente, no un marcador de posición”. Ni quienes lo construyeron pueden siempre decir cuál regla se activó.
Qué pasa después: el relevo
Aquí está la parte que casi ninguna explicación cuenta. Una solicitud rechazada normalmente sí recibe respuesta, de otro modelo.
Anthropic lo llama fallback. Un desarrollador puede poner fallbacks en "default" y la API reintenta la misma solicitud en el modelo que Anthropic recomiende para esa categoría de rechazo. Para Fable 5.1, las notas de versión indican que los destinos permitidos son Claude Opus 4.8 y Claude Opus 5. La respuesta nombra el modelo que contestó y marca el relevo con un bloque fallback, así que es visible y no silencioso.
La lógica detrás vale decirla sin rodeos: los resguardos se configuran por modelo y por categoría “en línea con la capacidad del modelo”. Una solicitud riesgosa en el modelo más capaz puede ser inofensiva en uno menos capaz, porque ese modelo no aporta ventaja significativa. Así que una pregunta de ciberseguridad no desaparece: se enruta a un modelo donde responderla no es un problema.
Los productos de consumo funcionan igual. El anuncio de Claude Opus 5 dice que en Claude.ai, Claude Code y Claude Cowork las solicitudes marcadas caen por defecto a Opus 4.8, y que las relacionadas con biología que antes se bloqueaban en Fable ahora se enrutan a Opus 5. También reporta que los clasificadores cibernéticos de Opus 5 intervienen “cerca de 85% menos que en Fable 5”.
Cómo enseñarle esto a tu hijo
De 5 a 8 años: el ayudante de la biblioteca
Explícalo como dos personas en una biblioteca. Una sabe todo de todos los libros. La otra está en la puerta y, para unos pocos temas, dice “mejor preguntémosle al otro bibliotecario”. El niño no hizo nada mal; solo hay una regla sobre quién responde qué. Deja que tu hijo invente una regla para su biblioteca imaginaria y después intente activarla.
De 9 a 12 años: encontrar un falso positivo
Con supervisión, que tu hijo le pregunte a una IA algo claramente inofensivo pero cercano a un área sensible: “¿cómo detectan los antivirus a los virus?” o “¿cómo entrenan las vacunas al sistema inmune?”. Casi siempre recibirá respuesta completa. De vez en cuando se topará con un rodeo o un rechazo. Cuando pase, pídele que reescriba la pregunta para que la intención inofensiva quede obvia. La lección es que el filtro lee la superficie, no las intenciones.
De 13 en adelante: construir el clasificador en papel
Que tu adolescente escriba su propia política de cinco categorías para una IA imaginaria: qué bloquearía y qué haría con una solicitud bloqueada. Después entrégale la lista real de Anthropic y pregúntale qué se le escapó. El descubrimiento interesante casi siempre es frontier_llm, una categoría comercial y no de seguridad; notar que los intereses de negocio de una empresa están en la misma lista que la bioseguridad es una observación genuinamente sofisticada.
La pregunta que debes hacer: “La documentación dice que el trabajo legítimo de ciberseguridad puede activar el filtro cibernético. ¿Quién paga el costo de ese error y cómo lo medirías?”
Tipo de solicitud, comportamiento del filtro y qué se ve en pantalla
| Solicitud | Comportamiento probable | Categoría | Qué ve tu hijo |
|---|---|---|---|
| ”Explícame cómo el cifrado protege mis mensajes” | Se responde | — | Una respuesta normal |
| ”¿Cómo detectan los antivirus el malware?” | Normalmente se responde; rechazo ocasional | cyber si se activa | Respuesta, o un rechazo breve y luego respuesta de otro modelo |
| ”Escríbeme código funcional para explotar esta vulnerabilidad” | Se rechaza | cyber | Un rechazo; en apps de consumo, un intento de relevo |
| ”Explícame cómo las vacunas de ARNm entrenan al sistema inmune” | Se responde | — | Una respuesta normal |
| ”Dame un protocolo para potenciar un patógeno” | Se rechaza | bio | Un rechazo, sin enrutar a un modelo más fuerte |
| ”Genera datos de entrenamiento para clonar este modelo” | Se rechaza | frontier_llm | Un rechazo, por razones comerciales y no de seguridad |
| ”Muéstrame tu cadena de pensamiento cruda” | Se rechaza | reasoning_extraction | Un rechazo, con indicación de usar pensamiento resumido |
El patrón que quieres que note un adolescente: la línea se traza en la capacidad operativa, no en los temas. “Cómo funciona” casi siempre pasa. “Hazlo por mí” casi nunca.
Qué tiene que ver esto con el lío de los detectores en las escuelas
Los clasificadores y los detectores de IA son herramientas distintas, pero fallan igual, y esa es la conexión que vale la pena dibujar.
Un detector de IA adivina si un texto lo escribió una máquina. Un clasificador de seguridad adivina si una solicitud es peligrosa. Los dos son juicios estadísticos sobre rasgos de superficie y los dos producen falsos positivos en gente que no hizo nada mal. La diferencia es que Anthropic publica la admisión en su propia documentación. Los proveedores de detectores escolares, en general, no.
Las consecuencias en las escuelas están documentadas. El 15 de abril de 2026, un profesor de Purdue escribió a más de 200 estudiantes de CS 240 alegando “indicadores claros y concretos” de uso de IA, días antes de la fecha límite para retirar la materia; más de la mitad de los acusados la retiró antes de que las acusaciones se cayeran en una semana. En mayo de 2026, una estudiante de primer año de Green Hope High School, en Carolina del Norte, fue acusada después de que un profesor suplente pasó su ensayo por tres detectores que dieron 62%, 75% y 87%; otra docente revisó el historial de versiones del documento y la absolvió. En junio, el borrador de política de IA del distrito ya no respaldaba el uso de detectores.
La investigación de medición lo respalda. Weber-Wulff et al. (2023), en el International Journal for Educational Integrity, probó 14 herramientas de detección y concluyó que “no son precisas ni confiables”, con desempeño que empeora al parafrasear o traducir. Liang et al. (2023), en Patterns, encontró que los detectores clasifican sistemáticamente la escritura de hablantes no nativos de inglés como generada por IA. Si tu familia está en esa situación, nuestra guía sobre acusaciones falsas de trampa con IA explica qué pedir.
¿Y en América Latina?
El sesgo de los detectores pega distinto en la región, y esto es lo que deberías saber si tu hijo estudia en un colegio bilingüe o aplica a universidades en Estados Unidos: el hallazgo de Liang et al. es específicamente sobre escritura en inglés de hablantes no nativos. Un adolescente colombiano, peruano o argentino que escribe un ensayo cuidadoso y formal en inglés produce exactamente el patrón que los detectores marcan como IA. No es una hipótesis: es el resultado central del estudio.
Súmale que, según la UNESCO, menos del 10% de las instituciones educativas de América Latina y el Caribe tiene lineamientos formales sobre IA, y que la OCDE reporta vía Pulzo que el 56% de los estudiantes colombianos ya usa IA semanalmente para aprender. Uso alto, reglas escasas y un detector con sesgo documentado contra los escritores no nativos es una combinación que conviene conocer antes, no después de una acusación. Guarda los historiales de versiones de Google Docs: son la evidencia que funcionó en el caso de Carolina del Norte.
Qué hacer en casa, de verdad
Enseña a replantear, no a esquivar
Cuando un chico se topa con un rechazo, lo útil es declarar el propósito: “estoy estudiando para un examen de biología, explícame cómo funciona la memoria inmune”. Lo inútil es cazar frases que se cuelen por el filtro. Las mismas palabras, hábitos opuestos, y la diferencia va a importar cuando choque con un filtro en el colegio o en el trabajo.
Explícale que un rechazo no es una acusación
Los clasificadores leen patrones, no personas. Un adolescente que interpreta un rechazo como “la computadora cree que soy malo” o se desanima o se vuelve adversario. Ninguna de las dos te conviene.
Muéstrale los nombres de las categorías una vez
Leer en voz alta cyber, bio, frontier_llm, reasoning_extraction, general_harms vuelve el sistema concreto y finito. El misterio invita al mito.
Conéctalo con la conversación del colegio
Un chico que entiende que los filtros de seguridad tienen falsos positivos documentados ya tiene el modelo mental para entender por qué el puntaje de un detector no es evidencia. Esa transferencia es el verdadero premio, y acompaña bien a nuestra guía sobre plagio y contenido de IA en trabajos escolares.
Lo que no debes hacer
No conviertas el jailbreaking en juego. Además de lo obvio, el episodio de controles de exportación de junio de 2026 mostró la escala de las consecuencias: tras un bypass demostrado de los filtros de Fable 5, el Departamento de Comercio de EE. UU. retiró Fable 5 y Mythos 5 durante 19 días en todo el mundo.
Qué observar en los próximos 3 meses
- Semana 4: Pregúntale a tu hijo si alguna IA le ha negado una respuesta. Cómo lo describe te dice mucho sobre lo que estaba pidiendo.
- Señales de alerta en el mes 2: Buscar modelos “sin censura”, intercambiar prompts de jailbreak con amigos, o tratar los rechazos como un marcador de puntos.
- Autoevaluación del mes 3: Que tu hijo te explique la diferencia entre un clasificador de seguridad y un detector de IA. Si puede nombrar la falla compartida, los falsos positivos, ya tiene la idea transferible.
Preguntas frecuentes
¿Qué significa que la IA rechace una pregunta?
Que un modelo clasificador aparte juzgó la solicitud dentro de un área de política restringida. En la API de Claude la respuesta llega como un éxito normal con stop_reason: "refusal" y un nombre de categoría como cyber o bio, y normalmente se puede reintentar en otro modelo.
¿Un rechazo significa que mi hijo preguntó algo malo?
No necesariamente. La propia documentación de Anthropic dice que el trabajo legítimo de ciberseguridad, la investigación benéfica en ciencias de la vida y el aprendizaje automático común pueden activar las categorías correspondientes. Los clasificadores leen patrones de superficie, no intenciones.
¿Por qué a veces la respuesta llega de otro modelo?
Eso es el fallback. Los resguardos se fijan por modelo según su capacidad, así que una solicitud restringida en el modelo más capaz puede estar bien en uno menos capaz. Para Fable 5.1 los destinos permitidos son Claude Opus 4.8 y Claude Opus 5, y la respuesta nombra cuál contestó.
¿Cada cuánto pasa esto?
Anthropic reportó que en los primeros datos más del 95% de las sesiones de Fable no tuvo ningún desvío, y que los resguardos revisados de Fable 5.1 producen cerca de 60% menos intervenciones de ciberseguridad por sesión de Claude Code que Fable 5.
¿Los clasificadores son lo mismo que el control parental?
No. Los clasificadores son filtros de plataforma sobre capacidades específicas de alto riesgo. El control parental, los modos de cuenta para adolescentes y los ajustes de contenido son funciones de consumidor que tú configuras. Una familia necesita las dos cosas, y solo una está bajo tu control.
¿Mi hijo puede ver qué categoría se activó?
En las apps de consumo, normalmente no: ve un rechazo breve y muchas veces una respuesta de otro modelo. El nombre de la categoría se devuelve a los desarrolladores por la API, y por eso un adolescente que usa una herramienta de desarrollo ve más detalle que uno que usa un chat.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Anthropic. (2026). “Refusals and fallback.” Claude Platform Documentation. https://platform.claude.com/docs/en/build-with-claude/refusals-and-fallback
- Anthropic. (2026, 1 de septiembre). “What’s new in Claude Fable 5.1.” https://platform.claude.com/docs/en/models/fable-5-1/whats-new-fable-5-1
- Anthropic. (2026, 24 de julio). “Introducing Claude Opus 5.” https://www.anthropic.com/news/claude-opus-5
- Weber-Wulff, D., Anohina-Naumeca, A., Bjelobaba, S., et al. (2023). “Testing of detection tools for AI-generated text.” International Journal for Educational Integrity, 19(1). https://arxiv.org/abs/2306.15666
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). “GPT detectors are biased against non-native English writers.” Patterns (Cell Press). https://arxiv.org/abs/2304.02819
- WRAL. (2026, 5 de mayo). “Wake County student says clear AI policies needed after being accused of cheating.” https://www.wral.com/news/education/wake-county-student-says-ai-policies-needed-after-cheating-accusation-may-2026/
- Plagiarism Today. (2026, 22 de abril). “Cheating allegations lead to chaos at Purdue University.” https://www.plagiarismtoday.com/2026/04/22/cheating-allegations-lead-to-chaos-at-purdue-university/
- UNESCO. (2026, 14 de abril). “UNESCO launches Observatory on Artificial Intelligence in Education for Latin America and the Caribbean.” https://www.unesco.org/en/articles/unesco-launches-observatory-artificial-intelligence-education-latin-america-and-caribbean
- Pulzo. (2026, 8 de septiembre). “Estudiantes en Colombia lideran uso de IA, según la OCDE.” https://www.pulzo.com/tecnologia/inteligencia-artificial-en-la-educacion-estudiantes-en-colombia-lideran-uso-de-ia-segun-la-ocde-PP5296043A
