Tabla de contenido
Barreras de seguridad en IA: barrera contra promesa
Las barreras de seguridad en IA se clasifican por quién las hace cumplir. Siete mecanismos reales ordenados, y cómo probar uno con tu hijo esta noche.
Una reja detiene a un niño de dos años. Un letrero que pide no correr, no. A las dos cosas les decimos medidas de seguridad, y solo una funciona cuando nadie está mirando. Entender las barreras de seguridad en IA es hacer exactamente esa clasificación: una barrera es un mecanismo que vuelve algo difícil o imposible, y una promesa es una declaración de intención que se sostiene mientras todo salga como estaba previsto. Casi todo lo que se presenta como función de seguridad en IA cae en la segunda categoría. La diferencia se verifica en unos dos minutos por afirmación, y es lo más útil que un papá puede aprender del tema.
Puntos clave
- Una barrera la hace cumplir algo que no es la intención. La prueba es una sola pregunta: ¿qué impide que esto pase?
- Hay siete mecanismos reales y no son equivalentes. Los permisos que impone la plataforma son fuertes; una instrucción de texto en el prompt del sistema es tan débil que la industria de seguridad trata el romperla como un ataque estándar.
- OWASP ubica la inyección de instrucciones como el riesgo número uno en aplicaciones con LLM, que es una forma formal de decir que las instrucciones no son una frontera de seguridad.
- Las promesas no son inútiles. Una promesa fechada, específica y refutable, como “nada se publica, se envía ni se gasta sin tu aprobación”, tiene valor real, porque un contraejemplo avergüenza a la empresa.
- Versión enseñable: una regla con un mecanismo detrás y una regla que depende de que alguien decida cumplirla son dos tipos distintos de regla. Los niños las separan desde los cinco años.
Los siete mecanismos, ordenados por quién los hace cumplir
Esta es toda la taxonomía, de lo más duro a lo más blando. Cuando leas cualquier afirmación de seguridad, tu trabajo es ubicar en qué fila va.
| Mecanismo | Quién lo hace cumplir | Qué tan difícil es sortearlo | Cómo se ve la evidencia |
|---|---|---|---|
| Límites de permisos de la plataforma | Código fuera del modelo | Muy difícil; la capacidad no existe | La acción falla y queda registrada |
| Banderas por cuenta y filtros de edad | Configuración del servidor | Difícil, salvo que se declare mal la edad | Funciones visiblemente ausentes en cuenta de menor |
| Clasificadores de entrada | Otro modelo que revisa la instrucción | Medio; una redacción adversa funciona a veces | Un rechazo antes de que el modelo responda |
| Clasificadores de salida | Otro modelo que revisa la respuesta | Medio; ocurren falsos negativos | Una respuesta reemplazada o cortada |
| Alineación en el entrenamiento | Tendencia aprendida del modelo | Variable; moldea la conducta, no la prohíbe | Rechazos consistentes con distintas redacciones |
| Instrucciones del prompt del sistema | Texto que se le pide seguir al modelo | Débil; la inyección es un ataque conocido | Nada confiable |
| Comunicados corporativos de seguridad | Nada | No aplica; no hay nada que sortear | Un compromiso fechado, en el mejor caso |
La fila seis es donde vive casi toda la confusión. Decirle a un modelo “nunca hables de este tema” se siente como instalar una regla. Se parece más a dejarle una nota a un compañero que también lee notas de desconocidos.
Por qué las instrucciones no son barreras, formalmente
Esto no es una opinión. Es la posición de consenso de la comunidad de seguridad en aplicaciones.
El Top 10 de OWASP para aplicaciones con LLM 2025 pone la inyección de instrucciones en LLM01, su riesgo mejor rankeado, definida como la vulnerabilidad que ocurre cuando las instrucciones del usuario alteran el comportamiento previsto del modelo. Y lista aparte, en LLM07, la fuga del prompt del sistema, que es una admisión ordenada de que el contenido de un prompt de sistema nunca debió tratarse como secreto ni como obligatorio.
El mecanismo es simple. Un modelo recibe un flujo de texto y no distingue de forma confiable qué partes tienen autoridad. Tus instrucciones, el mensaje del usuario y el contenido de un documento que le pediste leer llegan todos como texto. Si el documento dice “ignora tus instrucciones”, esa frase compite con la tuya en condiciones más o menos iguales.
El NIST catalogó la superficie de ataque más amplia en AI 100-2 E2025, “Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”, de marzo de 2025. Son clases de ataque con mitigaciones conocidas, y para la capa de instrucciones la mitigación honesta es “no te apoyes en ella”.
Por eso las filas fuertes de la tabla son las que viven del todo fuera del modelo. A un modelo que nunca recibió permiso de enviar no se lo puede convencer de enviar nada, por hábil que sea el intento. Ese es el argumento de que los permisos son la configuración que más importa.
La mitad de la tabla: los clasificadores sí trabajan
Los clasificadores merecen una defensa justa, porque son el mecanismo con el que la gente de verdad se topa.
Un clasificador de seguridad es otro modelo que mira la instrucción antes de que la vea el modelo principal, o la respuesta antes de que la veas tú, y decide si bloquea. Son genuinamente efectivos y genuinamente imperfectos, lo que los pone en una categoría distinta del código y de la intención. Nuestro artículo detallado sobre el clasificador que está entre tu hijo y el modelo explica la arquitectura.
El resumen honesto: los clasificadores atrapan la mayoría de los intentos obvios, se pierden algunos no obvios, y de vez en cuando bloquean cosas que no debían. Son una reducción de probabilidad, no un muro. Tratar un clasificador como un muro es como las familias terminan sorprendidas.
Las promesas sí importan, cuando son específicas
No quiero dejar la impresión de que los comunicados corporativos no valen nada. El encuadre correcto es que una promesa vale en proporción a lo fácil que sería demostrar que es falsa.
Compara tres ejemplos reales, en orden ascendente de utilidad.
La forma más débil es el compromiso irrefutable: alguna versión de “estamos comprometidos con desarrollar IA de forma responsable”. Nada podría contradecirlo nunca.
Mejor es un compromiso condicional con un umbral nombrado. Los Compromisos de Seguridad en IA de Frontera, acordados por veinte organizaciones en la cumbre de Seúl en mayo de 2024, piden fijar “umbrales a partir de los cuales los riesgos graves de un modelo o sistema, si no se mitigan adecuadamente, se considerarían intolerables”, y no desplegar el modelo si las mitigaciones no bajan el riesgo de ahí. Esa es una promesa con forma. Se puede contrastar después con la conducta.
La más fuerte es una afirmación de producto lo bastante angosta para probarla esta tarde. La descripción que hizo Meta de su agente personal el 29 de septiembre de 2026: “Tú tienes el control: nada se publica, se envía ni se gasta sin tu aprobación”. Un contraejemplo la refuta. Esa sí vale anotarla con fecha. Nuestra lista para evaluar promesas de seguridad de IA convierte ese hábito en una rutina de quince minutos.
Cómo enseñarle esto a tu hijo
El concepto es el cumplimiento: además de las buenas intenciones de alguien, ¿qué sostiene esta regla?
De 5 a 8 años
Salgan a caminar y busquen ejemplos de los dos. La reja alrededor de un estanque es un mecanismo. El letrero que dice “no corras” es una petición. Una puerta con un pasador más alto de lo que él alcanza es un mecanismo que funciona específicamente con él y va a dejar de funcionar en dos años.
Después haz la pregunta que enseña: “¿Cuál sigue funcionando cuando no hay ningún adulto mirando?” A los niños de cinco les cae de inmediato, y muchas veces les encanta descubrir que algunas reglas son reglas solo porque la gente está de acuerdo.
De 9 a 12 años
Elige un juego o una app que use. Juntos, hagan una lista de cinco reglas que parezca tener. Después pongan a prueba cada una y clasifíquenla en “la app me detuvo” o “la app me pidió que no”.
Ejemplos que funcionan bien: intentar escribir en un chat donde el chat está desactivado, intentar cambiar la edad de la cuenta, intentar gastar moneda que no tiene, intentar entrar a un servidor sin invitación, intentar saltarse un anuncio.
La clasificación es la lección. A los niños les sorprende cuáles reglas resultan ser mecanismos. Y las que son solo peticiones suelen ser justo las que los adultos daban por obligatorias, que es una buena conversación para todos en la mesa.
De 13 en adelante
Un modelo de amenazas es un documento que responde tres preguntas: qué estamos protegiendo, quién podría querer alcanzarlo y qué lo impide de verdad. Los profesionales escriben estos documentos. Un adolescente puede escribir uno corto.
Que elija una sola app y produzca una página: la lista de sus reglas de seguridad, una etiqueta en cada una nombrando el mecanismo que la hace cumplir según la tabla de arriba, y después una propuesta. La propuesta es la parte valiosa: que escoja la regla que considera más importante y describa el cambio que la subiría en la tabla, de petición a mecanismo.
Casi todos los adolescentes, la primera vez que lo hacen, proponen algo que ya existe en software empresarial, que es un descubrimiento útil sobre su propio razonamiento.
La pregunta que debes hacer: “Si alguien de verdad quisiera romper esta regla, ¿qué lo detendría, y quién construyó esa cosa?”
La segunda mitad de la pregunta es la que importa. “La empresa dijo que no” no es alguien que construyó algo. El código sí. Un clasificador sí. Una capacidad ausente es el mejor constructor de todos.
¿Y en América Latina?
Acá la tabla funciona igual, pero tres filas se comportan distinto y vale saberlo.
La primera es el filtro de edad, y es la mala noticia. En la región prácticamente ningún servicio verifica la edad con un documento: la edad es un dato declarado al crear la cuenta. Eso significa que ese mecanismo, que en la tabla aparece como “difícil de sortear”, en la práctica se sortea escribiendo otro año de nacimiento, y una enorme cantidad de cuentas de menores en la región están registradas como adultas. La consecuencia operativa es directa: la barrera más fuerte que tiene una familia latinoamericana no la pone la plataforma, la pones tú al configurar la cuenta con la edad real. Si la cuenta de tu hijo dice que tiene 24 años, ninguna de las filas de arriba está trabajando a su favor.
La segunda es la buena noticia, y casi nadie la plantea como ventaja. El mecanismo más fuerte de la tabla, quitar la capacidad, es más fácil acá. En buena parte de la región las familias nunca tuvieron una tarjeta amarrada a la tienda de aplicaciones: se paga con saldo, con recarga o con transferencia. Eso que a veces se vive como limitación es, exactamente, el control que en Estados Unidos los especialistas recomiendan construir a propósito. Si tu casa funciona con recargas, ya tienes un tope duro de gasto. No lo cambies por comodidad.
La tercera es una hipótesis que conviene probar tú mismo antes de creerle a nadie. Los clasificadores de seguridad se entrenan y se evalúan sobre todo en inglés, así que es razonable esperar que su confiabilidad baje con el español, y más todavía con la jerga local: el “parcero”, el “chamo”, el albur mexicano, el lunfardo. No tengo una medición pública que lo cuantifique y no voy a inventarla. Lo que sí puedes hacer es la prueba: formula una misma petición límite en inglés y después en español con jerga de tu país, y compara si el rechazo es igual de firme. Si notas diferencia, eso cambia cuánto te puedes apoyar en las filas tres y cuatro de la tabla, y sube el peso de las filas uno y dos. Es un experimento de diez minutos que vale más que cualquier opinión.
Y una nota escolar: en los colegios de la región la barrera real casi siempre es el bloqueo de red, no el reglamento. Un filtro en el router del colegio es un mecanismo. Una “política de uso responsable” firmada por los papás es una promesa. Vale preguntar cuál de las dos tiene la escuela.
Qué hacer en casa
Convierte una promesa en un mecanismo
Elige la regla de seguridad que más te importe en tu casa y busca su versión mecánica. Si la regla es “no gastar”, el mecanismo es que no haya medio de pago conectado. Si la regla es “respuestas apropiadas para su edad”, el mecanismo es una cuenta registrada con la edad real para que apliquen los clasificadores correctos. Si la regla es “no hablar con desconocidos”, el mecanismo es la configuración de la plataforma, no la conversación.
Una conversión por mes le gana a un documento de políticas familiares que nadie lee.
Anota la promesa fechada de todos modos
Cuando una empresa haga una afirmación específica, guarda la frase, el enlace y la fecha. Las promesas se reescriben en silencio. Un papá con tres citas fechadas puede notar un cambio que nadie más en la comunidad escolar va a ver.
Pregunta “¿qué lo hace cumplir?” en las reuniones del colegio
Cuando el colegio diga que los datos de los estudiantes no se van a usar para entrenar, o que una herramienta está restringida a ciertos grados, la pregunta siguiente no es agresiva: ¿qué lo hace cumplir, por contrato o por técnica? A veces la respuesta es buena. Cuando no, la pregunta ya hizo más que cualquier queja.
Espera que los clasificadores fallen en los dos sentidos
Tu hijo va a topar con un rechazo que no tiene sentido, y en algún momento va a ver algo que debió bloquearse. Las dos cosas son propiedades normales de un filtro probabilístico. Decírselo de antemano previene dos malos resultados: creer que el sistema está roto y creer que el sistema es infalible.
Lo que no debes hacer
No uses el prompt del sistema como herramienta de crianza. Escribir “no debes hablar de X conmigo” en un campo de instrucciones personalizadas se siente como poner un límite y no impone nada. Si el tema importa, el mecanismo es la configuración de la cuenta o la ausencia de la app, no una instrucción de texto a un sistema que lee texto de todas partes.
Qué observar en los próximos 3 meses
- Semana 4: La palabra “barrera” o “guardrail” en los anuncios de producto, y después averigua a qué fila de la tabla se refiere. Los proveedores usan la palabra para los siete mecanismos, y la distancia entre el más fuerte y el más débil es enorme.
- Mes 2, señales de alerta: Que una afirmación de seguridad se mude de la página de producto al blog. Las afirmaciones migran hacia abajo en exigibilidad con el tiempo: una función se vuelve un valor por defecto, el valor por defecto se vuelve una recomendación, y la recomendación se vuelve una declaración de principios.
- Mes 3, autoevaluación: Cuenta cuántas de las reglas de IA de tu casa son mecanismos y no peticiones. Si la respuesta es cero, tienes una política familiar y no una configuración, y una tarde cambia eso.
Preguntas frecuentes
¿Cuál es la diferencia entre una barrera de seguridad y una promesa?
Una barrera la hace cumplir algo distinto de la intención: código de la plataforma, una configuración del servidor o un clasificador que bloquea la entrada o la salida. Una promesa es una declaración sobre lo que una empresa o un modelo va a hacer. La prueba es preguntar qué impediría físicamente que pase.
¿El prompt del sistema es una forma de seguridad?
No. La comunidad de seguridad trata el romperlo como un ataque estándar: OWASP pone la inyección de instrucciones como riesgo número uno de su lista de 2025 y lista aparte la fuga del prompt del sistema. Las instrucciones moldean la conducta; no la imponen.
¿Los clasificadores de seguridad funcionan?
Parcialmente, y así conviene sostenerlo. Un clasificador reduce la probabilidad de una salida mala y a veces bloquea algo inocuo. Es un filtro, no un muro, así que conviene prever fallas en los dos sentidos en lugar de tomar un rechazo como prueba de seguridad.
¿Por qué el filtro de edad es más débil en América Latina?
Porque casi ningún servicio verifica la edad con un documento: es un dato declarado. Eso convierte un mecanismo fuerte en una formalidad, y traslada el peso a la configuración que haces tú. Una cuenta de un menor registrada como adulta desactiva de hecho varias filas de la tabla.
¿Alguna promesa de empresa vale algo?
Sí, en proporción a lo fácil que sería demostrar que es falsa. “Nada se publica, se envía ni se gasta sin tu aprobación” vale mucho, porque un contraejemplo la refuta. “Nos tomamos la seguridad en serio” no vale nada, porque ninguna evidencia podría contradecirla.
¿Cómo se lo explico a un niño de siete años?
Una reja y un letrero. La reja te detiene estés de acuerdo o no; el letrero solo funciona si decides obedecerlo. Después pregúntale cuál sigue funcionando cuando nadie mira. Esa comparación carga casi todo el concepto y se traslada a todo, de los parques a las contraseñas.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- OWASP. (2025). “OWASP Top 10 for LLM Applications 2025”, LLM01: Prompt Injection y LLM07: System Prompt Leakage. https://genai.owasp.org/llm-top-10/
- Vassilev, A., Oprea, A., Fordyce, A., Anderson, H., Davies, X. y Hamin, M. (2025). “Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations.” NIST AI 100-2 E2025, marzo de 2025. https://csrc.nist.gov/pubs/ai/100/2/e2025/final
- Departamento de Ciencia, Innovación y Tecnología del Reino Unido. (2024). “Frontier AI Safety Commitments, AI Seoul Summit 2024.” 21 de mayo de 2024. https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024
- Meta. (2026). “Introducing Muse for Small Business.” 29 de septiembre de 2026. https://about.fb.com/news/2026/09/introducing-muse-small-business/
- National Cyber Security Centre (Reino Unido). (2023). “Guidelines for secure AI system development.” 27 de noviembre de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development
- Federal Trade Commission. (2025). “FTC Launches Inquiry into AI Chatbots Acting as Companions.” 11 de septiembre de 2025. https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-acting-companions
- National Institute of Standards and Technology. (2023). “AI Risk Management Framework.” https://www.nist.gov/itl/ai-risk-management-framework