¡Noviembre está lleno! Las próximas clases despegan la semana del lunes 7 de diciembre.

Reserva tu lugar
Fallas de seguridad con IA: la avalancha que paró a Google
Tabla de contenido

Fallas de seguridad con IA: la avalancha que paró a Google

Google suspendió su programa de recompensas en octubre de 2026 por avisos de fallas de seguridad con IA. La asimetría de costos y cómo enseñarla en tu casa.

Escribir un aviso de seguridad serio le tomaba a una persona capacitada un día entero. Hoy a un modelo le toma once segundos, y revisarlo le sigue tomando a un ingeniero cerca de una hora. Esa proporción es la razón por la que los avisos de fallas de seguridad con IA tumbaron uno de los programas más importantes del software libre. El 1 de octubre de 2026, Google suspendió su programa de recompensas por vulnerabilidades en código abierto, explicando que “esta pausa se debe a un aumento significativo de envíos automatizados, la gran mayoría de los cuales no son válidos”. Queda suspendido hasta el primer trimestre de 2027. A nadie le hackearon nada. Simplemente la fila de entrada dejó de funcionar.

Puntos clave

  • Google suspendió su programa de recompensas por vulnerabilidades en software libre el 1 de octubre de 2026, por una avalancha de envíos automatizados mayormente inválidos. Prometió novedades en el primer trimestre de 2027.
  • La falla es económica, no técnica. Generar un aviso con apariencia creíble cuesta segundos; verificarlo le cuesta a un mantenedor entre treinta minutos y dos horas de atención concentrada.
  • No es nuevo, solo es más grave. Daniel Stenberg, de curl, documentó el patrón en enero de 2024: 415 avisos recibidos, de los cuales el 66% no eran ni problemas de seguridad ni fallas normales.
  • Los modelos escriben con seguridad cosas equivocadas en parte por cómo se les califica. La propia investigación de OpenAI concluyó que “los procedimientos estándar de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre”.
  • La lección transferible para un niño es una regla de sistemas: cuando pedir algo cuesta casi nada y responder cuesta mucho, el que responde termina por dejar de responder.

Qué pasó exactamente con el programa

Un programa de recompensas por fallas es un esquema en el que una organización le paga a gente de afuera por avisar de huecos de seguridad, para que quien encuentre un problema tenga razones para contarlo en lugar de venderlo o explotarlo. La versión de Google para código abierto cubría vulnerabilidades en el software libre que la empresa mantiene y del que depende.

TechCrunch informó el 4 de octubre de 2026 que el programa quedó pausado desde el 1 de octubre. La razón declarada por Google fue breve: un alza significativa de envíos automatizados, la mayoría no válidos. A los participantes los remitieron, por ahora, a los otros programas de la empresa.

Para entender por qué es grave, sigue un aviso por dentro del sistema.

Alguien envía un reclamo: “esta biblioteca tiene un desbordamiento de búfer en esta función”. Un ingeniero de triaje lo lee. Después intenta reproducirlo, lo que significa compilar el software, construir la entrada descrita y ver qué pasa. Si se reproduce, escala a los mantenedores de ese código, que diagnostican y arreglan, y quien avisó cobra. Si no se reproduce, el ingeniero tiene que decidir si el aviso está mal o si él montó la prueba mal, lo que casi siempre significa intentarlo otra vez de otra forma.

Ese último paso es donde está el daño. Un aviso obviamente absurdo se cierra en dos minutos. Uno equivocado pero coherente, con nombres de funciones plausibles y una explicación segura de sí misma, se puede comer una tarde entera.

Por qué las fallas de seguridad con IA cuestan más que el spam de siempre

Daniel Stenberg mantiene curl, un programa que corre en prácticamente todo lo que se conecta a una red, incluidos los cajeros y las apps bancarias que usas. En una entrada del 2 de enero de 2024 publicó los números de su programa: 415 avisos de vulnerabilidad recibidos, de los cuales el 66% no eran ni problemas de seguridad ni fallas normales.

Su descripción del mecanismo es la mejor frase escrita sobre el tema: “Cuanto mejor es la basura, más tiempo y más energía tenemos que gastar en el reporte antes de cerrarlo.”

Eso invierte la intuición habitual. El spam es barato de ignorar porque es obviamente spam. Un aviso de vulnerabilidad bien redactado, bien formateado y completamente inventado es carísimo de ignorar, porque la única manera de saber que es inventado es hacer el trabajo de revisarlo.

Stenberg documentó dos casos concretos. Una persona envió un reclamo falso sobre un CVE conocido, mezclando detalles de problemas no relacionados, y dijo abiertamente que había usado un asistente de IA. El segundo, de finales de diciembre de 2023, alegaba un desbordamiento en WebSocket y hasta proponía un parche. Se veía legítimo. Tras revisarlo varias veces, el desbordamiento no existía.

Dos años después, el mismo patrón tumbó un programa de Google.

La regla general: costo de producir contra costo de evaluar

Esta es la idea que vale guardarse, porque aplica mucho más allá de la seguridad informática. Todo sistema de recepción tiene una proporción escondida: el costo de producir un envío dividido por el costo de evaluarlo. Cuando esa proporción está cerca de 1, el sistema aguanta. Cuando se desploma hacia cero, el sistema falla, y falla cerrando la puerta, no mejorando el filtro.

SistemaCosto de producir un envíoCosto de evaluarloQué pasó cuando la proporción se desplomó
Correo electrónico, 1995Unos minutos de escrituraSegundos de lecturaLos filtros antispam se volvieron infraestructura obligatoria
Recompensas por fallas, 2026Segundos, con un modeloDe 30 minutos a 2 horas de ingenieroGoogle cerró la recepción por completo
Bandeja de un mantenedor voluntarioSegundosAtención no remunerada de una o dos personasEl mantenedor se quema y el proyecto queda sin soporte
Revisión científica por paresHistóricamente, meses de trabajoHoras no remuneradas de un revisorLas revistas registran más envíos de baja calidad
La tarea de tu hijoSegundos, con un chatbotUn maestro leyendo 120 ensayosCambia el diseño de la tarea, o la calificación deja de significar algo

Esa última fila no es un chiste, y es la razón por la que esta historia pertenece a un blog de crianza. El programa de recompensas es la versión de laboratorio de lo que está pasando en el colegio de tu hijo, con la ventaja de tener un desenlace sin ambigüedad: el programa cerró.

Por qué un modelo escribe con seguridad sobre fallas que no existen

Es una consecuencia de diseño, no un misterio. En septiembre de 2025 OpenAI publicó investigación sosteniendo que los modelos de lenguaje alucinan porque “los procedimientos estándar de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre”. Su analogía es un examen de opción múltiple: si no sabes y adivinas, puedes acertar por suerte; dejarlo en blanco garantiza un cero. Con ese puntaje, un sistema que siempre responde le gana a uno que a veces se abstiene, así que la conducta aprendida es responder.

La investigación en detección existe pero es parcial. Farquhar, Kossen, Kuhn y Gal publicaron en Nature en junio de 2024 un método que usa “entropía semántica” para marcar salidas arbitrarias e incorrectas, midiendo incertidumbre a nivel de significado y no de palabras. Los autores son cuidadosos con los límites: el método “no garantiza veracidad, porque no ayuda cuando las salidas del modelo son sistemáticamente malas”.

La industria de seguridad ya formalizó el riesgo. El Top 10 de OWASP para aplicaciones con LLM 2025 lista la desinformación como LLM09. Un aviso de vulnerabilidad inventado es LLM09 con sobre y estampilla.

Cómo enseñarle esto a tu hijo

El concepto es la asimetría de costos. No necesitas programar para enseñarlo.

De 5 a 8 años

Saca una pila de hojas y pon dos minutos de cronómetro. Tu trabajo es hacer la mayor cantidad posible de avioncitos de papel. El de tu hijo es probar cada uno: lanzarlo y anotar si voló más de dos metros. Arranquen al mismo tiempo. En noventa segundos va a quedar sepultado y lo va a decir en voz alta, que es toda la lección. Después pregúntale: “¿Y si yo pudiera hacer cien avioncitos por segundo?” Déjalo responder. Casi todos llegan a “entonces yo dejaría de probarlos”, que es exactamente lo que hizo Google.

De 9 a 12 años

Haz doce fichas sobre un proyecto de Scratch o un juego que conozca. Tres describen problemas reales que de verdad hayas visto. Nueve son inventadas pero creíbles, escritas con lenguaje seguro y detalles que suenan específicos. Revuélvelas y entrégaselas con el cronómetro corriendo. Que las clasifique en “real”, “no real” y “no puedo saber sin revisar”.

Lo útil es el tercer montón. Cuenten cuánto tardó en promedio cada ficha de ahí. Después calculen: si alguien mandara una ficha cada diez segundos durante una hora, ¿cuántas estarían esperando? Trescientas sesenta. Pregúntale qué haría él.

De 13 en adelante

Los proyectos reales se defienden con estructura. Pídele que busque un proyecto de código abierto en GitHub, lea su plantilla de aviso de fallas y después escriba una para un proyecto propio, aunque sea chiquito. Exigir número de versión exacto, una reproducción mínima y la diferencia entre comportamiento observado y esperado no es burocracia. Es un costo devuelto a quien avisa, a propósito.

Una extensión que vale la pena: que calcule la aritmética que enfrentó Google. Con 45 minutos de triaje por caso ambiguo y un ingeniero con seis horas concentradas al día, ¿cuántos puede cerrar? Ocho. Ahora pregúntale cuántos puede escribir un modelo en seis horas.

La pregunta que debes hacer: “Si mandar un aviso no cuesta nada y revisarlo cuesta una hora, ¿quién termina decidiendo cuáles fallas se arreglan?”

La respuesta a la que llegan casi todos los niños en un minuto es la correcta: nadie decide, porque los que decidían dejan de leer.

¿Y en América Latina?

En la región casi no hay programas de recompensas por fallas, así que la pregunta equivalente no es sobre eso. Es sobre todos los botones de “reportar un problema” que sí usamos todos los días.

Piénsalo con casos concretos. El sistema de reputación de Mercado Libre, las reseñas de un restaurante en Rappi, la bandeja de quejas de un operador de celular, el formulario de reclamo ante la Superintendencia de Industria y Comercio en Colombia o ante Profeco en México, la mesa de ayuda del colegio. Todos tienen exactamente la misma estructura: cuesta segundos enviar algo y cuesta minutos u horas evaluarlo. Cuando producir texto creíble en español se vuelve gratis, esos canales no mejoran su filtro: suben barreras o dejan de responder. Si alguna vez te preguntaste por qué un reclamo legítimo se queda sin respuesta, esta es buena parte de la explicación.

Hay un segundo efecto, más específico de la región y poco discutido. Mucho del software libre del que dependen los bancos, las plataformas de pago y los sistemas escolares de América Latina lo mantienen un puñado de voluntarios en otros países, sin contrato y sin sueldo. curl corre en los cajeros de Bogotá igual que en los de Estocolmo. Cuando esos mantenedores se saturan de basura generada automáticamente, el riesgo de seguridad que se acumula no se queda en Suecia.

Y una consecuencia práctica para el colegio. Si la escuela de tu hijo tiene un canal para avisar de acoso o de incidentes, vale preguntar en la próxima reunión quién lo lee y cuánto tarda. Un canal sin capacidad de evaluación no es un canal; es un buzón. Esa pregunta es más útil que cualquier debate sobre si prohibir el celular.

Qué hacer en casa y con la escuela

Separa “encontré un problema” de “un modelo me dijo que hay un problema”

Si tu hijo avisa de una falla, un problema de seguridad o un error de datos que le mostró un chatbot, la regla es: solo lo pasa adelante con evidencia que produjo él. Una captura, una reproducción, un número de línea. Es una disciplina pequeña que va a pesar muchísimo en su vida laboral, y es exactamente la que le faltaba a la fila de Google.

Enseña la ética del tiempo voluntario

Casi todo el software libre del que depende tu familia lo mantiene un grupo chiquito de gente sin paga. Mandarles un aviso automático sin verificar no es neutro: gasta su atención. Los niños lo entienden al instante si lo planteas como “es una sola persona, y le acabas de quitar una hora de su noche”. En el caso de curl, es literalmente cierto.

Pregúntale a la escuela cuál es su proporción

Sin confrontación. La pregunta útil en una reunión de padres es: “Si hoy un estudiante puede producir un ensayo pulido en treinta segundos, ¿qué cambió en la forma de evaluar?” Los maestros que tienen respuesta normalmente tienen una buena, que incluye escritura en clase, defensa oral o entrega de borradores. Los que no tienen respuesta enfrentan la misma proporción desplomada que enfrentó Google, con menos capacidad de cerrar la puerta.

Modela la conducta con tu propio trabajo

Si usas un asistente para algo que importa, di el paso de verificación en voz alta frente a tu hijo. “Me dijo esto, lo revisé acá, y estaba equivocado con la fecha.” Tres repeticiones de esa frase hacen más que cualquier charla sobre alfabetización en IA. Algo parecido pasa en matemáticas, como contamos en cómo verifican los matemáticos una demostración hecha por IA.

Lo que no debes hacer

No le digas a tus hijos que la investigación de seguridad asistida por IA es ilegítima en sí misma. No lo es. El descubrimiento automatizado de vulnerabilidades es un campo real y valioso. La distinción es la verificación, no la autoría. Un hallazgo que fue reproducido vale, sin importar qué escribió el texto. Para entender por qué el término basura generada por IA se volvió un problema de ingeniería y no de gusto, ese artículo lo desarrolla.

Qué observar en los próximos 3 meses

  • Semana 4: Si otras plataformas de recompensas agregan fricción en vez de suspender. Depósitos, filtros por reputación y prueba de concepto obligatoria son todas formas de subir el costo de producir hasta acercarlo al de evaluar. Cuál gane te dice cómo la industria resuelve esto.
  • Mes 2, señales de alerta: El mismo desplome en un sistema que tu familia usa: una mesa de ayuda escolar que deja de responder correos, un foro que cierra las publicaciones de nuevos, el botón de reporte de un juego que calladamente deja de hacer algo. El síntoma siempre es una puerta que se cierra, no una fila que crece.
  • Mes 3, autoevaluación: Google prometió novedades en el primer trimestre de 2027. Cuando lleguen, lee qué cambió en las reglas de recepción, no el tono del anuncio. Si la solución es “ahora exigimos una reproducción funcional”, eso es una admisión directa del problema de proporción y una plantilla que todos van a copiar.

Preguntas frecuentes

¿A Google le hackearon el programa de recompensas?

No. No se comprometió nada. El programa dejó de recibir avisos porque el volumen de envíos automatizados inválidos hizo impracticable el triaje. Es una falla de capacidad, más parecida a un centro de llamadas desbordado que a una intrusión.

¿La IA es mala para encontrar fallas de seguridad?

No de forma uniforme. El análisis asistido por máquina ha producido hallazgos reales y el fuzzing automatizado es práctica estándar desde hace años. El problema es la parte de la salida que es fluida, específica y falsa, combinada con gente que la envía sin verificarla.

¿Por qué no usan IA para filtrar lo que escribió otra IA?

En parte lo hacen, y las plataformas están probando. Pero un filtro equivocado cuesta en los dos sentidos: rechazar una vulnerabilidad real termina en una intrusión, y aceptar ruido te devuelve al punto de partida. OWASP lista la desinformación como riesgo central justamente porque usar un sistema falible para revisar otro falible compone el error en vez de cancelarlo.

¿Le prohíbo a mi hijo adolescente hacer investigación de seguridad?

No, y es una de las mejores cosas que puede aprender un adolescente curioso. Mándalo a proyectos con política de divulgación publicada, exígele reproducir cualquier cosa antes de avisar, y que lea primero la documentación de curl sobre avisos malos. Saber cómo se ve uno inútil es la mitad de la habilidad.

¿Qué tiene que ver esto con la tarea?

Las dos son sistemas de recepción con la proporción de costos desplomada. Un maestro leyendo 120 ensayos y un ingeniero triando 300 casos enfrentan la misma aritmética, y los dos responden rediseñando la tarea o cerrando la entrada. Saberlo es mejor base para hablar con el colegio que un debate sobre copia.

¿Cómo se lo explico a un niño de nueve en una frase?

“Si a mí me cuesta un segundo hacerte una pregunta y a ti una hora contestarla, te puedo impedir que hagas cualquier otra cosa.” A los niños les parece inmediatamente, y un poco alarmantemente, obvio.


Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.


Fuentes

  1. Ha, Anthony. (2026). “Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions.” TechCrunch, 4 de octubre de 2026. https://techcrunch.com/2026/10/04/google-froze-its-open-source-bug-bounty-program-due-to-a-significant-rise-in-ai-submissions/
  2. Stenberg, Daniel. (2024). “The I in LLM stands for intelligence.” 2 de enero de 2024. https://daniel.haxx.se/blog/2024/01/02/the-i-in-llm-stands-for-intelligence/
  3. OpenAI. (2025). “Why language models hallucinate.” Septiembre de 2025. https://openai.com/index/why-language-models-hallucinate/
  4. Farquhar, S., Kossen, J., Kuhn, L. y Gal, Y. (2024). “Detecting hallucinations in large language models using semantic entropy.” Nature, 630(8017), 625-630. https://pmc.ncbi.nlm.nih.gov/articles/PMC11186750/
  5. OWASP. (2025). “OWASP Top 10 for LLM Applications 2025.” https://genai.owasp.org/llm-top-10/
  6. National Cyber Security Centre (Reino Unido). (2023). “Guidelines for secure AI system development.” 27 de noviembre de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development
  7. Stanford Institute for Human-Centered AI. (2025). “The 2025 AI Index Report.” https://hai.stanford.edu/ai-index/2025-ai-index-report
Ricky Flores
Escrito por Ricky Flores

Fundador de HiWave Makers e ingeniero eléctrico con más de 15 años trabajando en proyectos con Apple, Samsung, Texas Instruments y otras empresas Fortune 500. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo impulsado por la tecnología.