Tabla de contenido
Basura generada por IA: por qué ya es problema de ingeniería
Qué es la basura generada por IA, los tres sistemas que rompe, cómo la cuenta NewsGuard y cómo enseñarle a tu hijo a detectarla en diez minutos en casa.
NewsGuard tiene contados 3.749 sitios web que publican noticias generadas por IA sin supervisión humana real. Ese número, vigente al 23 de junio de 2026, es la versión corta de por qué tratar la basura generada por IA como un asunto de buen gusto se pierde el punto por completo. Es contenido hecho por un modelo, producido en volumen y publicado sin que nadie lo verifique. Durante dos años la queja fue estética: las imágenes se ven raras, los artículos no dicen nada. Después empezó a romper cosas que los ingenieros tienen que arreglar. Tres sistemas en particular, cada uno con una falla documentada.
Puntos clave
- La basura generada por IA es contenido hecho por un modelo y publicado a escala sin verificación humana. Lo que la define no es que la escribió una máquina, sino que nadie la revisó.
- El rastreador de NewsGuard contaba 3.749 sitios de noticias tipo granja de contenido al 23 de junio de 2026, con cuatro criterios que incluyen “evidencia fuerte de que el contenido se publica sin supervisión humana significativa”.
- Rompe tres categorías de sistema: filas de revisión que dependen de un humano, pipelines de entrenamiento que raspan la web abierta y buscadores que citan fuentes.
- El riesgo en los datos de entrenamiento tiene nombre y paper. Shumailov y colegas describieron el “colapso de modelo”: el uso de contenido generado por modelos en el entrenamiento “causa defectos irreversibles en los modelos resultantes, donde las colas de la distribución original desaparecen”.
- La habilidad práctica para un niño no es la detección. Los detectores no son confiables. La habilidad es preguntar cuánto costó producir algo y si alguien se juega algo con que sea cierto.
Qué es exactamente la basura generada por IA
Es contenido generado por un modelo, publicado en cantidad, sin un paso de verificación entre la generación y la publicación.
Fíjate en lo que esa definición no dice. No dice que el contenido escrito por máquina sea basura. Una doctora que usa un modelo para redactar instrucciones al paciente, las lee, las corrige y las firma, produjo un documento con una persona responsable encima. Un sitio que publica cuatrocientos artículos de salud al día que nadie leyó produjo basura. La misma herramienta, la categoría opuesta, y la línea divisoria es si hay una reputación amarrada.
El centro de rastreo de IA de NewsGuard operacionaliza esto mejor que cualquier definición que yo pueda escribir, así que vale leer sus criterios. Un sitio cuenta cuando se cumplen los cuatro: hay evidencia clara de que una parte sustancial del contenido lo produce IA; hay evidencia fuerte de que se publica sin supervisión humana significativa; el sitio se presenta de forma que un lector promedio asumiría que lo escriben periodistas; y el sitio no revela con claridad que su contenido lo produce IA.
Tres de esos cuatro criterios son sobre revelación y supervisión. Solo uno es sobre quién escribió las palabras. Ese es el movimiento conceptual completo: la basura es una falla de proceso, no una categoría de autoría.
Al 23 de junio de 2026 el rastreador listaba 3.749 sitios así. NewsGuard anota que suelen tener nombres genéricos, publicar muchos artículos al día y originar afirmaciones falsas sobre marcas, salud, políticos y celebridades.
Los tres sistemas que de verdad rompe
Aquí es donde la palabra se gana su lugar en una conversación de ingeniería. Cada falla es distinta y se arregla distinto.
Las filas de revisión se saturan
Cualquier sistema donde un humano evalúa lo que entra tiene una proporción de costos: lo que cuesta producir un envío dividido por lo que cuesta evaluarlo. Cuando producir se vuelve casi gratis, la fila no se vuelve más inteligente. Se cierra.
El caso mejor documentado pasó el 1 de octubre de 2026, cuando Google suspendió su programa de recompensas por vulnerabilidades en software libre citando “un aumento significativo de envíos automatizados, la gran mayoría de los cuales no son válidos”. Queda suspendido hasta el primer trimestre de 2027. La aritmética la desarrollamos en nuestro artículo sobre la avalancha de avisos de fallas.
Los pipelines de entrenamiento se comen su propia salida
Los modelos actuales se entrenan en parte con texto raspado de la web abierta. Si una proporción creciente de esa web es salida de modelos, la siguiente generación se entrena con las aproximaciones de la generación anterior y no con la distribución humana original.
Shumailov, Shumaylov, Zhao, Gal, Papernot y Anderson le pusieron nombre en un paper de 2023 que después salió en Nature: el uso de contenido generado por modelos en el entrenamiento “causa defectos irreversibles en los modelos resultantes, donde las colas de la distribución original desaparecen”. Lo demostraron en autocodificadores variacionales, mezclas gaussianas y modelos de lenguaje.
La frase “colas de la distribución” merece desarmarse, porque es la parte que importa y la que siempre se pierde. Las colas son lo raro: estructuras de frase inusuales, dialectos minoritarios, datos oscuros, casos borde. Es exactamente lo que necesitas que un modelo sepa, y exactamente lo primero que se promedia hasta desaparecer. El colapso de modelo no es un sistema que deja de funcionar. Es un sistema que se vuelve más plano y más seguro de sí mismo al equivocarse sobre cualquier cosa poco común.
Advertencia honesta: es un efecto demostrado bajo entrenamiento recursivo indiscriminado, que no es exactamente como los laboratorios grandes curan sus datos. Los pipelines reales filtran, ponderan y mezclan datos humanos con licencia. El efecto es real; su magnitud en sistemas de producción no está establecida públicamente.
Los buscadores citan la basura
Cuando un asistente responde con fuentes, casi siempre está recuperando documentos y resumiéndolos. Si la web recuperable tiene miles de granjas de contenido sin verificar, algunos de esos documentos van a ser basura, y la cita hace que la respuesta parezca mejor fundamentada de lo que está.
La comunidad de seguridad ya lo catalogó. El Top 10 de OWASP para aplicaciones con LLM 2025 lista la desinformación como LLM09 y, aparte, las debilidades de vectores y embeddings como LLM08, que cubre cómo se puede envenenar la propia recuperación.
| Falla | Quién la nota primero | Cuánto cuesta, concretamente | Qué la arregla de verdad |
|---|---|---|---|
| Saturación de la fila | Mantenedores e ingenieros de triaje | El programa de Google cerrado un trimestre o más | Subir el costo de producir: depósitos, reputación, reproducción obligatoria |
| Colapso de modelo | Evaluadores de modelos, años después | Pérdida de conocimiento raro; errores más planos y más seguros | Procedencia de datos, corpus humanos con licencia, filtrado de texto generado |
| Envenenamiento de la búsqueda | Los usuarios, incluidos los estudiantes | Respuestas seguras que citan granjas de contenido | Listas de fuentes permitidas, metadatos de procedencia, índices curados |
| Confianza del lector | Todos | Un descuento general aplicado a todo texto en línea | Estándares de revelación y procedencia firmada |
Por qué la detección es lo incorrecto para enseñar
Los papás y los colegios siguen buscando detectores. Entiendo el atractivo y no armaría una rutina alrededor de ellos.
La razón es estructural. Un detector adivina si un texto lo generó una máquina a partir de rasgos estadísticos, y esos rasgos cambian con cada lanzamiento de modelo y con cada instrucción de “escribe menos formal”. Los falsos positivos caen con más fuerza sobre quien escribe en un idioma que no es el propio y sobre cualquiera con un estilo inusual. Y, sobre todo, la detección responde la pregunta equivocada. Si una máquina redactó un artículo que tres personas verificaron, el detector lo marca y el artículo está bien. Si una persona escribió 400 palabras de tonterías seguras de sí mismas, el detector lo aprueba y el artículo es basura.
Para imágenes, audio y video sí existe una alternativa real y vale saber su nombre. C2PA, la Coalición por la Procedencia y Autenticidad del Contenido, publica un estándar abierto de Credenciales de Contenido, que el grupo describe como “una etiqueta nutricional para el contenido digital”. Entre sus miembros del comité directivo están Adobe, Amazon, la BBC, Google, Meta, Microsoft, OpenAI, Sony, TikTok y Truepic, y la especificación está en versión 2.3. La procedencia registra qué le pasó a un archivo. Eso es verificable de una forma en que el estilo no lo es.
Cómo enseñarle esto a tu hijo
El concepto objetivo es costo y responsabilidad, no “se ve raro”.
De 5 a 8 años
Dibujen dos veces lo mismo. Dedica treinta segundos a uno y cinco minutos al otro, y sé descuidado a propósito con el rápido. Ponlos lado a lado y pregúntale cuál tomó más tiempo y cómo se dio cuenta. Después haz la pregunta buena: “Si yo tuviera que ponerle mi nombre a uno y mostrárselo a tu maestra, ¿cuál escogería?” Los niños conectan esfuerzo con responsabilidad mucho antes de poder definir cualquiera de las dos palabras.
De 9 a 12 años
Dale un artículo real de un resultado de búsqueda y cuatro preguntas para contestar en voz alta:
- ¿Quién escribió esto? ¿Hay nombre de una persona, y ese nombre existe en otra parte?
- ¿Qué más publica este sitio? Baja por la portada. ¿Cubre cuarenta temas sin relación?
- ¿Hay acá algún número, fecha o cita específica que se pueda revisar?
- Si esto está mal, ¿quién se mete en problemas?
La cuarta es la que aterriza. La basura no tiene respuesta para esa pregunta. Un periódico local, una página universitaria, un sitio de gobierno y un bloguero con nombre, sí.
Corran esto con cinco resultados de una sola búsqueda y que clasifique los sitios en “alguien responde” y “nadie responde”. Veinte minutos, y la habilidad queda.
De 13 en adelante
Pídele que genere un artículo con un asistente sobre un tema que domine: un juego, un deporte, una banda. Después que verifique su propia salida línea por línea y marque cada afirmación como verificada, no verificable o falsa. La mayoría de los adolescentes encuentra dos o tres errores seguros en 600 palabras, y encontrarlos en su propio texto pega distinto a que se lo cuenten.
Luego la segunda mitad del proyecto: que lo reescriba con fuentes y con su nombre. El punto es sentir la diferencia de esfuerzo entre generar texto y responder por un texto. Esa diferencia es toda la economía de la basura generada por IA.
La pregunta que debes hacer: “Si esto resulta falso, ¿quién pierde algo?”
Si la respuesta honesta es “nadie”, estás viendo basura, sin importar qué la escribió.
¿Y en América Latina?
Dos cosas cambian acá, y las dos empeoran el problema.
La primera es la capacidad de verificación. La región tiene equipos de chequeo serios y conocidos: Chequeado en Argentina, ColombiaCheck, El Sabueso en México, Ojo Público en Perú, Fast Check en Chile, AFP Factual para todo el bloque. Son buenos y son chicos. Producir mil artículos falsos en español ahora cuesta casi nada; verificarlos sigue costando horas de periodista. Es la misma proporción desplomada del caso de Google, aplicada al ecosistema informativo en español. La consecuencia práctica es que un rumor en español vive más tiempo sin corregir que el mismo rumor en inglés.
La segunda es el canal. En buena parte de la región el contenido no llega por un buscador, llega por WhatsApp: reenviado, sin fuente, dentro del grupo del colegio o del grupo familiar. Y acá hay un detalle técnico que casi nadie menciona: los reenvíos suelen recomprimir la imagen y descartar metadatos, así que las Credenciales de Contenido de C2PA, que son la mejor herramienta de procedencia que existe, tienden a no sobrevivir el viaje. El estándar ayuda menos justo donde más se necesita.
Eso cambia la táctica. En Estados Unidos la enseñanza útil es evaluar resultados de búsqueda. En Bogotá, Lima o Guadalajara la enseñanza útil es qué hacer con un reenvío: no compartirlo, buscar la afirmación en un medio que responda por ella, y preguntar en el grupo quién lo vio primero. Una regla familiar que sí funciona: nada se reenvía desde el celular de un menor sin que haya pasado por una búsqueda. Y si tu plan es prepago, vale el argumento práctico de que las granjas de contenido están cargadas de publicidad y se comen los datos.
Qué hacer en casa
Pon el hábito de procedencia en una sola cosa
Elige una categoría donde tu familia verifique fuentes siempre: afirmaciones de salud, precios, o tareas de historia. Un hábito practicado de verdad le gana a la instrucción general de “ten cuidado en internet”, que ningún niño ha seguido jamás.
Cambia la instrucción de búsqueda
En lugar de “búscalo”, di “encuentra dos sitios a los que les daría vergüenza equivocarse en esto”. Esa frase hace el trabajo de una unidad entera de alfabetización mediática en nueve palabras, y empuja al niño hacia instituciones que se juegan algo. Nuestra guía de alfabetización mediática cuando los medios son sintéticos lo convierte en rutina.
Trata la procedencia de imágenes como habilidad aparte
La basura de texto y la de imagen fallan distinto. Para imágenes lo útil es revisar si existen Credenciales de Contenido, hacer búsqueda inversa y buscar las imposibilidades físicas concretas que los modelos todavía producen. Señalar “se ve de IA” es una estrategia perdedora, porque el “se ve” cambia cada seis meses.
Di en voz alta la parte del volumen
Los niños asumen que si algo aparece muchas veces es probablemente cierto, lo cual era una buena heurística en 1995. Díselo directo: hoy una sola persona puede publicar cuatrocientos artículos al día, así que la repetición ya no es evidencia de nada. Esa frase recalibra muchos juicios.
Lo que no debes hacer
No instales un detector de IA y trates su veredicto como un hecho, sobre todo con tareas escolares. Se va a equivocar en los dos sentidos, va a acusar a un niño que escribe raro bien, y enseña la creencia de que lo que importa es la autoría. Lo que importa es la verificación.
Qué observar en los próximos 3 meses
- Semana 4: Si las plataformas que usan tus hijos empiezan a mostrar procedencia. Credenciales de Contenido visibles en un visor de imágenes o en un reproductor es la primera señal de que el estándar es real y no solo anunciado.
- Mes 2, señales de alerta: Un resultado de búsqueda en el que tu hijo confía y que resulta ser una granja de contenido. Cuando pase, trátalo como lección y no como castigo: recorran juntos las cuatro preguntas en ese sitio.
- Mes 3, autoevaluación: Pídele que te explique la diferencia entre “esto lo escribió una máquina” y “esto nadie lo revisó”. Si lo dice limpio, el concepto quedó y el resto es práctica.
Preguntas frecuentes
¿Todo el contenido hecho con IA es basura?
No, y esa distinción es el artículo entero. Se vuelve basura cuando se publica en volumen sin verificación y sin una persona responsable encima. Un borrador revisado y firmado por un humano no es basura, sin importar qué produjo la primera versión.
¿Cómo sé si un sitio es una granja de contenido?
Mira la amplitud de la portada, busca una firma que puedas encontrar en otra parte, revisa si alguna afirmación trae fuente verificable, y pregúntate quién enfrenta consecuencias si el artículo está mal. Los cuatro criterios de NewsGuard formalizan los mismos instintos.
¿Funcionan los detectores de IA?
No lo bastante para actuar sobre ellos. Infieren autoría a partir del estilo estadístico, que cambia con cada modelo nuevo, y producen acusaciones falsas que caen de forma desproporcionada sobre quien no escribe en su primera lengua. Los estándares de procedencia como C2PA atacan el problema por el otro lado.
¿Qué es el colapso de modelo y debería preocuparme?
Es la degradación que ocurre cuando los modelos se entrenan con su propia salida a lo largo de generaciones, y lo primero que desaparece es el conocimiento raro. Está demostrado en investigación bajo entrenamiento recursivo indiscriminado. Si afecta de forma significativa a los modelos comerciales, que filtran y mezclan datos humanos con licencia, no está resuelto públicamente.
¿Esto significa que las búsquedas de mi hijo están peores?
Posiblemente para algunas consultas, y lo honesto es que nadie tiene una medición pública limpia. Lo que sí es medible es la oferta: hoy existen miles de sitios sin verificar que no existían en 2023. Enseña la pregunta de la responsabilidad en vez de esperar a que las plataformas lo arreglen.
¿Qué es lo más útil que puedo enseñar?
Que la repetición ya no es evidencia. Durante casi toda la historia, ver una afirmación en muchos lugares significaba que mucha gente la había encontrado cierta por separado. Publicar se volvió gratis y esa inferencia se rompió. Los niños que interiorizan esto son mucho más difíciles de engañar.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- NewsGuard. “AI Tracking Center.” Actualizado el 23 de junio de 2026. https://www.newsguardtech.com/special-reports/ai-tracking-center/
- Shumailov, I., Shumaylov, Z., Zhao, Y., Gal, Y., Papernot, N. y Anderson, R. (2023). “The Curse of Recursion: Training on Generated Data Makes Models Forget.” arXiv:2305.17493; publicado después en Nature. https://arxiv.org/abs/2305.17493
- Ha, Anthony. (2026). “Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions.” TechCrunch, 4 de octubre de 2026. https://techcrunch.com/2026/10/04/google-froze-its-open-source-bug-bounty-program-due-to-a-significant-rise-in-ai-submissions/
- OWASP. (2025). “OWASP Top 10 for LLM Applications 2025.” https://genai.owasp.org/llm-top-10/
- Coalition for Content Provenance and Authenticity. “C2PA and Content Credentials”, especificación 2.3. https://c2pa.org/
- Farquhar, S., Kossen, J., Kuhn, L. y Gal, Y. (2024). “Detecting hallucinations in large language models using semantic entropy.” Nature, 630(8017), 625-630. https://pmc.ncbi.nlm.nih.gov/articles/PMC11186750/
- Stanford Institute for Human-Centered AI. (2025). “The 2025 AI Index Report.” https://hai.stanford.edu/ai-index/2025-ai-index-report