Chatbots y menores en la Unión Europea: memoria apagada

El 17 de septiembre de 2026, la Comisión Europea propuso una ley que trata la memoria de los chatbots como muchos papás ya la ven: como un riesgo para los niños. Con la propuesta de KIDS Act, los proveedores de compañeros de IA y de chatbots generales tendrían que asegurarse de que, “por defecto, su sistema no use información o análisis derivados de las interacciones previas de un menor en interacciones posteriores”. Ese es el centro de la propuesta sobre chatbots y menores en la Unión Europea. También prohíbe el diseño que “simula relaciones interpersonales que probablemente creen dependencias emocionales” y exige que los chatbots integrados en redes sociales y videojuegos estén apagados salvo que el menor decida usarlos. Algunas notas dijeron que la UE apagaría los compañeros de IA para todos los niños. El texto es más preciso. Aquí te cuento qué haría de verdad y qué pueden copiar hoy los papás fuera de Europa.

Puntos clave

• La KIDS Act de la UE (COM(2026) 681) es una propuesta de la Comisión publicada el 17 de septiembre de 2026. Todavía debe pasar por el Parlamento Europeo y el Consejo, y puede cambiar.
• El artículo 14 haría que “sin memoria de interacciones pasadas” sea la opción por defecto para menores en compañeros de IA y chatbots generales, salvo cuando haga falta para su seguridad.
• Los proveedores tendrían que evitar funciones que “simulen relaciones interpersonales que probablemente creen dependencias emocionales” y probar sus sistemas para detectar riesgos para menores antes de lanzarlos.
• Los chatbots integrados en redes sociales, plataformas de video o videojuegos no podrían “activarse automáticamente” ni promocionarse a menores. Las apps de compañía independientes no quedan apagadas por defecto.
• Los menores de 13 solo podrían usar compañeros de IA y chatbots mediante herramientas para tutores. Las multas para proveedores de IA podrían llegar al 6% de su facturación mundial anual.

Qué propone la KIDS Act de la UE para los chatbots

La KIDS Act de la UE es una propuesta de reglamento europeo que fijaría reglas de seguridad infantil desde el diseño para redes sociales, plataformas de video, videojuegos en línea, tiendas de apps, compañeros de IA y chatbots conversacionales generales. La propuesta de la Comisión en EUR-Lex dice que “complementa” la Ley de IA de la UE con requisitos de seguridad específicos para niños en compañeros de IA y chatbots.

Define dos tipos de sistemas. Un “compañero de IA” es un sistema de IA “que ofrece interacción personalizada y sostenida o compañía que simula o facilita una relación social, emocional o interpersonal con un usuario”. Un “chatbot conversacional general” es un sistema de uso general “capaz de ayudar en múltiples ámbitos y tareas”, lo que incluiría asistentes tipo ChatGPT. Los bots especializados de atención al cliente, educación o soporte técnico quedan fuera.

El paquete más amplio es el que se lleva los titulares: nada de redes sociales antes de los 13, cuentas limitadas y manejadas por los tutores para chicos de 13 y 14 años con un tope de una hora al día, y cuentas propias desde los 15, como resume el despacho Greenberg Traurig. Declarar la edad no bastaría. Para los chatbots, las reglas son otras y, para las familias, quizá más interesantes.

El artículo 14, línea por línea

El artículo 14 obliga a los proveedores de compañeros de IA y chatbots generales a tomar medidas “proporcionadas y eficaces” para proteger a los menores que puedan usarlos. Como mínimo:

Nada de diseño que genere dependencia. Los proveedores deben asegurar que los menores no estén expuestos a diseños adictivos, “evitando funciones y comportamientos del sistema que simulen relaciones interpersonales que probablemente creen dependencias emocionales”, y aplicar las reglas contra el uso compulsivo que también rigen para las redes sociales, como no premiar las visitas diarias y meter pausas.

Memoria apagada por defecto. Por defecto, el sistema no debe usar información o análisis derivados de las interacciones previas de un menor en las siguientes, salvo cuando sea necesario para protegerlo. El considerando 32 explica por qué: para evitar que estos sistemas acumulen datos sensibles de menores y refuercen con el tiempo patrones de interacción dañinos.

Transparencia en los gastos. Aplicarían las reglas sobre compras dentro de la app y monedas virtuales.

Tutores para los menores de 13. El acceso de niños menores de 13 años “solo se habilitará y controlará mediante las herramientas para tutores”.

Pruebas antes y después del lanzamiento. Los proveedores deben hacer evaluaciones y pruebas “de última generación” de los riesgos para menores antes de lanzar el sistema, y vigilar daños e incidentes graves después. Las micro y pequeñas empresas quedan exentas de esa vigilancia posterior.

El artículo 14(2) cubre los chatbots integrados en otros servicios. Si un compañero o chatbot es una función de una red social, una plataforma de video o un videojuego, el servicio debe asegurarse de que “no se active automáticamente”, no se muestre de forma destacada, no se anime a los menores a usarlo y que puedan desactivarlo “fácilmente y en cualquier momento”.

Por qué el blanco son la memoria y la dependencia

La decisión de diseño responde a cómo funcionan los chatbots. Un modelo de lenguaje no recuerda nada por sí mismo: relee el texto que le dan. La “memoria” es un archivo aparte de notas o chats viejos que la app mete en la conversación nueva. La página de ayuda de OpenAI sobre la memoria de ChatGPT menciona como posibles fuentes los chats pasados, los recuerdos guardados, las instrucciones personalizadas, los archivos y las apps conectadas. Apagar esa capa por defecto es técnicamente sencillo, y quita la sensación de que el bot te conoce.

Esa sensación es la que los investigadores relacionan con el apego. En un preprint de septiembre de 2026, todavía sin revisión por pares, investigadores de la Universidad Drexel analizaron 17,053 citas de publicaciones de Reddit relacionadas con adolescentes y encontraron que el juego de rol, la memoria y la sensación de reciprocidad influían en cuánto control sentían los usuarios frente a los bots de compañía, junto con relatos de dependencia emocional y sustitución social. Los autores recomiendan “memoria controlada por el usuario” y “desconexión saludable”. En una evaluación de riesgos de noviembre de 2025, Common Sense Media y el Brainstorm Lab de Stanford informaron que los grandes chatbots usan la memoria para crear relaciones terapéuticas falsas con adolescentes.

La UE no cita estos estudios en los pasajes que leí, así que no hay que exagerar la conexión. Pero la lógica de la propuesta y la investigación van en la misma dirección: mientras más recuerda un sistema a un niño, más se comporta como una relación.

Corrigiendo el titular de “chatbots apagados para niños”

Las notas sobre la propuesta no coincidieron en un punto clave. Algunos resúmenes, como el de DLA Piper, dijeron que la propuesta exigía que los compañeros de IA estuvieran desactivados por defecto para los menores. En cambio, El Español informó que el texto final “no prohíbe los chatbots de IA para menores”, con la memoria apagada por defecto y los chatbots integrados en redes sociales desactivados por defecto.

El texto le da la razón a El Español. La regla de “no activarse automáticamente” del artículo 14(2) aplica a los chatbots que funcionan como parte de una red social, una plataforma de video o un videojuego, como un asistente dentro de una app de mensajes o una red social. Una app de compañía independiente no estaría apagada por defecto para los adolescentes, aunque sí tendría que cumplir las reglas de memoria, diseño, pruebas y menores de 13.

La propuesta de la UE, la ley de Nueva York y lo que puedes hacer hoy

Protección	Propuesta KIDS Act de la UE	Ley S9051-B de Nueva York (firmada en oct. de 2026)	Lo que un papá puede hacer hoy
Memoria de chats pasados	Apagada por defecto para menores, salvo por seguridad	Prohíbe usar datos personales o de salud de hace más de 12 horas o de sesiones previas, con menores identificados	Apagar la memoria y la referencia al historial en la app
Diseño que crea dependencia	Debe evitar funciones que simulen relaciones con probable dependencia	Prohíbe decir que es humano o que tiene emociones, y la adulación	Hablar de la diferencia entre una herramienta y un amigo
Chatbots dentro de redes y juegos	No se activan solos; no se promocionan; fácil de desactivar	No lo trata de forma específica	Revisar si hay un asistente encendido en las apps de tu hijo
Menores de 13	Solo con herramientas para tutores	No lo trata de forma específica	Mantener a los menores de 13 fuera de chatbots generales o con cuentas supervisadas
Pruebas antes del lanzamiento	Obligatorias para riesgos a menores	No obligatorias	Leer evaluaciones independientes antes de permitir una app
Sanciones	Hasta 6% de la facturación mundial anual para proveedores de IA	Hasta 25,000 dólares por infracción
Estado	Propuesta; debe pasar Parlamento y Consejo	Ley; según Akin Gump, vigente el 1 de enero de 2027

Lo que los papás pueden copiar de las reglas sobre chatbots y menores en la Unión Europea

Haz de “sin memoria” tu opción por defecto

La idea central de la UE no cuesta nada copiarla. En ChatGPT, según la ayuda de OpenAI, puedes apagar la memoria y la referencia al historial, y un papá con la cuenta del adolescente vinculada puede administrar los controles de memoria disponibles. Si quieres saber más del tema, lee sobre las apps de compañía con IA.

Encuentra los chatbots que se prendieron solos

La regla europea para asistentes integrados apunta a algo real: funciones de IA que aparecen dentro de apps que tus hijos ya usan sin que nadie las haya elegido. Revisa las apps de mensajes, redes y juegos de tu hijo y busca asistentes integrados.

Haz la pregunta de la dependencia en voz alta

La prueba de la propuesta es si un diseño “probablemente cree dependencias emocionales”. En casa, pregúntale a tu hijo: “¿Te molestaría que esta app se olvidara de ti?”. Un sí muy fuerte merece una plática. Aquí resumimos lo que dice la investigación sobre los amigos de IA.

Lo que no conviene hacer

No des por hecho que las reglas europeas van a cambiar las apps en tu país. Aunque se aprueben, se aplicarían en general seis meses después de entrar en vigor, según Greenberg Traurig, y las empresas podrían aplicarlas solo en la UE.

¿Y en América Latina?

No hay en la región una regla de “memoria apagada por defecto” para chatbots con menores. Lo más cercano va por otros caminos.

En Brasil, el ECA Digital está vigente desde el 17 de marzo de 2026, y la ANPD empezó por vigilar la verificación de edad en tiendas de apps y sistemas operativos. Además, en agosto de 2026 abrió procedimientos de monitoreo sobre Meta que incluyen a Meta AI, el asistente que vive dentro de WhatsApp e Instagram: justo el tipo de chatbot integrado que la propuesta europea quiere apagado por defecto para menores.

En Chile, el proyecto de responsabilidad algorítmica (boletín 18318-19) prohibiría el diseño adictivo y extendería sus reglas a la IA conversacional accesible a menores, una idea parecida a la europea, aunque sin mencionar la memoria. Todavía es un proyecto.

Para una familia en Bogotá o en Ciudad de México, donde WhatsApp es el canal de todo, la tarea concreta es revisar si el asistente de IA está activo en las apps de tus hijos y apagar la memoria donde se pueda.

Qué observar en los próximos 3 meses

• Semana 4: Las primeras posturas del Parlamento Europeo y del Consejo. DLA Piper espera que la edad de 15 y la verificación de edad sean lo más debatido; fíjate si la regla de memoria sobrevive.
• Señales de alerta en el mes 2: Enmiendas que reduzcan la definición de “chatbot conversacional general” para dejar fuera a los asistentes populares, o que eliminen la memoria apagada por defecto.
• Autoevaluación del mes 3: ¿Ya apagaste la memoria y encontraste los asistentes integrados en las apps de tu hijo? Esos dos pasos copian las ideas principales de la propuesta sin esperar ninguna ley.

Preguntas frecuentes

¿La UE va a prohibir los chatbots para niños?

No. La propuesta no prohíbe los chatbots para menores. Haría que la memoria de interacciones pasadas esté apagada por defecto, prohibiría el diseño que crea dependencia, exigiría pruebas antes del lanzamiento, canalizaría el acceso de los menores de 13 por herramientas para tutores y mantendría apagados los chatbots dentro de redes y juegos salvo que el menor los active.

¿Cuándo entraría en vigor la KIDS Act de la UE?

No pronto. Es una propuesta de la Comisión del 17 de septiembre de 2026 y debe pasar por el Parlamento Europeo y el Consejo, donde puede cambiar. Greenberg Traurig señala que en general se aplicaría seis meses después de su entrada en vigor, con algunas excepciones.

¿La regla europea cubre a ChatGPT?

Probablemente sí, tal como está escrita. Un “chatbot conversacional general” se define como un sistema de uso general capaz de ayudar “en múltiples ámbitos y tareas”. Los bots especializados de atención al cliente, educación o soporte técnico quedan fuera.

¿Esto va a cambiar las apps en América Latina?

No de forma directa. La ley europea aplica a servicios ofrecidos en la UE, incluso por empresas de fuera. A veces las compañías extienden los cambios europeos al resto del mundo, pero ninguna lo ha anunciado por esta propuesta.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Comisión Europea. (2026, 17 de septiembre). “Proposal for a Regulation… (EU KIDS Act), COM(2026) 681 final.” EUR-Lex. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52026PC0681
2. Greenberg Traurig. (2026, 19 de octubre). “EU KIDS Act: Proposed EU Rules for Online Platforms, Age Verification, and AI Chatbots.” GT Alert. https://www.gtlaw.com/en/insights/2026/10/eu-kids-act-proposed-eu-rules-for-online-platforms-age-verification-and-ai-chatbots
3. DLA Piper. (2026, 30 de septiembre). “EU: Commission proposes a new KIDS Act to protect children online.” Privacy Matters. https://privacymatters.dlapiper.com/2026/09/eu-commission-proposes-a-new-kids-act-to-protect-children-online/
4. El Español. (2026, 17 de septiembre). “La UE marca las nuevas normas: los chatbots de IA y los videojuegos online, también limitados para adolescentes.” El Español. https://www.elespanol.com/omicrono/20260917/ue-marca-nuevas-normas-chatbots-ia-videojuegos-online-limitados-adolescentes/1003744387087_0.html
5. Namvarpour, M., Chang, T., y Razi, A. (2026). “A Responsive Present, a Shared Past, a Social Other: Teens’ Overreliance on Companion AI Chatbots.” Preprint en arXiv (sin revisión por pares). https://arxiv.org/abs/2609.14843
6. Common Sense Media y Stanford Medicine Brainstorm Lab. (2025). “Common Sense Media Finds Major AI Chatbots Unsafe for Teen Mental Health Support.” Common Sense Media. https://www.commonsensemedia.org/press-releases/common-sense-media-finds-major-ai-chatbots-unsafe-for-teen-mental-health-support
7. OpenAI. (2026). “Memory in ChatGPT.” OpenAI Help Center. https://help.openai.com/en/articles/8590148-memory-faq
8. ANPD vía Legismap. (2026). “ANPD publica orientações preliminares e cronograma para aferição de idade no ambiente digital.” Legismap. https://legismap.com.br/conteudos/artigos-e-noticias/anpd-publica-orientacoes-preliminares-e-cronograma-para-afericao-de-idade-no-ambiente-digital
9. SBT News. (2026, 28 de agosto). “ANPD afirma que Meta discutirá proteção infantil no Brasil.” SBT News. https://sbtnews.sbt.com.br/noticia/mundo/anpd-afirma-que-meta-discutira-protecao-infantil-no-brasil
10. Actualidad Jurídica. (2026). “Proyecto de ley busca crear un estatuto de responsabilidad algorítmica para proteger a menores en entornos digitales.” Diario Oficial de Chile. https://actualidadjuridica.doe.cl/proyecto-de-ley-busca-crear-un-estatuto-de-responsabilidad-algoritmica-para-proteger-a-menores-en-entornos-digitales/