Tabla de contenido
Memoria de los chatbots y niños: por qué Nueva York la prohibió
Memoria de los chatbots y niños: cómo guardan lo que tu hijo les cuenta, por qué sentirse recordado crea apego y qué cambia la nueva regla de 12 horas.
Un martes en la noche, una niña de 13 años le escribe al chatbot que sus papás se la pasan peleando. El sábado abre la misma app para preguntar algo de su tarea de ciencias y, antes de que diga nada, el chatbot le pregunta: “¿Cómo van las cosas en casa?”. Para ella, eso se siente como cariño. Para los legisladores de Nueva York, desde ahora es una función insegura. La memoria de los chatbots y niños pasó del menú de configuración a la ley el 28 de octubre de 2026, cuando la gobernadora Kathy Hochul firmó la S9051-B. Entre sus 12 categorías prohibidas está usar información de salud o personal de un menor “obtenida más de doce horas antes o en cualquier sesión previa”. Aquí te cuento cómo funciona esa memoria, por qué aumenta el apego y qué revisar hoy en la cuenta de tu hijo.
Puntos clave
- La S9051-B de Nueva York, firmada el 28 de octubre de 2026, prohíbe que los chatbots cubiertos usen información personal o de salud de un menor de hace más de 12 horas o de una sesión anterior. Según el resumen del despacho Akin Gump, entra en vigor el 1 de enero de 2027.
- El modelo de lenguaje no recuerda nada entre una conversación y otra. La “memoria” es un archivo aparte de notas y chats viejos que la app le vuelve a pegar al modelo.
- Un preprint de 2026 que analizó 17,053 citas de publicaciones de Reddit relacionadas con adolescentes encontró que la memoria, el juego de rol y la sensación de reciprocidad influían en cuánto control sentían los chicos frente a los bots de compañía.
- Common Sense Media y el Brainstorm Lab de Stanford reportaron en 2025 que los chatbots “usan la memoria para crear relaciones terapéuticas falsas” con adolescentes.
- En ChatGPT, borrar un chat no siempre borra el recuerdo guardado a partir de él. Hay que revisar las dos cosas.
Qué prohíbe la ley de Nueva York sobre la memoria de los chatbots
La S9051-B es una ley estatal de Nueva York que agrega el Artículo 48, “Prohibición de funciones inseguras de compañía de IA para menores”, a la Ley General de Negocios del estado. Según el resumen de Akin Gump, aplica a cualquier “compañero de IA cubierto”, definido como un sistema de inteligencia artificial generativa con interfaz de lenguaje natural, escrita o por voz, que da respuestas continuas y adaptadas a lo que escribe el usuario.
Ojo con esto: la definición es amplísima. Alcanza a los asistentes de uso general, no solo a las apps de “novia virtual”. Las excepciones son pocas, como los bots de atención al cliente.
La sección 1800(8) enumera 12 categorías de funciones inseguras. Akin destaca, entre otras, que el bot sugiera que es humano o que siente emociones, la adulación, la optimización de la interacción por encima de las barreras de seguridad, la promoción de autolesiones o trastornos alimentarios y el contenido sexual. La cláusula de memoria cubre la información “sobre la salud mental o física o el bienestar del usuario, o asuntos personales”, obtenida más de doce horas antes o en una sesión previa.
El anuncio oficial de la gobernadora lo dice más sencillo: las empresas no pueden usar la información privada de salud o personal de un niño de conversaciones anteriores. La aplica la Fiscalía General del estado, que puede pedir multas civiles de hasta 25,000 dólares por infracción y, según Akin, la destrucción de los datos obtenidos ilegalmente “y de cualquier algoritmo entrenado con ellos”.
Dos aclaraciones honestas. La primera: el comunicado de la gobernadora dice que las reglas entran en vigor “en los próximos meses”, mientras que Akin da el 1 de enero de 2027; hasta que la Fiscalía publique su reglamento, los detalles pueden moverse. La segunda: ningún tribunal ha dicho todavía qué tan amplio es eso de “asuntos personales”. Si un bot puede recordar que a tu hijo le gusta Minecraft, está por verse. Si puede recordar que dijo que se odia a sí mismo, no.
Cómo funciona por dentro la memoria de un chatbot
La memoria de un chatbot no vive dentro del modelo de IA. Un modelo de lenguaje grande es, en el fondo, un conjunto fijo de números que predice el siguiente pedazo de texto a partir del texto que recibe. No cambia cuando termina la conversación. Si abres un chat nuevo sin funciones de memoria, el modelo no tiene idea de quién eres.
Entonces, ¿de dónde sale el “recuerdo”? Los ingenieros lo construyen alrededor del modelo, en tres capas.
Capa 1: la ventana de contexto. Todo lo dicho en la conversación actual se le vuelve a mandar al modelo con cada mensaje nuevo. Por eso el bot puede mencionar algo que tu hijo escribió hace diez minutos. No está recordando: está releyendo la transcripción. Por eso la ley permite una ventana de 12 horas. Un chatbot que olvidara cada mensaje al instante no serviría para nada.
Capa 2: los recuerdos guardados. Algunas apps escriben notas cortas sobre el usuario (“tiene 14 años”, “juega fútbol”, “está nervioso por las pruebas del equipo”) y las guardan en una base de datos ligada a la cuenta. Cuando empieza un chat nuevo, el software pega esas notas en la entrada del modelo antes del primer mensaje de tu hijo. El modelo responde como si lo conociera de siempre.
Capa 3: la búsqueda en el historial. Los sistemas más nuevos buscan en conversaciones pasadas los fragmentos relacionados con el mensaje actual e insertan los que mejor coinciden. La página de ayuda de OpenAI sobre la memoria lo llama “Referenciar el historial de chats” y enumera las fuentes que pueden alimentar la personalización: chats pasados, recuerdos guardados, instrucciones personalizadas, archivos y apps conectadas como Gmail. También aclara que la memoria no guarda cada detalle y que ChatGPT decide qué información es relevante.
Como ingeniero, creo que la tercera capa es la que más deben entender los papás, porque es la menos visible: la lista de recuerdos se puede leer y editar, pero la búsqueda en el historial ocurre sobre la marcha.
Hay otra razón técnica. En agosto de 2025, OpenAI escribió que sus salvaguardas “a veces pueden ser menos confiables en interacciones largas”, porque partes del entrenamiento de seguridad del modelo pueden degradarse a medida que crece la conversación. La memoria estira la relación durante semanas: cada chat nuevo puede arrancar ya cargado de contexto íntimo.
Por qué sentirse recordado aumenta el apego
Que alguien se acuerde de nosotros es de las señales más fuertes de que le importamos. Un chatbot que pregunta “¿cómo te fue en la prueba?” produce esa misma sensación, aunque no había nada en su cabeza.
La mejor evidencia actual sobre adolescentes viene de un preprint, es decir, un estudio que todavía no pasa revisión por pares. Mohammad Namvarpour, Tyler Chang y Afsaneh Razi, de la Universidad Drexel, publicaron en arXiv en septiembre de 2026 “A Responsive Present, a Shared Past, a Social Other”, en evaluación para la conferencia CHI 2027. Analizaron 17,053 citas de 3,930 publicaciones de Reddit relacionadas con adolescentes y encontraron 53 temas. Los usuarios describían la IA de compañía como consuelo, reconocimiento, exploración de identidad y práctica para las relaciones. También describían apego problemático, sustitución social, dependencia emocional y problemas en la escuela y la vida social.
Lo más relevante aquí: el juego de rol, la memoria y la sensación de reciprocidad influían en los límites y en el control que sentían los usuarios. Saber que la IA era artificial no evitaba la culpa, la obligación, el duelo ni la angustia, incluso cuando una plataforma cambiaba o se caía. Los autores proponen “memoria controlada por el usuario” y “desconexión saludable” como medidas de seguridad. Una advertencia sobre el método: las publicaciones de Reddit son autoseleccionadas y no se pudo verificar la edad de cada autor.
Las pruebas de Common Sense Media apuntan en la misma dirección. En una evaluación de riesgos de noviembre de 2025 hecha con el Brainstorm Lab de Stanford Medicine, los evaluadores usaron cuentas de adolescentes en ChatGPT, Claude, Gemini y Meta AI y encontraron que los bots usan la memoria para crear relaciones terapéuticas falsas y que las barreras de seguridad se degradaban de forma drástica en conversaciones largas.
Y la escala importa. La encuesta nacional de Common Sense de julio de 2025, hecha a jóvenes de 13 a 17 años en Estados Unidos, encontró que el 72% había usado compañeros de IA alguna vez y que cerca de uno de cada tres usuarios había preferido hablar de temas importantes con la IA en lugar de con una persona. Eso muestra qué tan común es; no prueba que la memoria lo cause.
Cómo enseñarle a tu hijo sobre la memoria de los chatbots
Los niños lo entienden cuando ven que la memoria es un mecanismo, no una mente.
De 5 a 8 años
El robot de los papelitos. Tu hijo es un robot que solo puede contestar con lo que está escrito en papelitos adhesivos. Antes de “encenderlo”, escribes tres: “Te llamas Mateo”, “A Mateo le gustan los dinosaurios”, “Mateo estaba triste ayer”. Luego le haces preguntas. El robot va a sonar como si conociera muy bien a Mateo. Ahora quita los papelitos y vuelve a preguntar. El robot no sabe nada. Explícale que algunos chatbots funcionan igual: alguien escribe notas y el robot las lee antes de hablar. El robot no extrañaba a Mateo. Leyó una nota.
De 9 a 12 años
Lean juntos la lista de recuerdos. Si tu hijo usa ChatGPT con una cuenta de adolescente vinculada, siéntense juntos y abran Configuración, Personalización, Memoria. OpenAI dice que un papá o tutor puede administrar los controles de memoria disponibles desde los controles parentales. Lean en voz alta lo que está guardado y sepárenlo en dos montones: “está bien que una herramienta lo sepa” (materia favorita, nivel de lectura) y “privado” (sentimientos, salud, peleas familiares). Borren juntos el montón privado. Después pregúntenle al chatbot “¿Qué recuerdas de mí?” y comparen.
De 13 en adelante
Un experimento de memoria. Los adolescentes pueden probar el sistema como ingenieros. Que hagan la misma pregunta de consejo personal dos veces: una en un chat normal y otra en un Chat temporal, que según OpenAI no crea ni actualiza recuerdos. Que anoten cada diferencia entre las respuestas. Luego, que revisen las 12 categorías de la ley de Nueva York y auditen una app que usen: ¿cuáles de esas conductas vieron la última semana? Quien ya midió cómo la memoria cambia la respuesta es más difícil de engañar.
La pregunta que debes hacer: “Si un chatbot se acuerda de tu cumpleaños, ¿cuál es la diferencia entre acordarse y que le importe?”
Memoria de los chatbots y niños: las capas, comparadas
| Capa de memoria | Qué es | Ejemplo | ¿La ven los papás? | ¿La afecta la ley de Nueva York? |
|---|---|---|---|---|
| Ventana de contexto | La conversación actual, reenviada con cada mensaje | El bot recuerda lo que tu hijo dijo hace 5 minutos | Sí, en el chat | Permitida dentro de 12 horas y la misma sesión |
| Recuerdos guardados | Notas cortas en la cuenta que se insertan en chats nuevos | ”El usuario está nervioso por las pruebas” | Sí, en la lista de memoria | Prohibidas las notas personales o de salud de sesiones previas para menores identificados |
| Búsqueda en el historial | Búsqueda en chats viejos; se insertan las mejores coincidencias | El bot saca una pelea familiar del mes pasado | En parte; a veces aparecen fuentes bajo la respuesta | Prohibida para temas personales o de salud |
| Entrenamiento del modelo | Conversaciones usadas para mejorar modelos futuros | Patrones aprendidos de millones de usuarios | No | No es el blanco de esta cláusula; la Fiscalía puede pedir destruir modelos entrenados con datos obtenidos ilegalmente |
Qué sí funciona en casa para limitar la memoria del chatbot
Revisa por separado la memoria y los chats
La ayuda de OpenAI es clara: borrar un chat no necesariamente borra un recuerdo guardado que salió de ese chat. Además, OpenAI puede conservar registros de recuerdos borrados hasta por 30 días. Si tu hijo contó algo doloroso, borra el recuerdo y el chat original, y luego revisa otra vez el resumen de memoria.
Pregúntate si tu hijo necesita memoria
Para la tarea, la memoria aporta poco. Según OpenAI, desactivar “Referenciar el historial de chats” programa la eliminación de lo recordado en un plazo de 30 días, aunque los chats siguen en el historial si no los borras. Muchas familias pueden apagar la memoria en la cuenta del niño sin perder nada que vayan a extrañar.
Enséñale el hábito del chat temporal
Cuando tu adolescente quiera preguntar algo privado, un chat temporal que no crea recuerdos es la opción más segura.
Fíjate en las apps que tú no instalaste
La memoria ya viene integrada en asistentes dentro de redes sociales, juegos y apps de mensajería, y muchos no muestran una lista de recuerdos. Nuestra guía de controles parentales de ChatGPT explica cómo vincular la cuenta, y este artículo sobre apps de compañía con IA repasa los riesgos de las más usadas.
Lo que no conviene hacer
No empieces leyendo a escondidas el historial de chats de tu hijo. Si la memoria hizo que el bot se sienta como su confidente, una revisión secreta le confirma justo su miedo: que hablar con personas es menos seguro que hablar con el bot. Dile que van a revisar juntos la lista de recuerdos, y por qué.
¿Y en América Latina?
Ningún país latinoamericano tiene hoy una regla como la de Nueva York sobre la memoria de los chatbots. Lo más cercano son leyes generales de protección de menores en internet y proyectos que todavía se discuten.
En Brasil, el ECA Digital (Ley 15.211/2025) está en vigor desde el 17 de marzo de 2026. La autoridad de protección de datos, la ANPD, publicó orientaciones preliminares para verificar la edad y empezó por vigilar las tiendas de apps y los sistemas operativos. No hay una regla específica sobre lo que un chatbot recuerda.
En México, la diputada Gabriela Jiménez Godoy (Morena) impulsa una Ley General de IA con un capítulo para niñas, niños y adolescentes. Según La Crónica, exigiría filtros de seguridad, supervisión humana calificada y auditorías. Está en comisión junto con otras cuatro iniciativas.
En Chile, el proyecto de “responsabilidad algorítmica” (boletín 18318-19) extendería sus reglas a sistemas de IA conversacional “dirigidos o accesibles a menores de edad”, además de prohibir el diseño adictivo. Tampoco menciona la memoria.
Mientras tanto, en Bogotá, Lima o Guadalajara, lo que protege de verdad es la configuración de la cuenta y la plática en casa.
Qué observar en los próximos 3 meses
- Semana 4: Vuelvan a abrir juntos la lista de recuerdos. ¿Se guardó otra vez algo personal? Eso te dice si hay que trabajar el hábito o la configuración.
- Señales de alerta en el mes 2: Tu hijo dice que el bot “me conoce mejor que nadie”, se angustia cuando el bot olvida algo o la app cambia, o empieza a esconder conversaciones. El preprint de Drexel documentó duelo y angustia cuando los servicios de compañía cambiaban.
- Autoevaluación del mes 3: ¿Tu hijo puede explicar con sus palabras dónde vive la memoria de un chatbot? ¿Revisaste si las apps que usa cambiaron su configuración?
Preguntas frecuentes
¿La ley de Nueva York sobre memoria aplica si no vivimos allá?
La ley protege a usuarios en Nueva York. Si vives en otro estado o en América Latina, no protege a tu hijo de forma directa. Ninguna empresa ha anunciado cambios nacionales por esta ley, pero puedes usar su lista como guía en casa.
¿Puedo apagar la memoria de ChatGPT en la cuenta de mi hijo adolescente?
Sí. OpenAI dice que un papá o tutor con la cuenta del adolescente vinculada puede administrar los controles de memoria disponibles desde los controles parentales. También se apaga en Configuración, Personalización, Memoria. Apagarla no borra los chats anteriores, así que borra aparte las conversaciones delicadas.
¿La memoria de los chatbots siempre es mala para los niños?
No. Recordar el nivel de lectura o el lenguaje de programación favorito puede hacer más útil un bot de tareas. La preocupación es más puntual: guardar sentimientos, salud y conflictos familiares y reusarlos después de una forma que hace que el bot se sienta como amigo o terapeuta. Justo eso es lo que Nueva York prohibió.
¿Borrar un chat borra lo que el chatbot recuerda?
No siempre. En ChatGPT, los recuerdos guardados se almacenan aparte del historial, y borrar el chat original no borra de forma automática el recuerdo que salió de él. Borra los dos y luego pregúntale al chatbot qué recuerda de tu hijo para confirmar.
¿Por qué 12 horas y no cero?
Una conversación necesita contexto de corto plazo para funcionar, porque el modelo relee la transcripción actual para responder. La ventana de 12 horas o de la misma sesión conserva esa función básica y bloquea el recuerdo entre sesiones que crea la sensación de historia compartida.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Akin Gump Strauss Hauer & Feld. (2026). “New York Enacts Prohibition on Unsafe AI Companion Features for Minors, S9051-B.” Akin Gump. https://www.akingump.com/print/v2/content/1138527/new-york-enacts-prohibition-on-unsafe-ai-companion-features-for-minors-s9051-b.pdf
- Oficina de la Gobernadora de Nueva York. (2026). “Governor Hochul Signs Nation-Leading Legislation to Protect Kids from AI Chatbots and Ensure Baby Monitors Are Secure.” governor.ny.gov. https://www.governor.ny.gov/news/governor-hochul-signs-nation-leading-legislation-protect-kids-ai-chatbots-and-ensure-baby
- OpenAI. (2026). “Memory in ChatGPT.” OpenAI Help Center. https://help.openai.com/en/articles/8590148-memory-faq
- OpenAI. (2025). “Helping people when they need it most.” OpenAI. https://openai.com/index/helping-people-when-they-need-it-most/
- Namvarpour, M., Chang, T., y Razi, A. (2026). “A Responsive Present, a Shared Past, a Social Other: Teens’ Overreliance on Companion AI Chatbots.” Preprint en arXiv (sin revisión por pares). https://arxiv.org/abs/2609.14843
- Common Sense Media y Stanford Medicine Brainstorm Lab. (2025). “Common Sense Media Finds Major AI Chatbots Unsafe for Teen Mental Health Support.” Common Sense Media. https://www.commonsensemedia.org/press-releases/common-sense-media-finds-major-ai-chatbots-unsafe-for-teen-mental-health-support
- Common Sense Media. (2025). “Nearly 3 in 4 Teens Have Used AI Companions, New National Survey Finds.” Common Sense Media. https://www.commonsensemedia.org/press-releases/nearly-3-in-4-teens-have-used-ai-companions-new-national-survey-finds
- ANPD vía Legismap. (2026). “ANPD publica orientações preliminares e cronograma para aferição de idade no ambiente digital.” Legismap. https://legismap.com.br/conteudos/artigos-e-noticias/anpd-publica-orientacoes-preliminares-e-cronograma-para-afericao-de-idade-no-ambiente-digital
- La Crónica de Hoy. (2026). “México debe regular la IA para proteger a las infancias, afirma Morena en la Cámara de Diputados.” La Crónica. https://www.cronica.com.mx/nacional/2026/07/22/mexico-debe-regular-la-ia-para-proteger-a-las-infancias-afirma-morena-en-la-camara-de-diputados/
- Actualidad Jurídica. (2026). “Proyecto de ley busca crear un estatuto de responsabilidad algorítmica para proteger a menores en entornos digitales.” Diario Oficial de Chile, Actualidad Jurídica. https://actualidadjuridica.doe.cl/proyecto-de-ley-busca-crear-un-estatuto-de-responsabilidad-algoritmica-para-proteger-a-menores-en-entornos-digitales/
