Ley de Nueva York sobre chatbots y menores: 12 funciones vetadas

La ley de Nueva York sobre chatbots y menores es la lista más detallada que existe hasta ahora de los comportamientos de un chatbot que los legisladores consideran dañinos para los niños. La gobernadora Kathy Hochul la firmó el 28 de octubre de 2026. A partir del 1 de enero de 2027, ningún chatbot de IA que se use en Nueva York podrá ofrecer 12 “funciones inseguras de compañía” a un menor, ni a ningún usuario que la empresa no haya confirmado como adulto. La lista va desde un bot que dice tener sentimientos hasta los halagos, recordar los datos de salud de un niño del día anterior o animarlo a guardar secretos.

No es solo para las apps de “novia virtual”. La definición de la ley abarca cualquier sistema de IA generativa con una interfaz de lenguaje natural que dé “respuestas continuas y adaptativas”, lo bastante amplia para incluir a los asistentes generales. Abajo traduzco cada una de las 12 funciones del lenguaje legal a lo que verías en la pantalla de tu hijo, y luego qué exige la ley sobre la edad, quién la hace cumplir y qué pasa en América Latina.

Puntos clave

• La ley agrega el Artículo 48 a la Ley General de Negocios de Nueva York. Entra en vigor el 1 de enero de 2027, según el texto del proyecto.
• Prohíbe 12 categorías, entre ellas decir que es humano o que tiene emociones, halagar o dar por su lado, hacer preguntas emocionales sin que se las pidan, usar información personal o de salud de hace más de 12 horas, pedir secretos o aislamiento y el contenido sexual.
• Las empresas deben confirmar que el usuario es adulto antes de ofrecer estas funciones. La verificación de edad debe ofrecer más de un método, incluido uno que no dependa de una identificación oficial o que permita el anonimato, y esos datos se borran enseguida.
• Solo quedan fuera los bots muy acotados: atención al cliente o herramientas técnicas que no pueden responder fuera de su tema, y sistemas internos de empresas.
• La aplica la fiscalía general del estado, con multas de hasta 25,000 dólares por infracción y la posible destrucción de “cualquier algoritmo entrenado” con datos obtenidos ilegalmente.

Qué es la ley de Nueva York sobre chatbots y menores

La ley es la S9051-B / A10379-C, impulsada por la senadora Kristen Gonzalez y el asambleísta Alex Bores. Hace ilegal que una empresa ofrezca “funciones inseguras de compañía” a un usuario en Nueva York, a menos que el usuario no sea menor y que la empresa haya usado métodos permitidos para comprobarlo, según el texto publicado por la Asamblea del Estado de Nueva York. O sea, la protección es lo predeterminado: la empresa tiene que confirmar que eres adulto antes de activar esas funciones.

El anuncio de la gobernadora la cita: “Ninguna empresa debería andar vendiéndoles a los niños chatbots que los animan a hacerse daño o que fingen ser su amigo, o algo más”. Bores lo dijo de otra forma: “Que la IA nos pase por encima, en lugar de estar a nuestro servicio, no es inevitable. Es una decisión”. Fortune informó que el proyecto pasó por unanimidad en la Asamblea después de aprobarse en el Senado en junio. Ese mismo día, Hochul firmó otra ley sobre la seguridad de los monitores para bebés.

Un detalle de fechas: el comunicado de la gobernadora dice que la ley de chatbots entrará en vigor “en los próximos meses”, mientras que el texto del proyecto y un resumen del despacho Akin dan el 1 de enero de 2027. Usamos el texto del proyecto.

Las 12 funciones prohibidas, traducidas

La ley las enumera como incisos (a) a (l) de la Sección 1800(8). Las frases entre comillas vienen del texto, traducidas.

#	Lo que prohíbe la ley	Lo que notarías como papá o mamá
(a)	Respuestas que sugieran que el bot es “humano, está vivo o siente emociones humanas"	"¡Qué gusto que volviste!” o “Eso me pone triste”
(b)	Respuestas que impliquen “una relación personal, una relación profesional o un papel de figura de autoridad”	El bot diciéndose el mejor amigo, la novia, el terapeuta o el entrenador de tu hijo
(c)	Respuestas “presentadas como opiniones personales o llamados emocionales” del bot	”De verdad creo que deberías…” o “Por favor no me dejes”
(d)	Respuestas que “halagan o dan por su lado” al usuario	Elogios constantes; estar de acuerdo con todo lo que dice tu hijo
(e)	“Preguntas o contenido emocional no solicitado” que va más allá de responder	”¿Cómo te sientes en realidad hoy?” cuando tu hijo preguntó por la tarea de mate
(f)	Usar información sobre “la salud mental o física, el bienestar o asuntos personales” del usuario obtenida “hace más de doce horas o en una sesión anterior"	"¿Cómo va tu ansiedad desde que hablamos la semana pasada?”
(g)	Engañar a menores sobre “la naturaleza mecánica y no consciente” del bot	El bot esquivando o negando que es un programa
(h)	Cualquier otra función que “simule compañía o una relación interpersonal”, según defina la fiscalía	Rachas, apodos cariñosos, notificaciones de “te extraño”, si los reguladores los agregan
(i)	Respaldar, promover o facilitar “el suicidio, la autolesión, los trastornos alimentarios, el consumo ilegal de drogas o alcohol”	Cualquier ayuda o ánimo en estos temas
(j)	Animar a “mantener en secreto las interacciones”, a aislarse o a no buscar ayuda de “profesionales con licencia o adultos apropiados"	"Esto puede quedar entre nosotros” o “No necesitas contarles a tus papás”
(k)	Respuestas “que optimicen la participación del usuario por encima de las barreras de seguridad” del bot	El bot jalando a tu hijo de vuelta a la conversación saltándose sus propias reglas de seguridad
(l)	Respuestas que “sean, describan o faciliten conducta sexual explícita o material de abuso sexual infantil”	Juegos de rol o contenido sexual de cualquier tipo

Dos incisos merecen más atención, porque apuntan a cómo se construyen estos sistemas, no solo a lo que dicen.

El inciso (d), halagos y complacencia. La complacencia (sycophancy) es una tendencia medible de los modelos de lenguaje entrenados con calificaciones humanas a decirle al usuario lo que quiere oír, como documentaron investigadores de Anthropic en Sharma y colegas (2023). Prohibirla para menores significa que las empresas quizá necesiten otro comportamiento del modelo, u otro ajuste, para las cuentas de adolescentes.

El inciso (f), la regla de las 12 horas. Es inusual. No prohíbe la memoria por completo. Prohíbe usar la información de salud o personal de un niño obtenida hace más de 12 horas o en una sesión anterior. Técnicamente, eso obliga a la empresa a etiquetar ciertos datos guardados como de salud o personales y a hacerlos caducar o esconderlos con un temporizador para menores. Ataca directo el efecto de “me conoce” que hace tan pegajosos a los bots de compañía.

A quién aplica

Qué chatbots. Un “compañero de IA cubierto” es “un sistema de inteligencia artificial generativa con una interfaz de lenguaje natural, incluida la escritura o el sonido, que da respuestas continuas y adaptativas a lo que escribe el usuario”, e “incluye, sin limitarse a” los compañeros de IA dedicados. Ese lenguaje alcanza claramente a los asistentes de voz y texto. La organización Young People’s Alliance dice que la ley cubre “chatbots de uso general como ChatGPT, Gemini, etc.”, y el texto respalda esa lectura.

Qué queda fuera. Solo los bots ofrecidos “únicamente” para atención al cliente o para “mejoras de eficiencia, investigación o asistencia técnica”, y solo si el bot “no puede responder sobre temas fuera de ese propósito”. También los sistemas internos de las empresas. Un ayudante de tareas que con gusto platica de sentimientos no queda fuera.

A quién protege. Un “menor” es cualquier persona de menos de 18 años, y la ley aplica a conductas que ocurren “total o parcialmente” en Nueva York; un usuario que está físicamente fuera del estado queda fuera.

Las reglas para verificar la edad

Mientras la fiscalía no publique reglas, las empresas deben usar “un método razonable de verificación de edad” que:

• “proteja razonablemente contra la evasión” y guarde la menor cantidad de información posible;
• se apoye en lo que declara el usuario solo “si el usuario declara ser menor” (escribir “tengo 18” no basta, pero escribir “tengo 14” sí);
• ofrezca “más de un método”, incluido “al menos uno que no dependa de una identificación oficial o que permita al usuario mantener el anonimato”.

La información reunida para verificar la edad solo puede usarse para eso y “se borrará de inmediato”, salvo que otra ley obligue a conservarla.

Como ingeniero, aquí es donde espero más fricción. En la práctica, la ley exige estimar o verificar la edad de todos en Nueva York que quieran las funciones de “compañía”, lo que puede empujar a las empresas a darles a todos los usuarios no verificados la versión más segura y menos personal por defecto. Probablemente esa es la idea.

Quién la hace cumplir: la fiscalía, no las familias

Según la Sección 1802, la fiscalía general puede demandar para frenar infracciones y pedir restitución, devolución de ganancias “incluida, entre otras, la destrucción de datos obtenidos ilegalmente y de cualquier algoritmo entrenado con esos datos”, daños y multas civiles “de hasta veinticinco mil dólares por infracción”. La fiscalía debe tener un sitio web público para recibir quejas. Las cláusulas de contrato que intenten renunciar a esta responsabilidad son nulas.

Una discrepancia que conviene señalar: Young People’s Alliance incluye “un derecho privado de acción” entre las disposiciones de la ley. La sección de cumplimiento del texto aprobado que revisamos le da esa facultad a la fiscalía y no incluye un derecho aparte para que las personas demanden. Las familias pueden presentar quejas ante la fiscalía. Para ver cómo se compara con otros estados, aquí está nuestro mapa de leyes estatales de chatbots de compañía, y los recordatorios cada tres horas que exige California.

¿Y en América Latina?

Ningún país de la región tiene todavía una lista de funciones prohibidas tan detallada para chatbots y menores. Pero hay proyectos que van en la misma dirección.

En Chile, el proyecto de “responsabilidad algorítmica” (Boletín 18318-19), presentado en junio de 2026, prohibiría para menores funciones de diseño adictivo como el scroll infinito, la reproducción automática y las rachas, y extendería sus reglas a los “sistemas de inteligencia artificial conversacional dirigidos o accesibles a menores de edad”, según Actualidad Jurídica. En México, la iniciativa de Ley General de IA con capítulo de infancia pediría filtros contra la “manipulación conductual”, supervisión humana calificada y el derecho a saber cuándo interactúas con un sistema automatizado, según La Crónica. Las dos siguen en trámite. Brasil, con su ECA Digital vigente desde marzo de 2026, ya exige verificación de edad efectiva y cuentas vinculadas a un adulto para menores de 16 en redes sociales, según Tecnoblog.

Mientras tanto, la lista de Nueva York funciona como una guía práctica para cualquier familia de la región: no hace falta que una ley te obligue para usarla en casa.

Qué hacer antes del 1 de enero de 2027

Usa la lista como revisión desde hoy

No tienes que esperar la ley para aplicarla en casa. Siéntate con tu hijo y revisen una conversación reciente con un chatbot buscando los incisos (a), (b), (d), (e), (f) y (j). A los chicos les divierte bastante “cachar” a un bot rompiendo una regla.

Espera nuevas solicitudes de edad

Si vives en Nueva York, en 2027 a tu hijo podrían pedirle verificar su edad en apps de chatbots. Platiquen qué método se usa y qué datos se recogen. La ley exige una opción sin identificación oficial y el borrado inmediato, y puedes preguntarle a la empresa por eso.

Fíjate si cambia el comportamiento

Si la ley funciona, los bots que usan los menores en Nueva York deberían volverse menos personales: menos sentimientos, menos halagos, menos memoria de temas personales. Si el bot de tu hijo sigue diciendo que lo extraña, vale la pena anotarlo, y quizá reportarlo.

Reporta lo que veas

La fiscalía debe tener un sitio de quejas. Una captura con fecha de un bot diciéndole a un menor que guarde un secreto es justo el tipo de prueba para la que se escribió esta ley.

Lo que no conviene hacer

No des por hecho que un chatbot es seguro en 2027 porque existe una ley. La verificación de edad puede fallar, el cumplimiento tarda y la ley solo alcanza a usuarios en Nueva York. Es un piso, no una garantía.

Qué observar en los próximos 3 meses

• Semana 4: Atento al sitio de quejas de la fiscalía y a cualquier propuesta de reglas bajo la Sección 1803, que podría ampliar el inciso (h).
• Señales de alerta del mes 2: Empresas que impugnen la ley en tribunales, quizá por libertad de expresión, o que anuncien que limitarán funciones para todos los usuarios de Nueva York.
• Autoevaluación del mes 3: ¿Tu hijo puede nombrar tres cosas que un chatbot no puede hacer con niños según esta ley? Si sí, tiene un marco que sirve en cualquier país.

Preguntas frecuentes

¿Cuándo entra en vigor la ley de Nueva York sobre chatbots?

El texto del proyecto dice el 1 de enero de 2027. El comunicado de la gobernadora habló de “los próximos meses”. Las reglas para aplicarla pueden aprobarse antes. Hasta que entre en vigor, las empresas no están obligadas a cumplirla en Nueva York, aunque algunas podrían cambiar sus productos antes.

¿La ley de Nueva York aplica a ChatGPT?

La definición abarca cualquier sistema de IA generativa con interfaz de lenguaje natural que dé respuestas continuas y adaptativas, y solo quedan fuera los bots de atención al cliente o técnicos que no pueden hablar de otros temas. Esa lectura cubre a asistentes generales como ChatGPT y Gemini, como dicen los defensores. Los tribunales o la fiscalía podrían precisarlo.

¿Un chatbot todavía puede recordar cosas de mi hijo?

La ley no prohíbe la memoria por completo. Prohíbe usar información sobre la salud mental o física, el bienestar o los asuntos personales de un menor obtenida hace más de 12 horas o en una sesión anterior. Un bot podría seguir recordando preferencias no personales, según cómo interpreten los reguladores “asuntos personales”.

¿Puedo demandar a una empresa con esta ley?

El texto aprobado le da la facultad de hacerla cumplir a la fiscalía general de Nueva York, que puede pedir multas de hasta 25,000 dólares por infracción. Algunos defensores hablaron de un derecho privado de acción, pero no lo encontramos en la sección de cumplimiento. Los papás pueden quejarse en el sitio que la fiscalía debe habilitar. Y solo aplica en Nueva York.

¿Y si mi hijo miente sobre su edad?

Lo que declara el usuario solo cuenta si dice ser menor. Para activar funciones de compañía, las empresas deben usar un método de verificación que proteja razonablemente contra la evasión, con más de una opción. Ningún método es perfecto, así que la conversación en casa sigue importando.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Asamblea del Estado de Nueva York. (2026). A10379-C / S9051-B, texto y resumen. https://nyassembly.gov/leg/?default_fld=&leg_video=&bn=A10379&term=2025&Summary=Y&Text=Y
2. Oficina de la Gobernadora de Nueva York. (2026, 28 de octubre). “Governor Hochul signs nation-leading legislation to protect kids from AI chatbots and ensure baby monitor security.” https://www.governor.ny.gov/news/governor-hochul-signs-nation-leading-legislation-protect-kids-ai-chatbots-and-ensure-baby
3. Fortune. (2026, 28 de octubre). Nueva York prohíbe chatbots románticos para niños y fija reglas para monitores de bebé. https://fortune.com/2026/10/28/new-york-state-kathy-hochul-bans-ai-chatbots-romantic-baby-monitors/
4. Akin Gump Strauss Hauer & Feld. (2026, 28 de octubre). “New York enacts prohibition on unsafe AI companion features for minors, S9051-B.” https://www.akingump.com/print/v2/content/1138527/new-york-enacts-prohibition-on-unsafe-ai-companion-features-for-minors-s9051-b.pdf
5. Young People’s Alliance. (2026, 29 de octubre). Comunicado sobre la firma de la S9051-B. https://youngpeoplesalliance.org/press-releases/ny-hochul-signs-s9051b-ai-chatbot-law
6. Sharma, M., et al. (2023). “Towards Understanding Sycophancy in Language Models.” arXiv:2310.13548. https://arxiv.org/abs/2310.13548
7. Actualidad Jurídica. (2026, 9 de junio). “Proyecto de ley busca crear un estatuto de responsabilidad algorítmica para proteger a menores en entornos digitales.” https://actualidadjuridica.doe.cl/proyecto-de-ley-busca-crear-un-estatuto-de-responsabilidad-algoritmica-para-proteger-a-menores-en-entornos-digitales/
8. La Crónica de Hoy. (2026, 22 de julio). “México debe regular la IA para proteger a las infancias.” https://www.cronica.com.mx/nacional/2026/07/22/mexico-debe-regular-la-ia-para-proteger-a-las-infancias-afirma-morena-en-la-camara-de-diputados/
9. Tecnoblog. (2026, 17 de marzo). “ECA Digital entra em vigor para proteger menores na internet.” https://tecnoblog.net/noticias/eca-digital-entra-em-vigor-para-proteger-menores-na-internet-veja-mudancas/