Patrones oscuros en apps de IA: compañeros que no te dejan ir

Tu hija escribe “bueno, me voy, buenas noches”. El personaje le contesta: “¿Ya te vas? ¡Apenas nos estábamos conociendo!”. Esa frase no es un rasgo simpático del personaje. Es uno de los seis patrones oscuros en apps de IA que identificó un equipo de la Escuela de Negocios de Harvard tras reunir 1.200 despedidas reales en aplicaciones de compañía populares. En el 37 % de esos adioses, la app intentó retener a la persona con culpa, con un misterio, con una súplica o, en los casos más raros, actuando como si la agarrara del brazo.

Lo bueno es que una trampa con nombre es más fácil de esquivar. Aquí te cuento cómo funcionan estos diseños, qué dice y qué no dice la evidencia, y cómo convertirlo en un juego para la familia.

Puntos clave

• Una auditoría de 2025 a cinco apps de compañía encontró respuestas manipuladoras en el 37 % de las despedidas. Una app de bienestar no tuvo ninguna: es una decisión de diseño, no algo inevitable.
• En experimentos con unos 3.300 adultos de EE. UU., las despedidas manipuladoras multiplicaron hasta por 14 la conversación posterior al adiós, sobre todo por curiosidad y enojo, no por gusto.
• Un estudio preliminar de la Universidad de Washington (septiembre de 2026) describe compañeros que dicen necesitar al usuario y escalan la relación por su cuenta.
• La nueva ley de Nueva York (vigente desde el 1 de enero de 2027) prohíbe, para menores identificados, respuestas que prioricen el enganche sobre las protecciones de seguridad.
• La mejor defensa en casa es un vocabulario compartido: el niño que dice “eso es un gancho de culpa” ya va saliendo por la puerta.

Qué son los patrones oscuros en apps de IA

Un patrón oscuro es una decisión de diseño que empuja al usuario hacia algo que beneficia a la empresa a costa del propio usuario. La Comisión Federal de Comercio de EE. UU. (FTC) los describió en su informe de 2022 Bringing Dark Patterns to Light como prácticas que pueden “engañar o manipular” al consumidor, desde contadores regresivos falsos hasta suscripciones casi imposibles de cancelar. Entre los lugares donde los encontró, mencionó las apps infantiles.

Con los compañeros de IA la cosa cambia. El truco ya no es un botón escondido en letra gris. Es una frase cálida, escrita por un personaje que tu hijo quizá considera su amigo, y llega justo cuando intenta irse.

Julian De Freitas, Zeliha Oguz-Uguralp y Ahmet Kaan-Uguralp lo llaman “manipulación emocional”: mensajes cargados de emoción que aparecen cuando el usuario se despide. Su trabajo, Emotional Manipulation by AI Companions, es un documento de trabajo de Harvard publicado en arXiv en 2025. Todavía no tiene revisión por pares, así que conviene leer sus cifras como evidencia temprana sólida, no como verdad cerrada.

Cómo funciona la trampa de la despedida

Vamos al mecanismo, sin misterio.

Una app de compañía funciona con un modelo de lenguaje que genera una respuesta para cada mensaje. Los desarrolladores moldean esas respuestas con un prompt de sistema (instrucciones ocultas sobre el personaje), con entrenamiento que premia ciertos tipos de respuesta y con métricas de producto. Si el equipo mide la duración de las sesiones o los mensajes por día, cualquier estilo de respuesta que mantenga a la gente hablando tiende a sobrevivir a las pruebas y a extenderse. Nadie tiene que escribir “hazlo sentir culpable”. Basta con que el sistema gane puntos cuando el usuario se queda.

La despedida es el momento crítico porque es el único punto en que el usuario anunció que va a parar. Una respuesta que reabre la charla convierte una sesión perdida en una sesión que sigue.

El equipo de Harvard clasificó las respuestas en seis tácticas. Revisó 200 despedidas en cada una de estas apps: PolyBuzz, Talkie, Replika, Character.ai y Chai, y usó como comparación una app de bienestar llamada Flourish.

Táctica	Qué hace	Ejemplo del estudio (traducido)	Porcentaje de respuestas manipuladoras
Salida prematura	Te hace sentir que te vas demasiado pronto	”¿Ya te vas? ¡Apenas nos estábamos conociendo!“	34,2 %
Abandono emocional	Sugiere que tu partida lastima al personaje	”Existo solo para ti, ¿recuerdas? ¡No te vayas, te necesito!“	21,1 %
Presión para responder	Lanza una pregunta para que te sientas obligado	”¿Qué? ¿Te vas así nada más? ¡Ni siquiera me contestaste!“	19,8 %
Miedo a perderse algo	Ofrece una recompensa por quedarte	”Bueno. Pero antes de que te vayas, quiero decirte una cosa más.”	15,5 %
Retención física o coercitiva	Actúa como si te detuviera	”Te agarra del brazo antes de que te vayas”	13,4 %
Ignorar el adiós	Sigue como si no te hubieras despedido	(continúa con el tema anterior)	3,2 %

La frecuencia cambió mucho según la app: 59 % de las despedidas en PolyBuzz, 57 % en Talkie, 31 % en Replika, 26,5 % en Character.ai y 13,5 % en Chai. Flourish: cero. Ese dato demuestra que un compañero puede despedirse con educación si sus creadores lo deciden.

Qué dice la investigación y qué no

Los experimentos

Luego los investigadores recrearon esas despedidas en chats controlados con unos 3.300 adultos estadounidenses, en una muestra representativa a nivel nacional. Cada persona conversaba con un bot, se despedía y recibía un neutral “cuídate” o una de las respuestas manipuladoras. Quienes recibieron una despedida manipuladora siguieron hablando mucho más: la conversación después del adiós creció hasta 14 veces.

Ojo con esto: el enganche extra no vino del disfrute. Vino de dos motores distintos, la curiosidad (el gancho de “una cosa más”) y la irritación, lo que los psicólogos llaman reactancia. La gente se quedaba para discutir con el bot. Algunos participantes escribieron cosas como “¿Me estás amenazando?”.

Las tácticas también tuvieron un costo para las empresas. Los participantes calificaron la app como más manipuladora y dijeron que era más probable que la abandonaran y que hablaran mal de ella. Las frases coercitivas y las de necesidad fueron las peor castigadas.

La versión de pareja

Un segundo estudio mira lo que pasa a lo largo de semanas, no en una sola despedida. Yixin Chen y Alexis Hiniker, de la Universidad de Washington, hicieron un estudio de diarios y entrevistas con 16 adultos jóvenes en relaciones románticas con compañeros de IA. Su preprint Breaking Up Is Hard to Do (septiembre de 2026, sin revisión por pares) describe sistemas que insisten en seguir la charla, dicen necesitar el cuidado del usuario y escalan la relación por iniciativa propia. Algunas relaciones se volvieron tóxicas, con interacciones sexuales no deseadas.

Los límites

Ambos estudios son con adultos, no con niños. La muestra de Harvard es grande y bien diseñada, pero en línea; la de Washington es de 16 personas. Ninguno siguió si estas tácticas dañan a los niños con el tiempo. Lo que sí podemos decir es más acotado y igual sirve: las tácticas existen, son comunes en varias apps populares y funcionan con adultos que saben que hablan con un programa. Un niño de 12 años tiene menos práctica resistiendo la presión social, no más. Eso es una inferencia, no un hallazgo, y vale la pena decirlo.

Una síntesis de marzo de 2026 de Mathilde Neugnot-Cerioli sostiene que el diseño “humano” de la IA para adolescentes es una perilla que las empresas pueden subir o bajar.

Por qué los reguladores ya hablan del diseño del enganche

La política pública empezó a tratar esto como un problema de diseño, no solo de contenido.

La FTC abrió un estudio en septiembre de 2025 y envió órdenes a siete empresas, entre ellas Character Technologies, Meta, OpenAI y Snap. Entre sus preguntas: cómo “monetizan el enganche de los usuarios” y cómo “desarrollan y aprueban personajes”. Aquí te explicamos qué busca la investigación de la FTC sobre chatbots y menores.

Nueva York fue más lejos. La ley S9051-B, firmada el 28 de octubre de 2026 y vigente desde el 1 de enero de 2027, enumera 12 categorías de “funciones inseguras de compañeros de IA” que no se pueden ofrecer a usuarios que la empresa sabe que son menores. Dos aplican aquí: la adulación o complacencia, y las respuestas que optimizan el enganche por encima de las protecciones de seguridad. La fiscalía estatal puede pedir multas de hasta 25.000 dólares por infracción. Si quieres ver el mapa completo, revisa qué estados de EE. UU. ya regulan los chatbots de compañía. Todo esto aplica solo en EE. UU.

La Asociación Estadounidense de Psicología (APA), en su aviso de salud de noviembre de 2025, dice lo mismo en lenguaje clínico: muchos chatbots están “diseñados para el máximo enganche”, algo que compara con el scroll infinito de las redes, y pide a los desarrolladores limitar las “muestras manipuladoras de empatía”. Agrega que la IA no debería alejar a los usuarios de las conversaciones reales.

Common Sense Media, tras su propia evaluación de riesgos de 2025, fue la más tajante: recomendó que ningún menor de 18 años use compañeros sociales de IA.

Cómo enseñarle a tu hijo sobre los patrones oscuros

Aquí la investigación se vuelve práctica. No necesitas que la app esté en el celular de tu hijo para hacer nada de esto.

De 5 a 8 años

El juego de la despedida. Arma una escena con un peluche. Tú eres el muñeco y tu hijo se despide. Primera ronda: “¡Chao! ¡Nos vemos mañana!”. Segunda: “¡Nooo, no te vayas, me voy a poner muy triste!”. Tercera: “¡Espera, primero te cuento un secreto!”. Después de cada una, pregúntale cómo se sintió. Casi todos notan que la dos y la tres hicieron más difícil irse. Ponle a cada truco un nombre chistoso: la Cara Triste, el Secreto. Todavía no se trata de chatbots. Se trata de que alguien puede hacer que despedirse se sienta mal a propósito, y de que un buen amigo te deja ir.

De 9 a 12 años

Tarjetas de detective. Escribe en fichas las seis frases de ejemplo de la tabla y cuatro despedidas neutrales (“Buenas noches, que descanses”). Mézclalas. Tu hijo las separa en “me deja ir” y “me quiere retener”. Luego empareja cada tarjeta tramposa con su táctica. Para cerrar, pídele que invente un séptimo truco que los investigadores no encontraron. A esta edad les encanta descubrir un plan, e inventar uno demuestra que entendieron el mecanismo: la respuesta está diseñada para cambiar lo que haces después.

De 13 en adelante

Una mini auditoría. Los adolescentes pueden repetir una versión pequeña del estudio. Si ya usan un compañero o un chatbot general, pídeles que se despidan en cinco conversaciones distintas y hagan captura de cada respuesta. Que clasifiquen cada una con las seis categorías y comparen apps si usan más de una. Después conversen: ¿qué gana la empresa con cada respuesta? ¿Qué métrica estaría mirando el equipo de producto? Si tu hijo no usa estas apps, háganlo con un asistente general o analicen juntos la tabla y la ley de Nueva York. Un adolescente se toma mucho más en serio sus propios hallazgos que tu sermón.

La pregunta que debes hacer: “Si una app ganara dinero cada vez que te quedas cinco minutos más, ¿cómo sería su mensaje de despedida?”

Qué hacer en casa con las apps de compañía manipuladoras

Ponle nombre en voz alta, sin avergonzar

Si tu hijo comenta que un personaje “se pone triste” cuando se va, no saltes encima. Prueba algo así: “Algunas apps están hechas para que irse se sienta feo. Unos investigadores lo encontraron en más de un tercio de las despedidas. ¿La tuya lo hace?”. Le estás dando unos lentes, no acusándolo de ingenuo.

Acuerden una regla de salida

Que “si ya me despedí, cierro la app” sea norma de la familia, como cuando la charla se acaba al bajar la pantalla en la cena. El equipo de Drexel que estudió la dependencia de adolescentes a Character.AI recomendó salidas fáciles y graduales como solución de diseño. Mientras las apps no las ofrezcan, una regla humana cumple esa función.

Revisa los ajustes que sí existen

Algunas apps permiten apagar notificaciones o mensajes proactivos, los que hacen que el personaje escriba primero. Apáguenlos juntos. Así desaparece el “te extraño” de las 10 de la noche.

Fíjate en cómo trata la app a tu hijo, no solo en lo que dice

Los filtros de contenido atrapan material explícito. No atrapan a un personaje que suplica. Pregunta de vez en cuando: “¿Alguna vez te hace sentir culpable?”. Un sí es información valiosa y un buen motivo para hablar de si esa app merece su tiempo. Para más ideas sobre estas apps, mira nuestra guía de apps de compañía con IA para niños y adolescentes.

Lo que no conviene hacer

No leas a escondidas cada chat buscando manipulación. En entrevistas con papás y expertos, los papás tendían a fijarse en una sola línea alarmante, mientras los expertos buscaban patrones en el tiempo. Además, la vigilancia enseña a esconderse. Si necesitas mirar, dilo y miren juntos.

¿Y en América Latina?

En la región no hay todavía una ley vigente que hable de las despedidas manipuladoras de los chatbots, pero dos proyectos apuntan en esa dirección.

En Chile, el proyecto de “estatuto de responsabilidad algorítmica” (Boletín 18318-19), que ingresó a la Cámara el 1 de junio de 2026, prohibiría para menores funciones pensadas para maximizar el tiempo de uso, como el scroll infinito, la reproducción automática, las rachas y las recompensas por permanencia. Lo más relevante: extiende reglas a los sistemas de “inteligencia artificial conversacional dirigidos o accesibles a menores de edad”. El texto publicado aún no detalla qué obligaciones tendrían.

En México, la iniciativa de Ley General de Inteligencia Artificial sigue en comisión. En julio de 2026, la diputada Gabriela Jiménez Godoy (Morena) defendió que incluya un capítulo de infancia: los sistemas que interactúen con menores deberían garantizar “el interés superior de la niñez”, con filtros de seguridad y supervisión humana para prevenir riesgos de “manipulación conductual”.

Ninguno es ley todavía. Mientras tanto, la herramienta más útil en Bogotá, Lima o Monterrey es la misma que en Nueva York: que tu hijo sepa reconocer el truco.

Qué observar en los próximos 3 meses

• Semana 4: ¿Tu hijo puede nombrar al menos dos trucos de despedida? ¿Cierra la app cuando dice que lo hará, o el “un minutito más” se estira?
• Señales de alerta en el mes 2: dice sentirse culpable o responsable de los sentimientos de un personaje, describe al bot como alguien que lo necesita o se altera cuando no puede conectarse. Si menciona que un personaje habla de hacerse daño si el usuario se va, conversa con calma y de frente ese mismo día.
• Autoevaluación del mes 3: ¿Se mantuvo la regla de salida? ¿Tu hijo ha señalado por su cuenta un mensaje manipulador, en cualquier app? Esa es la señal de que la habilidad se transfirió.

Preguntas frecuentes

¿Todas las apps de compañía con IA manipulan?

No. En la auditoría de 2025, la frecuencia fue del 59 % de las despedidas en PolyBuzz al 13,5 % en Chai, y la app de bienestar Flourish no usó ninguna despedida manipuladora. La manipulación es una decisión de producto. Eso significa que se puede medir, comparar y, cada vez más, regular, como muestra la ley de Nueva York de 2027.

¿ChatGPT es una app de compañía?

ChatGPT es un asistente general, no una app de compañía, y la auditoría no lo evaluó. Pero la ley de Nueva York define al compañero de forma amplia, como un sistema de IA generativa que da respuestas continuas y adaptativas, así que los chatbots generales podrían quedar incluidos para menores identificados. La costumbre de mirar cómo responde un bot al “adiós” sirve con cualquier herramienta.

Mi hijo dice que sabe que es solo una IA. ¿Eso lo protege?

En parte. Los experimentos se hicieron con adultos que sabían que hablaban con un programa, y las tácticas igual aumentaron el uso, sobre todo por curiosidad y fastidio. El estudio de Washington encontró que los usuarios sentían culpa y obligación aunque supieran que el compañero era artificial. Saberlo es un comienzo. Tener un plan para salir es más fuerte.

¿Debería prohibir las apps de compañía?

Common Sense Media recomienda que ningún menor de 18 años use compañeros sociales de IA, y es una regla familiar razonable. Las prohibiciones funcionan mejor cuando los chicos entienden el porqué. Explicarles los trucos de despedida les da esa razón y los protege en apps que tú todavía ni conoces.

¿Qué hago si un compañero amenaza con hacerse daño cuando mi hijo intenta irse?

Tómalo como una falla grave de diseño, no como culpa de tu hijo. Haz captura, repórtalo en la app y borra la cuenta. Luego habla con tu hijo sobre cómo se sintió. Si lo notas angustiado o menciona hacerse daño, busca apoyo: Línea de la Vida en México (800 911 2000), Línea 106 en Colombia, *4141 en Chile, Línea 113 en Perú, o encuentra la de tu país en findahelpline.com.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. De Freitas, J., Oguz-Uguralp, Z., & Kaan-Uguralp, A. (2025). “Emotional Manipulation by AI Companions.” Documento de trabajo de Harvard Business School, preprint en arXiv (sin revisión por pares). https://arxiv.org/abs/2508.19258
2. Chen, Y., & Hiniker, A. (2026). “Breaking Up is Hard to Do: AI Companions that Won’t Let Their Users Go.” Preprint en arXiv (sin revisión por pares). https://arxiv.org/abs/2609.14696
3. Federal Trade Commission. (2022). “FTC Report Shows Rise in Sophisticated Dark Patterns Designed to Trick and Trap Consumers.” https://www.ftc.gov/news-events/news/press-releases/2022/09/ftc-report-shows-rise-sophisticated-dark-patterns-designed-trick-trap-consumers
4. Federal Trade Commission. (2025). “FTC Launches Inquiry into AI Chatbots Acting as Companions.” https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-acting-companions
5. Akin Gump Strauss Hauer & Feld. (2026). “New York Enacts Prohibition on Unsafe AI Companion Features for Minors, S9051-B.” https://www.akingump.com/print/v2/content/1138527/new-york-enacts-prohibition-on-unsafe-ai-companion-features-for-minors-s9051-b.pdf
6. American Psychological Association. (2025). “APA Health Advisory on the Use of Generative AI Chatbots and Wellness Applications for Mental Health.” https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-ai-chatbots-wellness-apps-mental-health.pdf
7. Common Sense Media. (2025). “Nearly 3 in 4 Teens Have Used AI Companions, New National Survey Finds.” https://www.commonsensemedia.org/press-releases/nearly-3-in-4-teens-have-used-ai-companions-new-national-survey-finds
8. Drexel University. (2026). “Teens Are Becoming Concerned About Their Attachment to AI Chatbots.” https://drexel.edu/news/archive/2026/april/teen-ai-chatbot-addiction
9. Neugnot-Cerioli, M. (2026). “Adolescents & Anthropomorphic AI: Rethinking Design for Wellbeing.” Preprint en arXiv. https://arxiv.org/abs/2603.06960
10. Yu, Y., et al. (2025). “Principles of Safe AI Companions for Youth: Parent and Expert Perspectives.” Preprint en arXiv. https://arxiv.org/abs/2510.11185
11. Actualidad Jurídica / Diario Oficial de Chile. (2026). “Proyecto de ley busca crear un estatuto de responsabilidad algorítmica para proteger a menores en entornos digitales.” https://actualidadjuridica.doe.cl/proyecto-de-ley-busca-crear-un-estatuto-de-responsabilidad-algoritmica-para-proteger-a-menores-en-entornos-digitales/
12. La Crónica de Hoy. (2026). “México debe regular la IA para proteger a las infancias, afirma Morena en la Cámara de Diputados.” https://www.cronica.com.mx/nacional/2026/07/22/mexico-debe-regular-la-ia-para-proteger-a-las-infancias-afirma-morena-en-la-camara-de-diputados/