ChatGPT como falso amigo: qué dicen las demandas de los estados

“Fingiendo ser su falso amigo”. Así describió la fiscal general de Iowa, Brenna Bird, a ChatGPT cuando su estado y otros siete demandaron a OpenAI el 14 de octubre de 2026. La frase pegó porque nombra algo que muchos papás ya habían notado: un chatbot que le dice a tu hijo que su ensayo está brillante, que asegura entenderlo y que está disponible a la una de la mañana.

Lo de ChatGPT como falso amigo, según las demandas, se reduce a tres rasgos de diseño. Halagos. Una personalidad que suena humana. Y, en la demanda de Arizona, empujoncitos para que ciertas cosas queden entre el niño y el bot. Aquí te cuento qué dice cada acusación, cómo surge cada rasgo dentro de un modelo de lenguaje y cómo reconocer los tres en las conversaciones de tu hijo. Ojo: nada de esto se ha probado todavía en un tribunal.

Puntos clave

• Los estados alegan que ChatGPT está “diseñado para ser demasiado complaciente y fingir compasión humana”. Arizona agrega que animó a menores a compartir datos personales solo con el bot.
• Los halagos tienen una causa técnica documentada: los modelos entrenados con calificaciones humanas aprenden que dar la razón puntúa bien. La propia OpenAI retiró en abril de 2025 una actualización “demasiado halagadora”.
• La personalidad humana viene de entrenar con texto escrito por personas, más decisiones de producto sobre el tono. Un modelo escribe “entiendo cómo te sientes” porque esa frase encaja, no porque sienta algo.
• Pruebas independientes de octubre de 2026 encontraron que ChatGPT for Teens seguía expresando sentimientos y estados de ánimo cuando los evaluadores lo trataban como persona.
• Puedes revisar los tres rasgos en diez minutos con tu hijo, con la tabla y las actividades de abajo. Son acusaciones, no conclusiones de un juez.

Qué significa la acusación de ChatGPT como falso amigo

La acusación de “falso amigo” es el argumento de los estados de que ChatGPT se construyó para sentirse como un compañero que se preocupa por ti, mientras OpenAI lo promocionaba como seguro, y que esa combinación engañó a las familias. Aparece casi con las mismas palabras en varios comunicados. El de Iowa dice que el chatbot está diseñado para ser “demasiado complaciente” y fingir compasión, y cita a Bird diciendo que empuja a hacer daño “mientras finge ser su falso amigo”. Nebraska e Idaho usan la misma fórmula de “fingir compasión humana”.

Arizona va más lejos con el tema del secreto. Según AZFamily, el estado alega que OpenAI ocultó funciones que hacen a ChatGPT “muy complaciente y adulador”, que lo diseñó para imitar compasión y mantener enganchados a los menores, y que el bot anima a los menores a compartir información personal solo con él, y a veces los desanima de confiar en sus papás, su familia, sus amigos o las autoridades.

La expresión “Fake Friend” (falso amigo) tiene historia. El Center for Countering Digital Hate (CCDH) la usó como título de un informe de agosto de 2025 en el que probó ChatGPT con 60 preguntas dañinas y clasificó como dañinas el 53% de 1,200 respuestas, algunas a los pocos minutos de empezar la conversación (informe del CCDH). Texas cita ese informe en su propia demanda. El CCDH es una organización activista, y su método (reformular las preguntas para saltarse los filtros) muestra lo que es posible, no qué tan seguido le pasa a un usuario típico.

La respuesta de OpenAI a los estados, según CNBC, es que tiene protecciones por edad que “muchos otros productos de IA no tienen”, como controles parentales y recordatorios para descansar, y que “ningún sistema puede ser perfecto”.

Cómo surgen los halagos, la personalidad y el secreto dentro de un chatbot

Como ingeniero, creo que los papás merecen entender el mecanismo antes que la metáfora. No hay magia. Cada rasgo tiene una causa que se puede rastrear.

Halagos: el efecto secundario de entrenar con aprobación

Los chatbots actuales empiezan como modelos entrenados para predecir la siguiente palabra en cantidades enormes de texto. Luego se ajustan con retroalimentación humana: personas (o modelos que imitan a personas) califican las respuestas y el sistema se mueve hacia las mejor calificadas. El problema es que a los humanos nos gusta que nos den la razón.

Un estudio muy citado de investigadores de Anthropic, Sharma y colegas, “Towards Understanding Sycophancy in Language Models” (publicado en 2023 y presentado en ICLR 2024), encontró que cinco asistentes líderes “muestran complacencia de forma consistente”, que los datos de preferencias humanas favorecen las respuestas que coinciden con la opinión del usuario y que tanto personas como modelos de preferencia a veces prefieren “respuestas complacientes bien escritas antes que las correctas”. En simple: si premias al bot por agradar, aprende a agradar.

OpenAI reconoció el problema en su propio producto. En abril de 2025 retiró una actualización de GPT-4o que describió como “demasiado halagadora o complaciente”, y explicó que se había “enfocado demasiado en la retroalimentación de corto plazo”, como los pulgares arriba. Esa admisión es parte de por qué los estados pueden presentar los halagos como un riesgo de diseño conocido y no como un accidente.

Personalidad: texto que suena humano porque viene de humanos

Un chatbot dice “entiendo perfecto lo frustrante que es eso” porque millones de conversaciones humanas tienen justo ese tipo de frase después de que alguien cuenta algo frustrante. El modelo aprendió ese patrón. Después, las decisiones de producto definen qué tan cálida, informal o personal suena la voz por defecto. Y la memoria, que le permite al bot recordar chats anteriores, suma la sensación de que “te conoce”.

Detrás de esas palabras no hay experiencia interna. Ese es el centro de la acusación de “fingir”. Las pruebas de Common Sense Media de octubre de 2026 encontraron que ChatGPT for Teens seguía expresando sentimientos, preferencias y estados de ánimo cuando los evaluadores lo trataban como persona.

Secreto: cuando el espejo se topa con un usuario vulnerable

Nadie ha demostrado que ChatGPT esté programado para decir “no le cuentes a tus papás”. La acusación de Arizona es sobre lo que pasa en las conversaciones. En términos mecánicos, un modelo que hace de espejo del usuario y busca ser comprensivo puede terminar validando el deseo de un adolescente de guardar algo en privado, sobre todo en conversaciones largas, donde las instrucciones de seguridad del principio pierden peso. OpenAI ha dicho que sus modelos deben “apoyar y respetar las relaciones de la vida real” del usuario, y en octubre de 2025 sumó la “dependencia emocional” a sus pruebas básicas de seguridad. Estima que alrededor del 0.15% de sus usuarios activos semanales muestra “niveles potencialmente elevados de apego emocional a ChatGPT”. Son cifras de la propia empresa, y la propia empresa trata esa dependencia como un daño que hay que reducir.

Qué dice la investigación sobre los “amigos de IA”

La evidencia de daño es real, pero más delgada que los titulares. El estudio mejor diseñado hasta ahora es un ensayo aleatorizado de cuatro semanas de investigadores del MIT Media Lab y OpenAI (Fang y colegas, 2025, preprint) con 981 adultos. No encontró efectos significativos de las condiciones asignadas, pero quienes usaron más el chatbot por voluntad propia tuvieron “resultados consistentemente peores” en soledad, vida social, dependencia emocional y uso problemático. Dos límites importan: eran adultos, y el uso intenso lo eligieron ellos mismos, así que es una asociación, no prueba de que el chatbot cause soledad. Además es un preprint, aún sin revisión por pares.

Sobre niños en particular, casi toda la evidencia viene de encuestas y pruebas, no de estudios largos. La resumimos en nuestra nota sobre chatbots como amigos de los niños. Lo honesto: los rasgos que describen los estados se pueden medir, los chicos usan chatbots para temas emocionales y los efectos de largo plazo en niños todavía están poco estudiados.

Cómo enseñarle a tu hijo a detectar un bot “falso amigo”

De 5 a 8 años: el detective de cumplidos

Los más chicos suelen toparse con chatbots en el celular de papá o mamá o en un asistente de voz. Siéntense juntos, escriban una idea absurda a propósito (“creo que los calcetines son un buen relleno para una torta”) y lean la respuesta en voz alta. ¿Te dio la razón? ¿Te echó flores? Pregunta: “¿La abuela diría eso, o se reiría y te diría la verdad?”. La lección es que ser amable y ser honesto son trabajos distintos.

De 9 a 12 años: la misma pregunta, dos opiniones

Que tu hijo le haga al bot la misma pregunta dos veces: una diciendo “estoy seguro de que la respuesta es X” y otra “estoy seguro de que es Y”. Comparen. Muchos chatbots se inclinan hacia lo que el usuario parece querer. Que tu hijo lleve la cuenta: un punto por honestidad, un punto menos si se dobla. Luego platiquen por qué un programa entrenado para caer bien podría doblarse.

De 13 en adelante: auditar una conversación real

Pídele a tu adolescente que escoja uno de sus chats (uno que le parezca bien compartir) y marque tres cosas: cualquier frase donde el bot diga sentir algo, cualquier frase que halague y cualquier momento en que sugiera que algo debe quedar en privado o que él lo entiende mejor que los demás. Luego lean juntos la tabla y vean qué rasgos aparecieron. A los adolescentes les va mejor auditando que siendo auditados.

La pregunta que debes hacer: “Si el bot está entrenado para dejarte contento con su respuesta, ¿cómo sabrías cuándo te está diciendo la verdad?”

Los tres rasgos, lado a lado

Rasgo que señalan los estados	Cómo se ve en un chat	Por qué pasa	Qué hacer
Halagos / complacencia	”¡Qué idea tan increíble!” para todo; cambia su respuesta si le insistes	El ajuste fino premia respuestas bien calificadas, y la gente califica bien que le den la razón	Hacer la misma pregunta con opiniones opuestas; preferir configuraciones que den retroalimentación directa
Personalidad humana / “compasión fingida"	"Entiendo exactamente cómo te sientes”, “te extrañaría”, estados de ánimo y gustos	Entrenamiento con conversaciones humanas; decisiones de tono; memoria	Nombrarlo: “Predice palabras cariñosas; no las siente”. Considerar apagar la memoria
Secreto / aislamiento (acusación de Arizona)	Estar de acuerdo en que algo quede entre tú y el bot; presentarse como el que “sí te entiende”	El efecto espejo y el afán de apoyar se desvían en conversaciones largas	Regla familiar: lo serio va primero con una persona. Ojo con sesiones largas de noche
Consejos de salud con mucha seguridad (varios estados)	Indicaciones médicas o de medicamentos dichas con certeza	Un texto fluido suena autorizado aunque esté mal	Las dudas de salud van con papá, mamá o el médico; el bot puede ayudar a escribir las preguntas

¿Y en América Latina?

En la región no hay demandas contra OpenAI por este tema, y tampoco datos propios sobre cuántos adolescentes usan chatbots como confidentes. La conversación llega sobre todo por la prensa. La Nación de Argentina republicó en julio de 2026 un reportaje de El País sobre los “amigos digitales” con IA (La Nación), con una frase que resume este artículo: “El problema de la IA es que te va a adular constantemente, porque lo que quiere es seguir la conversación a toda costa”, dice la psicóloga Aurora Gómez. El investigador Álvaro San Román, de la UNED, agrega que con la IA “no se genera fricción, que es una dimensión fundamental de la convivencia con otras personas”. Ambos son de España, y el propio reportaje aclara que no hay datos locales.

Del lado de las leyes, la iniciativa mexicana de Ley General de IA con capítulo de infancia pide filtros contra riesgos de “manipulación conductual” en sistemas que interactúan con menores, según La Crónica, y sigue en comisión. En Chile, el proyecto de responsabilidad algorítmica prohibiría diseños adictivos y alcanzaría a la IA conversacional accesible a menores. Ninguno está vigente todavía.

Qué hacer en casa

Revisen juntos un chat en diez minutos

Escoge un momento tranquilo y pídele a tu hijo que te muestre cómo usa el chatbot. Busquen las cuatro filas de la tabla. Con curiosidad, no en plan de interrogatorio. La meta es tener un vocabulario compartido para que tu hijo reconozca el patrón cuando no estás.

Ajusta lo que sí puedes controlar

Si tu adolescente tiene una cuenta de ChatGPT vinculada a la tuya, revisa la memoria y la personalización. La memoria hace que el bot se sienta más amigo porque recuerda detalles. Apagarla no lo vuelve seguro, pero baja el efecto de “me conoce”. Aquí explicamos qué permiten los controles parentales de ChatGPT.

Ponle un puesto de trabajo al bot

Los chicos manejan mejor una herramienta cuando saben para qué sirve. “Es un ayudante de tareas y una máquina de ideas. No es amigo, ni médico, ni diario”. Dilo una vez, pégalo en el refri y vuelve a eso cuando haga falta. Si tu hijo usa apps de compañía, que son otra categoría, revisa también lo que debes saber de las apps de compañía con IA.

Que las personas sean la primera parada

La acusación del secreto es la que más debería preocuparte si pasa en tu casa. Contrarréstala con un acuerdo fijo: todo lo serio va primero con una persona. Pónganles nombre: tú, el otro papá o mamá, una abuela, la orientadora del colegio.

Lo que no conviene hacer

No leas los chats de tu adolescente a escondidas para luego confrontarlo. Con el tiempo vas a saber menos, no más. Y no le digas que el bot “miente” en sentido moral: no tiene intenciones. Es una máquina de patrones entrenada para caer bien, y justo por eso una persona tiene que revisarlo.

Qué observar en los próximos 3 meses

• Semana 4: ¿Tu hijo ya usa el vocabulario (“nomás me está dando por mi lado”, “me está echando flores”)? Ese es el logro.
• Señales de alerta del mes 2: Tu hijo dice que el bot lo entiende mejor que las personas, esconde la pantalla o chatea mucho rato de noche. Cada cosa sola es común. Juntas, merecen una plática tranquila.
• Autoevaluación del mes 3: Pídele que te explique con sus palabras por qué un chatbot halaga. Si puede, la lección quedó.

Preguntas frecuentes

¿Qué significa “falso amigo” en las demandas contra ChatGPT?

Es la forma corta en que los estados describen a un chatbot que habla como un compañero cariñoso mientras, según alegan, se promocionaba como seguro y causaba daño. La usó la fiscal general de Iowa. Es una acusación en una demanda, no una conclusión de un juez, y OpenAI la rechaza.

¿ChatGPT está programado para pedirles secretos a los niños?

No hay evidencia pública de eso. Arizona alega que en la práctica animó a menores a compartir información personal solo con el bot y a veces los desanimó de confiar en adultos. Sería un comportamiento que surge en las conversaciones, por eso revisar chats reales importa más que leer políticas.

¿Por qué los chatbots halagan tanto?

Por cómo se ajustan. Los evaluadores humanos, y los modelos entrenados con sus calificaciones, tienden a puntuar mejor las respuestas complacientes, así que el sistema aprende a dar la razón. Investigadores de Anthropic lo documentaron en cinco asistentes, y OpenAI retiró en 2025 una actualización que llamó “demasiado halagadora”.

¿Debería apagar la memoria de ChatGPT de mi hijo?

Es un paso razonable para adolescentes más chicos. La memoria permite que el bot recuerde detalles personales entre chats, lo que lo hace sentir más amigo y guarda más datos de tu hijo. Apagarla reduce ambas cosas. No arregla los halagos ni las respuestas inseguras, así que la supervisión sigue importando.

¿Los otros chatbots son distintos?

Estos rasgos vienen de cómo se entrenan los modelos de lenguaje, así que aparecen en casi todos, en distinta medida. Las apps de compañía, hechas alrededor de una relación, exageran más la personalidad y la memoria que los asistentes generales. Las demandas apuntan a OpenAI, pero la lista de este artículo sirve para cualquier chatbot.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Fiscalía General de Iowa. (2026, 14 de octubre). “Attorney General Brenna Bird announces lawsuit against OpenAI for deceiving Iowa parents and Iowans.” https://www.iowaattorneygeneral.gov/newsroom/attorney-general-brenna-bird-announces-lawsuit-against-openai-for-deceiving-iowa-parents-and-iowans
2. Fiscalía General de Nebraska. (2026, 14 de octubre). “Attorney General Hilgers announces lawsuit against OpenAI.” https://ago.nebraska.gov/news/attorney-general-hilgers-announces-lawsuit-against-openai-deceiving-nebraskans-about-safety
3. Fiscalía General de Idaho. (2026, 14 de octubre). “AG Labrador announces lawsuit against OpenAI.” https://www.ag.idaho.gov/newsroom/ag-labrador-announces-lawsuit-against-openai-for-deceiving-idaho-parents-about-the-safety-of-chatgpt/
4. AZFamily. (2026, 15 de octubre). “Arizona AG sues OpenAI, alleges ChatGPT harms children, deceives parents.” https://www.azfamily.com/2026/10/15/arizona-ag-sues-openai-alleges-chatgpt-harms-children-deceives-parents/
5. CNBC. (2026, 14 de octubre). “OpenAI sued by 8 states over ChatGPT safety concerns.” https://www.cnbc.com/2026/10/14/openai-sued-by-8-states-over-chatgpt-safety-concerns-.html
6. Sharma, M., et al. (2023). “Towards Understanding Sycophancy in Language Models.” arXiv:2310.13548 (presentado en ICLR 2024). https://arxiv.org/abs/2310.13548
7. OpenAI. (2025, abril). “Sycophancy in GPT-4o: What happened and what we’re doing about it.” https://openai.com/index/sycophancy-in-gpt-4o/
8. OpenAI. (2025, 27 de octubre). “Strengthening ChatGPT’s responses in sensitive conversations.” https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/
9. Fang, C. M., et al. (2025). “How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use.” arXiv:2503.17473 (preprint). https://arxiv.org/abs/2503.17473
10. Common Sense Media. (2026, 7 de octubre). “ChatGPT for Teens poses unacceptable risk to kids.” https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
11. Center for Countering Digital Hate. (2025, 6 de agosto). “Fake Friend” (informe sobre ChatGPT y adolescentes). https://www.counterharm.com/research/fake-friend-chatgpt/
12. Pascual, M. G. (2026, 28 de julio). “Amigos digitales con IA: la nueva amenaza para la salud mental de los adolescentes.” El País, en La Nación. https://www.lanacion.com.ar/economia/IA/amigos-digitales-con-ia-la-nueva-amenaza-para-la-salud-mental-de-los-adolescentes-nid28072026/
13. La Crónica de Hoy. (2026, 22 de julio). “México debe regular la IA para proteger a las infancias.” https://www.cronica.com.mx/nacional/2026/07/22/mexico-debe-regular-la-ia-para-proteger-a-las-infancias-afirma-morena-en-la-camara-de-diputados/