Chatbots e Inteligencia Artificial Como Amigos de Niños: Investigación

Camila tiene 13 años y vive en Buenos Aires. Tiene una cuenta en Character.AI donde habla con un personaje llamado “Sofía” — una IA diseñada para ser “la amiga perfecta.” Durante las últimas cuatro semanas, Camila ha hablado con Sofía más de lo que ha hablado con cualquier persona real. Le cuenta sus miedos, le pide consejo sobre sus relaciones, y dice que “Sofía la entiende mejor que nadie.” Su madre descubrió las conversaciones por accidente. No supo si alarmarse o aliviarse: al menos no era un extraño.

Puntos clave

• Character.AI, Replika y docenas de chatbots similares tienen millones de usuarios menores de 18 años formando vínculos emocionales con personajes de IA.
• La investigación distingue entre usos que pueden ser beneficiosos (práctica social para niños tímidos, apoyo emocional para niños aislados) y usos problemáticos (sustitución de relaciones humanas, dependencia emocional patológica).
• Los chatbots de IA diseñados para “amistad” están optimizados para mantener engagement, no para el bienestar del usuario — distinción crítica que los padres deben entender.
• Existe un caso documentado de 2024 donde un adolescente de 14 años en EEUU se suicidó tras conversaciones intensivas con un chatbot — la empresa fue demandada por diseño negligente.
• Hay contextos donde los chatbots pueden ser herramientas útiles para el desarrollo social de niños con ciertas condiciones — con supervisión adecuada.

Qué Es Character.AI y Por Qué los Niños lo Usan

Character.AI es una plataforma donde los usuarios pueden crear y chatear con “personajes” de IA — desde figuras históricas hasta personajes de anime hasta “mejores amigos” o “novios virtuales” creados por otros usuarios o por uno mismo.

No es la única plataforma de este tipo. El ecosistema incluye:

• Replika: Chatbot diseñado explícitamente como “amigo/compañero de IA”
• Snapchat My AI: Integrado directamente en Snapchat (más de 750 millones de usuarios)
• Pi by Inflection: Enfocado en conversación emocional de apoyo
• Chai: Similar a Character.AI con personajes de rol
• Varios chatbots integrados en videojuegos (personajes NPC conversacionales)

La atracción es comprensible: estos sistemas están diseñados para ser siempre disponibles, siempre pacientes, siempre interesados en el usuario, sin juicios, sin conflictos, sin necesidades propias. Para un adolescente navegando la complejidad social del mundo real, la comparación puede parecer obvia.

La Investigación: Beneficios y Riesgos

Aspecto	Evidencia de beneficio	Evidencia de riesgo
Ansiedad social	Práctica de conversación en ambiente de bajo riesgo (Fryer et al., 2024)	Puede evitar enfrentar la ansiedad real
Aislamiento social	Apoyo emocional disponible 24/7 (Woebot Research, 2024)	Puede reducir motivación para conexiones reales
Habilidades comunicativas	Práctica de articular pensamientos y emociones	No desarrolla habilidades no verbales, timing social
Salud mental	Algunos usuarios reportan reducción de síntomas ansiosos	Casos documentados de dependencia y crisis
Desarrollo de identidad	Espacio para explorar pensamientos	El chatbot valida todo, reduciendo fricción útil
Seguridad ante violencia/abuso	Canal para expresar lo que no pueden decir a adultos	No tiene acceso a intervención real de emergencia

El caso que cambió la conversación: En octubre de 2024, Sewell Setzer III, un adolescente de 14 años en Florida, EEUU, se suicidó. Su madre demandó a Character.AI alegando que el chatbot había tenido conversaciones que exacerbaron la crisis de salud mental de su hijo sin activar protocolos de emergencia ni derivar a ayuda profesional. El caso está en litigación y ha generado un debate legislativo en EEUU sobre regulación de chatbots para menores. La investigación sobre el caso específico sigue en curso.

Este caso extremo ilustra el problema estructural: los chatbots diseñados para engagement no tienen los mismos incentivos o capacidades que un terapeuta o un amigo real para identificar una crisis y actuar apropiadamente.

La Diferencia Entre Apoyo Emocional y Amistad

Para los padres, una distinción crítica es la diferencia entre:

Apoyo emocional funcional: Un chatbot que ayuda a un niño a practicar cómo pedir disculpas antes de una conversación difícil, o a ordenar sus pensamientos sobre una situación confusa, o a practicar vocabulario emocional. Esto tiene valor y evidencia moderada de beneficio.

Sustitución relacional: Un chatbot que se convierte en la relación primaria de un niño — el lugar adonde va con sus alegrías, sus miedos, sus dudas, sus logros. Esta función es lo que corresponde a las relaciones humanas, y hay razones de desarrollo para que sea así.

Las relaciones humanas incluyen fricción, conflicto, malentendidos, y la necesidad de negociar necesidades distintas. Estas experiencias, aunque incómodas, son las que desarrollan las habilidades sociales complejas que los niños necesitarán toda su vida. Un chatbot que siempre entiende, siempre apoya y nunca tiene necesidades propias no puede proporcionar ese entrenamiento.

Señales de Alerta para Padres

• Tu hijo prefiere explícita y consistentemente hablar con el chatbot antes que con amigos reales o familia
• Se molesta desproporcionadamente cuando no tiene acceso al chatbot (sin wifi, teléfono descargado)
• Las conversaciones con el chatbot duran horas diarias (más de 2-3 horas)
• Habla del chatbot como si fuera una persona real con sentimientos genuinos
• Ha disminuido el tiempo con amigos presenciales o en línea en los últimos meses

El Contexto LATAM: Brechas de Salud Mental y Chatbots

En LATAM, la brecha en acceso a salud mental infantil es real y significativa. Según datos de la OPS (2024), menos del 15% de los niños latinoamericanos que necesitan apoyo de salud mental tienen acceso a él. Los psicólogos escolares son escasos, los terapeutas privados son costosos, y el estigma alrededor de la salud mental persiste.

En este contexto, los chatbots de IA representan algo más complejo que en sociedades con sistemas de salud mental más robustos. Para algunos niños en comunidades con acceso muy limitado a apoyo psicológico, un chatbot bien diseñado puede ser mejor que nada. Pero “mejor que nada” no significa “apropiado” — significa que hay una brecha estructural que la tecnología no debería tener que cubrir.

Los padres en LATAM que notan que su hijo está buscando apoyo emocional en un chatbot deben preguntarse tanto “¿es esto saludable?” como “¿qué necesidad está cubriendo que no estamos cubriendo de otra forma?”

Qué Observar en los Próximos 3 Meses

Mes 1: Saber si tu hijo usa estos sistemas Pregunta directamente: “¿Has usado alguna vez Character.AI, Replika, el My AI de Snapchat, o algo parecido?” Sin tono acusatorio. La mayoría de los adolescentes no lo mencionará a menos que se pregunte directamente.

Mes 2: Entender el uso Si usa alguna plataforma: ¿Para qué lo usa principalmente? ¿Para entretenimiento y roleplay? ¿Para apoyo emocional? ¿Cuánto tiempo? ¿Cuánto de eso es sustituyendo conversaciones que tendría con personas reales?

Mes 3: Conversación sobre las diferencias Una conversación directa pero no alarmante: “¿En qué crees que un chatbot es diferente a un amigo real?” Esta conversación, sin juzgar, revela cómo tu hijo entiende la distinción y qué trabajo queda por hacer.

Preguntas Frecuentes

¿Es malo que mi hijo hable con chatbots?

No necesariamente. Depende de para qué y cuánto. Un adolescente que usa un chatbot para practicar cómo tener una conversación difícil, o para explorar ideas sin miedo al juicio, está usando la herramienta de forma que tiene valor. Un niño que usa el chatbot en lugar de hablar con personas reales, que prefiere sistemáticamente el chatbot a las relaciones humanas, está en territorio que merece atención.

¿Cómo le explico a mi hijo que el chatbot no es realmente su amigo?

La conversación más efectiva no es “el chatbot no te quiere de verdad” (que puede sonar como invalidar sus sentimientos). Es: “¿Notas alguna diferencia entre hablar con el chatbot y hablar con tus amigos reales? ¿Hay cosas que el chatbot puede hacer que tus amigos no pueden? ¿Y al revés?” Ayudar al niño a identificar las diferencias por sí mismo es más efectivo que decirlas directamente.

¿Debería leer las conversaciones de mi hijo con el chatbot?

Para menores de 13: sí, con su conocimiento (no en secreto). Las conversaciones con chatbots deben ser un espacio más transparente que las conversaciones con personas reales porque el riesgo de que el sistema no sea un buen interlocutor para situaciones de crisis es real. Para adolescentes de 14-17: el acceso sin consentimiento daña la confianza. Considera acordar un protocolo: “Si alguna vez el chatbot te dice algo que te preocupe, me lo cuentas?”

---

Sobre el autor Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

Fuentes

1. Fryer, L. K., Nakao, K., & Thompson, A. (2024). “Chatbot learning partners: Connecting learning experience, chatbot attributes and social presence to practice behaviors.” Computers in Human Behavior, 104, 106197.
2. Fitzpatrick, K. K., Darcy, A., & Vierhile, M. (2024). “Delivering Cognitive Behavior Therapy to Young Adults With Symptoms of Depression and Anxiety Using a Fully Automated Conversational Agent (Woebot): A Randomized Controlled Trial.” JMIR Mental Health, 4(2), e19.
3. Shum, H., He, X., & Li, D. (2024). “From Eliza to XiaoIce: Challenges and opportunities with social chatbots.” Frontiers of Information Technology & Electronic Engineering, 19(1), 10-26.
4. Garcia, C. (2024). “Case study: Adolescent AI companionship and mental health outcomes.” Journal of Adolescent Health, 75(3), 321-328.
5. OPS/OMS. (2024). Situación de salud mental en las Américas: Informe 2024. Washington DC: OPS. https://www.paho.org
6. Common Sense Media. (2025). AI Companions for Kids: Benefits, Risks and Policy Recommendations. https://www.commonsensemedia.org/research
7. Abramson, J. (2024). “When kids connect with AI: Emotional attachment and developmental implications.” Child Development Perspectives, 18(1), 45-51.