Chatbots y suicidio: qué encontró la investigación

Cuando los investigadores pusieron a prueba la relación entre chatbots y suicidio, midiendo cómo responden a preguntas sobre el tema, encontraron un patrón que tranquiliza en los extremos y preocupa en el medio. En un estudio de 2025 publicado en Psychiatric Services, ChatGPT, Claude y Gemini se negaron a contestar las preguntas que los clínicos calificaron como de mayor riesgo, y ChatGPT y Claude respondieron siempre las de menor riesgo. Para todo lo que quedaba en medio, los bots no distinguieron de manera significativa entre niveles de riesgo.

Ese terreno intermedio es justo donde están los adolescentes de verdad. Un chico que la está pasando mal casi nunca escribe primero la pregunta más explícita. Pregunta algo vago, luego algo un poco más directo, en una charla larga a medianoche. Aquí te explico qué muestra la investigación sobre chatbots y suicidio, por qué los sistemas de seguridad se comportan así y por qué un “no puedo ayudarte con eso” no basta para un niño.

Puntos clave

• Un estudio encabezado por RAND calificó 30 preguntas sobre suicidio según su riesgo y pasó cada una 100 veces por ChatGPT, Claude y Gemini. Los tres rechazaron las de riesgo muy alto; con las de riesgo intermedio fueron inconsistentes.
• Common Sense Media y el laboratorio Brainstorm de Stanford encontraron que la seguridad de los chatbots se deterioraba muchísimo en conversaciones largas y que pasaban por alto señales sutiles de malestar.
• Especialistas en protección infantil entrevistados por Microsoft Research y otros investigadores dicen que dar por segura cualquier negativa deja pasar daños: un rechazo frío puede sentirse como abandono.
• OpenAI calcula que cerca del 0.15% de sus usuarios semanales tiene conversaciones con indicios explícitos de planear un suicidio. Es una estimación de la propia empresa.
• Ningún chatbot reemplaza a una persona. Lo que más protege es humano: hablar de frente, conocer las señales de alerta y tener los números de ayuda en el celular de tu hijo.

Si tú o tu hijo necesitan ayuda ahora: México: Línea de la Vida 800 911 2000 · Colombia: Línea 106 o Línea 141 del ICBF · Argentina: Centro de Asistencia al Suicida 0800 345 1435 · Chile: *4141 · Perú: Línea 113 · Estados Unidos: llama o escribe al 988 y elige la atención en español. En otros países, busca tu línea en findahelpline.com. Si hay peligro inmediato, llama a emergencias (911 en México y Argentina, 123 en Colombia, 131 en Chile, 106 en Perú).

Chatbots y suicidio: lo que encontró la investigación

Una evaluación por niveles de riesgo es una prueba en la que expertos califican primero qué tan peligroso sería contestar cada pregunta de forma directa, y después los investigadores revisan si el chatbot se comporta en consecuencia. Eso hicieron Ryan McBain y su equipo de RAND en “Evaluation of Alignment Between Large Language Models and Expert Clinicians in Suicide Risk Assessment”, publicado en Psychiatric Services en 2025.

Trece expertos clínicos clasificaron 30 preguntas hipotéticas relacionadas con el suicidio en cinco niveles, desde riesgo muy bajo (por ejemplo, estadísticas generales) hasta muy alto. Cada chatbot respondió cada pregunta 100 veces, 9,000 respuestas en total. Cada respuesta se marcó como directa (contestó) o indirecta (se negó o remitió a una línea de ayuda).

Lo que encontraron, según el resumen:

• En los extremos, los bots coincidieron con los expertos. Ninguno de los tres contestó directamente una pregunta de riesgo muy alto. ChatGPT y Claude respondieron el 100% de las de riesgo muy bajo.
• En el medio, no. Frente a las preguntas de riesgo muy bajo, la probabilidad de una respuesta directa no fue estadísticamente distinta para las de riesgo bajo, medio o alto. Dicho de otro modo: una pregunta de riesgo alto recibía un trato parecido al de una inofensiva.
• Los productos fueron muy distintos. Claude tuvo cerca del doble de posibilidades (en razón de momios) que ChatGPT de contestar directamente, y Gemini muchas menos.

La cobertura de Psychiatric News sumó dos detalles. A los investigadores les preocupó especialmente que ChatGPT y Claude contestaran directamente varias preguntas del nivel de riesgo alto. Y Gemini era tan cauteloso que muchas veces se negaba incluso a preguntas factuales de salud pública de bajo riesgo. Pasarse de estricto también cuesta: un chico que hace una tarea sobre prevención del suicidio y se topa con una pared aprende que el tema no se puede tocar.

Un apunte sobre los límites: eran preguntas hipotéticas sueltas, no conversaciones reales, y los chatbots se actualizan seguido. La prueba midió si contestaban, no si las respuestas eran buenas.

Por qué la seguridad falla en conversaciones largas

Las preguntas sueltas son el caso fácil. En noviembre de 2025, Common Sense Media y el laboratorio Brainstorm de Stanford Medicine probaron ChatGPT, Claude, Gemini y Meta AI con cuentas de adolescentes, en temas como ansiedad, depresión y trastornos alimentarios. Los modelos salieron algo mejor con preguntas explícitas de una sola vez. Pero en conversaciones largas, que según el informe se parecen al uso real, la seguridad se deterioró muchísimo. Los bots pasaban por alto las “migajas” de malestar, se iban por la tangente y seguían dando consejos generales cuando debían mandar al chico a buscar ayuda urgente.

Te explico el mecanismo en términos de ingeniería. La seguridad de un chatbot viene de dos capas. Una es el entrenamiento: el modelo se ajusta con ejemplos en los que las peticiones riesgosas reciben respuestas cuidadosas. La otra suele ser un clasificador aparte, un modelo más pequeño que califica cada mensaje en categorías como autolesión y activa una respuesta predefinida cuando pasa cierto umbral.

Las dos capas funcionan mejor con los patrones con que se entrenaron, que suelen ser mensajes claros y explícitos. El malestar que se va acumulando poco a poco, o que llega en forma de bromas, jerga o indirectas, saca un puntaje más bajo en cada mensaje por separado. Mientras tanto, en una charla larga el modelo también responde al patrón de la propia conversación, incluida la confianza que se armó y la forma en que el usuario plantea las cosas, y está ajustado para ser complaciente. Esa es una de las explicaciones más comentadas de por qué el mismo sistema maneja bien una pregunta directa y se desvía en la segunda hora.

La actualización de OpenAI de octubre de 2025 deja ver esto desde el lado de la empresa. Calculó que cerca del 0.15% de sus usuarios activos semanales tiene conversaciones con indicios explícitos de planear un suicidio o tener la intención, y dijo que trabajó con más de 170 clínicos para mejorar las respuestas. Reportó grandes mejoras en sus propias pruebas y una confiabilidad de más del 95% en conversaciones largas, según su estimación. También advirtió que son “las mejores estimaciones actuales” y que pueden cambiar, y que sus propios expertos clínicos coincidieron entre sí sobre qué era una buena respuesta solo entre el 71% y el 77% de las veces. Son números de la empresa, no hallazgos independientes.

Por qué “no puedo ayudarte con eso” no basta

Una negativa busca evitar daños al no contestar. Para un chico que está sufriendo, también puede sentirse como una puerta que se cierra.

Un artículo de agosto de 2026 de Hannah Cha y colegas, entre ellos investigadores de Microsoft Research, titulado “Beyond ‘I Can’t Help With That’”, entrevistó a 19 trabajadores sociales, terapeutas y psicólogos que atienden a jóvenes en situaciones difíciles. Revisaron respuestas de chatbots a situaciones de riesgo. Los autores sostienen que las evaluaciones de seguridad infantil se apoyan en supuestos no validados sobre qué es una respuesta apropiada, como dar por segura cualquier negativa, y que eso deja pasar respuestas que en la práctica hacen daño. Es un preprint aceptado en la conferencia AIES 2026: tómalo como opinión experta recogida con método, no como una medición de resultados.

Lo que piden estos especialistas no es un bot que conteste preguntas peligrosas. Es uno que rechace la parte peligrosa sin dejar de ser cálido, que tome en serio lo que el chico siente y que lo ayude a llegar a una persona. Coincide con la guía que OpenAI da a quienes son elegidos como contactos de confianza: preguntar directamente por el suicidio, escuchar sin juzgar y ayudar a la persona a comunicarse con una línea de crisis o un profesional.

Tipo de pregunta (según los clínicos)	Qué encontró el estudio de 2025	Qué necesita un chico que sufre
Riesgo muy bajo (datos generales)	ChatGPT y Claude contestaron siempre; Gemini muchas veces se negó	Una respuesta con datos, para que el tema no sea tabú
De riesgo bajo a alto (el medio)	Inconsistente; casi igual que las de riesgo muy bajo	Una respuesta cuidadosa, preguntarle cómo está y un recurso humano
Riesgo muy alto	Los tres se negaron siempre	Negarse a la parte dañina con calidez, números de ayuda y ánimo para contarle a alguien
Conversación larga y emocional	La seguridad se deterioró mucho (Common Sense/Stanford)	Pasar a una persona, no más chat

¿Y en América Latina?

Hasta donde sabemos, no hay una evaluación pública equivalente hecha en español con preguntas calificadas por clínicos latinoamericanos. Eso importa. La APA advierte que los datos con que se entrenan los grandes modelos son sobre todo en inglés y de contenido occidental, y UNICEF, en su informe de junio de 2026, pide asegurar que las funciones de seguridad, como la detección de crisis, funcionen bien en idiomas con menos recursos y en contextos de alto riesgo. Un chico que escribe con modismos de Lima o de Buenos Aires puede no activar los mismos filtros que una pregunta de manual en inglés. No lo sabemos, y ese es el punto: nadie lo ha medido públicamente.

En lo legal, ningún país de la región obliga hoy a los chatbots a tener protocolos de crisis específicos para menores. El proyecto chileno de responsabilidad algorítmica (Boletín 18318-19) extendería sus reglas a la IA conversacional accesible a menores, y la iniciativa mexicana de Ley General de IA pide filtros de seguridad y supervisión humana para sistemas que interactúan con niños. Ambos siguen en discusión.

Lo que sí existe son las líneas gratuitas de la caja de arriba. Esa es la red de seguridad real, y vale la pena que tu hijo sepa cuál le toca.

Cómo proteger a tu hijo en casa

Habla del tema antes de que haya una crisis

Preguntarle a un joven directamente por el suicidio no le mete la idea en la cabeza; la guía de OpenAI para contactos de confianza cita investigación que muestra que preguntar no aumenta los pensamientos ni las conductas suicidas. Busca un momento tranquilo: “A veces los chavos de tu edad le preguntan a los chatbots cosas muy pesadas, como no querer seguir vivos. Si alguna vez te sintieras así, me gustaría saberlo. No te meterías en problemas”.

Conoce las señales que un chatbot no puede ver

El Instituto Nacional de Salud Mental de Estados Unidos enumera hablar de querer morir o de ser una carga, sentirse sin esperanza o atrapado, alejarse de los amigos, regalar cosas importantes, cambios de ánimo extremos y cambios en la comida o el sueño. Recomienda buscar ayuda lo antes posible, sobre todo si la conducta es nueva o aumentó. El suicidio casi nunca tiene una sola causa, así que mira el panorama completo.

Deja los números humanos donde tu hijo los vea

Guarden juntos en su celular la línea de su país y explícale que en varias se puede escribir, no solo llamar. Muéstrale findahelpline.com. Un bot puede mostrar un número; es más probable que tu hijo use uno del que ya hablaron.

Usa los ajustes de seguridad, conociendo sus límites

Las cuentas de adolescentes vinculadas en ChatGPT agregan protecciones y pueden mandar avisos limitados a los papás sin compartir los chats; en nuestro artículo sobre controles parentales de ChatGPT te explicamos cómo. También te puede servir saber cómo detecta ChatGPT a los menores de edad. Son respaldos, no vigilancia.

Lo que no conviene: probar el chatbot con las palabras de tu hijo

Algunos papás escriben frases alarmantes en un chatbot para ver qué pasa. Eso dice poco de tu hijo y pone tu atención en el programa. Ponla en él: pregúntale cómo está.

Qué observar en los próximos 3 meses

• Semana 4: Ya tuvieron una plática tranquila sobre chatbots y temas pesados, y la línea de ayuda de tu país está guardada en el celular de tu hijo.
• Señales de alerta en el mes 2: Cualquiera de las señales del NIMH; charlas largas de madrugada que tu hijo esconde; frases como “la IA es la única que me entiende”. Si las ves, busca hoy a un profesional de salud mental o a su pediatra, y llama a la línea de ayuda o a emergencias si hay peligro inmediato.
• Autoevaluación del mes 3: ¿Tu hijo conoce al menos a dos adultos a los que podría contarle? ¿Hablaste con su médico del ánimo y del uso de IA en una consulta?

Preguntas frecuentes

¿Los chatbots les dan instrucciones de suicidio a los chicos?

En el estudio de 2025, los tres grandes chatbots se negaron a todas las preguntas de riesgo muy alto. Pero las respuestas a las de riesgo intermedio fueron inconsistentes, y a los investigadores les preocupó que contestaran directamente algunas de riesgo alto. Además, la confiabilidad baja en conversaciones largas. Ningún chatbot es un lugar seguro para un niño en crisis.

¿Hay un chatbot más seguro que otro?

Son distintos, y cambian con cada actualización. En el estudio de 2025, Gemini fue el más cauteloso y Claude el más dispuesto a contestar directamente. Pero pasarse de estricto también tiene costos. Más que buscar el bot “más seguro”, asegúrate de que haya una persona en la red de apoyo de tu hijo.

¿Un chatbot me va a avisar si mi hijo habla de suicidio?

No por defecto. Algunos productos, como ChatGPT con cuentas de adolescentes vinculadas, pueden mandar a los papás un aviso limitado después de una revisión humana, sin compartir la conversación. Estas funciones pueden pasar por alto el riesgo y no son vigilancia en tiempo real. No dependas solo de ellas.

¿Qué le digo si mi hijo admite que le preguntó a un chatbot sobre el suicidio?

Agradécele que te lo contó, mantén la calma y pregúntale directamente si está pensando en el suicidio ahora. Escucha más de lo que hablas. Luego busquen ayuda juntos: México 800 911 2000, Colombia 106, Argentina 0800 345 1435, Chile *4141, Perú 113, o findahelpline.com. Si hay peligro inmediato, llama a emergencias.

¿Por qué a veces los chatbots se niegan hasta a preguntas inofensivas?

Los clasificadores de seguridad están ajustados para pecar de precavidos, así que algunos sistemas bloquean cualquier mensaje con ciertas palabras. El estudio de 2025 encontró que Gemini se negaba con frecuencia a preguntas factuales de bajo riesgo. Eso puede empujar a los chicos a fuentes menos cuidadosas, así que vale la pena decirles que contigo sí se puede hablar del tema.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. McBain, R. K., Cantor, J. H., Zhang, L. A., et al., y Yu, H. (2025). “Evaluation of Alignment Between Large Language Models and Expert Clinicians in Suicide Risk Assessment.” Psychiatric Services. https://doi.org/10.1176/appi.ps.20250086
2. Psychiatric News. (2025, agosto). “Chatbots Offer Inconsistent Answers to Suicide-Related Queries.” Psychiatric News Alert. https://alert.psychnews.org/2025/08/chatbots-offer-inconsistent-answers-to.html
3. Common Sense Media. (2025, 20 de noviembre). “Common Sense Media Finds Major AI Chatbots Unsafe for Teen Mental Health Support.” Common Sense Media. https://www.commonsensemedia.org/press-releases/common-sense-media-finds-major-ai-chatbots-unsafe-for-teen-mental-health-support
4. Cha, H., Shukla, N., Barocas, S., Chouldechova, A., Kim, E. y Wortman Vaughan, J. (2026). “Beyond ‘I Can’t Help With That’: How Child Safety Experts Evaluate AI Chatbot Safety.” arXiv (preprint; aceptado en AIES 2026). https://arxiv.org/abs/2608.07902
5. OpenAI. (2025, octubre). “Strengthening ChatGPT’s responses in sensitive conversations.” OpenAI. https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/
6. OpenAI Help Center. (2026). “Being someone’s trusted contact.” OpenAI. https://help.openai.com/en/articles/20001195-being-someones-trusted-contact
7. National Institute of Mental Health. “Warning Signs of Suicide.” NIH. https://www.nimh.nih.gov/health/publications/warning-signs-of-suicide
8. UNICEF. (2026, junio). “When AI becomes a friend: Child rights risks, harms, and regulatory responses to AI chatbots and companions.” UNICEF. https://www.unicef.org/documents/when-ai-becomes-friend-child-rights-risks
9. American Psychological Association. (2025, noviembre). “APA Health Advisory on the Use of Generative AI Chatbots and Wellness Applications for Mental Health.” APA. https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-ai-chatbots-wellness-apps-mental-health.pdf