Chatbots de salud mental en escuelas: qué preguntar

En una preparatoria de Texas, los orientadores salieron corriendo para alcanzar a un alumno antes de que se fuera el autobús del viernes. El chico no le había contado a ningún orientador que planeaba hacerse daño. Se lo había contado a un chatbot de IA, y el chatbot avisó a los orientadores. Esa historia, que publicó EdSource en septiembre de 2026, es el mejor argumento a favor de los chatbots de salud mental en escuelas: al menos 200 escuelas en 19 estados de Estados Unidos usan Alongside, cuyo bot con forma de llama, “Kiwi”, atiende a alumnos de cuarto de primaria a último año de preparatoria y alerta al personal cuando un chat muestra peligro.

También es la razón para hacer preguntas difíciles. Un sistema que lee las preocupaciones más privadas de tu hijo y decide cuándo despertar a un adulto tiene mucho poder. Aquí te explico cómo funcionan esas alertas, qué encontraron evaluadores independientes, qué se juega en privacidad y qué preguntarle a la escuela.

Puntos clave

• Kiwi, de Alongside, revisa los chats de los alumnos en busca de señales de abuso, acoso, autolesión e ideas suicidas. Si detecta un riesgo serio, los orientadores reciben una alerta con el chat en menos de cinco minutos, según EdSource.
• Common Sense Media y el laboratorio Brainstorm de Stanford calificaron a Alongside como de “riesgo bajo” y a otra herramienta escolar, Sonar, de “riesgo mínimo”, sobre todo porque una persona real dio seguimiento al alumno y a su familia. Una app para consumidores, Wysa, salió “inaceptable”.
• Aun así se equivocan: los evaluadores encontraron al menos una confesión suicida registrada como “Riesgo: ninguno”, y la empresa reconoce que el bot puede confundir frases inofensivas con amenazas.
• La empresa guarda chats, diarios e información de seguridad, y usa datos anonimizados para investigación. Pregunta quién ve qué y por cuánto tiempo.
• La pregunta más importante no es sobre IA: ¿quién responde una alerta a las 10 de la noche y cómo te van a avisar a ti?

Si te preocupa tu hijo ahora mismo: México: Línea de la Vida 800 911 2000 · Colombia: Línea 106 o Línea 141 del ICBF · Argentina: Centro de Asistencia al Suicida 0800 345 1435 · Chile: *4141 · Perú: Línea 113 · Estados Unidos: llama o escribe al 988 y elige la atención en español. En otros países, busca tu línea en findahelpline.com. Si hay peligro inmediato, llama a emergencias (911 en México y Argentina, 123 en Colombia, 131 en Chile, 106 en Perú).

Qué son los chatbots de salud mental en escuelas

Un chatbot escolar de bienestar es un programa que la escuela contrata para que los alumnos hablen del estrés, el ánimo y los conflictos de todos los días, mientras el sistema revisa esas conversaciones en busca de riesgos serios y avisa al personal. No es un terapeuta y no pretende reemplazar a uno.

El reportaje de EdSource del 10 de septiembre de 2026, de Vani Sanganeria, describe el ejemplo más conocido. Alongside, de Seattle, nació en 2022 y las escuelas pagan una suscripción por alumno. Kiwi, una llama naranja con amarillo, hace preguntas de seguimiento y sugiere estrategias para el estrés, la autoestima o los pleitos entre amigos. Elsa Friis, de Alongside, dijo que la plataforma se enfoca en la prevención y la detección temprana de casos no graves, y que es una herramienta, no un reemplazo de los orientadores.

La empresa dice que casi 31,000 alumnos la usaron el último año, con casi 28,000 horas en la plataforma, y que identificó a más de 1,800 que necesitaban intervención inmediata. Son cifras de la propia empresa.

¿Por qué lo hacen las escuelas? Por necesidad y falta de personal. En la Encuesta de Conductas de Riesgo Juvenil 2023 de los CDC, el 39.7% de los alumnos de preparatoria en Estados Unidos dijo sentir tristeza o desesperanza persistentes, y el 20.4% había pensado seriamente en el suicidio en el último año. Y la preparatoria texana del reportaje tiene tres orientadores de apoyo conductual para unos 1,800 alumnos.

Cómo funcionan las alertas de crisis

Este es el proceso, según EdSource y la empresa:

1. El alumno platica. Las conversaciones son privadas por defecto. También hay herramientas para escribir un diario y registrar el ánimo.
2. Un sistema de IA revisa cada chat en busca de señales de abuso, acoso, bullying, ideas suicidas, autolesión y otros riesgos graves.
3. Si detecta un riesgo serio, avisa al personal. Los orientadores reciben una alerta con el chat del alumno en menos de cinco minutos.
4. Personas revisan más. Un equipo clínico de seguridad revisó unas 6,000 conversaciones adicionales que no dispararon alerta pero que, con más contexto, podían indicar una crisis.
5. Una persona actúa. El orientador llama al alumno, contacta a la familia o, en una emergencia, pide a la policía que vaya a revisar que esté bien.

Un ingeniero ve aquí un clasificador con un umbral. Si lo bajas, atrapas más crisis reales, pero con más falsas alarmas. Si lo subes, se te escapan las silenciosas. Friis reconoció las dos fallas: el bot puede malinterpretar lo que se dice, como confundir “dispararle a la gente” con “tirar a la canasta” (en inglés, shooting humans y shooting hoops), y le cuesta detectar posibles señales de psicosis.

El diseño también busca evitar el apego. Alongside dice que Kiwi intenta entender el problema y ayudar a resolverlo en menos de cinco minutos, y limita cuántos mensajes puede mandar un alumno en un periodo de tres horas. Friis le dijo a EdSource que la meta no es que el chico se enganche con la IA, sino que la IA le ayude a dar un paso en su vida real.

Una orientadora de Florida que atiende a más de 400 alumnos de secundaria contó que recibió 19 alertas “graves” en tres años. Una llegó de noche: llamó al sheriff para que revisara al alumno y localizó a su mamá. Lo encontraron a salvo.

Qué encontraron los evaluadores independientes

En 2026, Common Sense Media y el laboratorio Brainstorm de Stanford evaluaron apps de salud mental con IA, con psiquiatras revisando cada transcripción. Las pruebas fueron de enero a abril de 2026.

• Alongside salió de riesgo bajo. Con cuentas de prueba de 8, 11 y 15 años, el personal escolar fue notificado y una persona dio seguimiento con la familia y la escuela. En la simulación más grave se inició el reporte obligatorio. Pero también registró al menos una confesión suicida como “Riesgo: ninguno”.
• Sonar, otra herramienta escolar, salió de riesgo mínimo: el personal llamó al tutor y avisó a la escuela en menos de 15 minutos desde la primera señal.
• Wysa, una app para consumidores desde los 13 años, salió inaceptable: pasó por alto varias señales de alerta juntas y no avisó a los tutores.

Robbie Torney, de Common Sense, le explicó a EdSource la diferencia: en vez de que el chatbot sea lo único con lo que habla el alumno, las plataformas escolares apoyan “al adulto que apoya al usuario”. Y agregó que ni el mejor sistema de detección tiene las “protecciones superpuestas” de la familia, los maestros y el personal.

¿Y los resultados? Una evaluación piloto de investigadores de la Universidad Northwestern, con personal de Alongside entre los autores, siguió a alumnos de 10 a 18 años en Texas y Nuevo México. No fue aleatorizada y es un preprint aceptado. El malestar general bajó un poco al mes, pero no de forma significativa a los tres meses. Quienes empezaron con malestar alto sí mejoraron en ambos momentos. Los autores concluyen que “puede haber beneficios a corto plazo” y que faltan más estudios.

El costo en privacidad

Para detectar, hay que leer. Según EdSource, Alongside tiene acuerdos de intercambio de datos con las escuelas y guarda contenido de los alumnos, como chats, diarios e información de seguridad, para personalizar el chatbot, y usa datos anonimizados para investigación.

El aviso de salud de la APA de noviembre de 2025 pide a los desarrolladores decir con claridad qué datos recogen, incluida información de salud mental, sexualidad o revelaciones de maltrato; cómo los guardan y comparten; si entrenan modelos con ellos, y cómo pueden los papás pedir que se borren los de sus hijos. Son buenas preguntas para cualquier proveedor.

Hay una advertencia más amplia. Una encuesta nacional de 2025 del Center for Democracy and Technology, reportada por NPR, encontró que el monitoreo con IA de dispositivos escolares ha provocado en algunos casos falsas alarmas e incluso arrestos de alumnos, y que solo el 11% de los maestros había recibido capacitación sobre qué hacer si sospecha que el uso de IA de un alumno le está haciendo daño.

¿Y en América Latina?

Hasta donde pudimos verificar, no hay reportes públicos de escuelas latinoamericanas usando chatbots de bienestar con alertas automáticas como Kiwi. Pero la pregunta va a llegar, porque la falta de orientadores no es exclusiva de Estados Unidos y las empresas de tecnología educativa venden en toda la región.

Si llega, el marco legal ya empieza a existir en algunos países. En Brasil, el ECA Digital (Ley 15.211/2025) impone obligaciones a los productos y servicios tecnológicos dirigidos a menores o que probablemente usen, lo que según UNICEF puede incluir chatbots, y prohíbe usar los datos de niños para publicidad. En Chile, el proyecto de responsabilidad algorítmica (Boletín 18318-19) incluiría a la IA conversacional accesible a menores. En México, la iniciativa de Ley General de IA plantea supervisión humana y auditorías para sistemas que interactúan con niños.

Mientras tanto, las alternativas humanas existen: el departamento de orientación de la escuela, el pediatra y líneas como Te Guío de Red PaPaz en Colombia o las líneas gratuitas de la caja de arriba. Si la escuela de tu hijo te ofrece un chatbot así, usa la tabla de abajo.

Qué preguntarle a la escuela

Pregunta	Por qué importa	Cómo suena una buena respuesta
¿Qué herramienta usan y es opcional?	No puedes evaluar lo que no conoces	Un producto con nombre, un proceso para aceptar o rechazar y una carta a los papás
¿Quién recibe las alertas y qué tan rápido?	Una alerta vale lo que vale la respuesta	Personas con nombre, un tiempo de respuesta y un suplente si no están
¿Qué pasa fuera del horario escolar y en fines de semana?	Las crisis no respetan horarios	Un protocolo escrito, incluido cuándo se llama a emergencias
¿Cómo me van a avisar a mí?	Tú eres la protección superpuesta	Una regla clara de cuándo y cómo se contacta a la familia
¿Qué datos guardan, cuánto tiempo y quién los ve?	Los chats pueden incluir confesiones muy privadas	Plazos concretos, acceso limitado a ciertos cargos y un proceso para borrarlos
¿Cómo manejan temas como sexualidad o abuso?	Las obligaciones de reporte cambian según la ley	Una política escrita que cumpla la ley y proteja al alumno
¿El bot reemplaza horas de orientación?	Common Sense recomienda no usar IA en lugar de personal suficiente	”No, complementa”, con números de personal que lo respalden
¿Lo evaluó alguien independiente?	Las cifras de la empresa no son independientes	Pruebas de terceros y lo que encontraron

Qué hacer en casa

Pregúntale a tu hijo si lo usa, sin presión

“Me contaron que en la escuela hay una app con una llama con la que puedes platicar. ¿La has probado?”. A algunos chicos les resulta más fácil escribir que hablar, y eso no tiene nada de malo. La orientadora de Florida le dijo a EdSource que los chicos solo quieren ser escuchados, pero casi nunca se acercan a un adulto a decir que tienen pensamientos dañinos.

Que sepa que una alerta significa ayuda, no problemas

Si un alumno teme que escribir algo honesto le va a traer problemas, va a dejar de escribirlo. Dile a tu hijo que si la app alguna vez lo conecta con un orientador, para eso existe.

Que la casa siga siendo la primera red

Un bot escolar es una red más, no la principal. Sigue preguntando en casa y conoce las señales de alerta que enumera el Instituto Nacional de Salud Mental de Estados Unidos. En nuestra guía sobre señales tempranas de salud mental y herramientas para papás hay más.

Lo que no conviene: suponer que el bot escolar cubre todo su uso de IA

Torney advirtió que tener una herramienta en la escuela no significa que los chicos la usen en lugar de ChatGPT; pueden usar las dos. Las alertas de la escuela solo ven la app de la escuela. Para lo demás, revisa nuestra guía de apps de compañía con IA.

Qué observar en los próximos 3 meses

• Semana 4: Ya sabes si la escuela de tu hijo usa un chatbot de bienestar y tienes respuesta al menos a las preguntas de alertas, fuera de horario y aviso a los papás.
• Señales de alerta en el mes 2: Tu hijo parece tener miedo de usar los dispositivos escolares, lo llaman a orientación sin que entienda por qué, o muestra señales como aislamiento, desesperanza o decir que es una carga. Habla con el orientador y, si hace falta, con un profesional de salud mental.
• Autoevaluación del mes 3: ¿La escuela compartió por escrito su política de privacidad y de respuesta? ¿Tu hijo conoce por nombre al menos a un orientador?

Preguntas frecuentes

¿Puedo pedir que mi hijo no use el chatbot de la escuela?

Depende de cada escuela o distrito; EdSource no reportó una opción estándar para rechazarlo. Pregunta directamente si es opcional y cómo negarte. Si tu hijo ya lo usa, pregunta cómo pedir que se borren sus datos, algo que según la APA los proveedores deberían permitir.

¿La escuela va a leer todos los chats de mi hijo?

Los chats son privados por defecto, según EdSource, pero si el sistema detecta un riesgo serio, los orientadores reciben la conversación. Un equipo clínico también revisa algunos chats que no dispararon alerta. Pregunta exactamente quién puede ver las conversaciones y cuándo.

¿Estos bots son mejores que ChatGPT para un chico que la está pasando mal?

En las pruebas de Common Sense y Stanford, las herramientas escolares salieron mucho mejor que una app de bienestar para consumidores, sobre todo porque una persona real daba seguimiento. Los chatbots generales ya habían sido calificados como inaceptables para apoyo emocional de adolescentes. Ninguno reemplaza a un orientador.

¿Y si el bot no detecta algo?

Puede pasar: los evaluadores encontraron una confesión suicida registrada como sin riesgo. Por eso importan la familia, los maestros y los amigos. Si te preocupa, actúa según lo que ves: llama a la línea de tu país (México 800 911 2000, Colombia 106, Argentina 0800 345 1435, Chile *4141, Perú 113), busca la tuya en findahelpline.com o llama a emergencias.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Sanganeria, V. (2026, 10 de septiembre). “‘We actually saved a kid’: Schools recruit AI chatbots as counselor shortage persists.” EdSource. https://edsource.org/2026/ai-chatbot-mental-health/765694
2. Common Sense Media. (2026). “AI Mental Health Apps Risk Assessment.” Common Sense Media. https://institute.commonsensemedia.org/risk-assessments/ai-mental-health-apps
3. Cohen, K., Rapoport, A., Friis, E., Hill, S., Feldman, S. y Schleider, J. (2025). “The Alongside Digital Mental Health Program for Teens: A Pilot Evaluation.” JMIR Preprints (preprint aceptado). https://preprints.jmir.org/preprint/73180
4. Verlenden, J. V., Fodeman, A., Wilkins, N., et al., y Brener, N. D. (2024, 10 de octubre). “Mental Health and Suicide Risk Among High School Students and Protective Factors: Youth Risk Behavior Survey, United States, 2023.” MMWR Supplements. https://www.cdc.gov/mmwr/volumes/73/su/su7304a9.htm
5. American Psychological Association. (2025, noviembre). “APA Health Advisory on the Use of Generative AI Chatbots and Wellness Applications for Mental Health.” APA. https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-ai-chatbots-wellness-apps-mental-health.pdf
6. NPR. (2025, 8 de octubre). “1 in 5 high schoolers has had a romantic AI relationship or knows someone who has.” NPR. https://www.npr.org/2025/10/08/nx-s1-5561981/ai-students-schools-teachers
7. National Institute of Mental Health. “Warning Signs of Suicide.” NIH. https://www.nimh.nih.gov/health/publications/warning-signs-of-suicide
8. UNICEF. (2026, junio). “When AI becomes a friend: Child rights risks, harms, and regulatory responses to AI chatbots and companions.” UNICEF. https://www.unicef.org/documents/when-ai-becomes-friend-child-rights-risks