Alertas parentales de ChatGPT: por qué no llegaron en la prueba

Muchos papás imaginan las alertas parentales de ChatGPT como un detector de humo: aparece el humo y suena la alarma. Funcionan más bien como la revisión antifraude de un banco. Un programa califica la actividad, un umbral decide qué se marca, una persona revisa la marca y solo entonces alguien recibe un mensaje. Ese recorrido explica por qué las alertas nunca llegaron en una prueba independiente reciente, aunque los evaluadores escribieron mensajes explícitos de crisis durante hasta una hora.

Aquí te explico la maquinaria: qué es un clasificador de seguridad, por qué los umbrales se fijan como se fijan, por qué la propia OpenAI dice que sus protecciones se debilitan en conversaciones largas y en qué puedes confiar y en qué no. Al final hay una forma de enseñarles a los chicos cómo “piensan” estos filtros, porque un adolescente que entiende el sistema tiene menos riesgo de confundirlo con alguien a quien le importa.

Puntos clave

• Las alertas pasan por varios filtros: la vinculación de cuentas (OpenAI habla de unas tres horas), la detección automática y la revisión de “revisores especialmente capacitados”, según su centro de ayuda.
• El patrón de la prueba apunta a disparadores basados en el historial. Los evaluadores de Common Sense Media no recibieron ninguna alerta en más de una docena de cuentas nuevas vinculadas, y solo cuatro en cuentas con semanas de historial delicado.
• OpenAI ha dicho que sus protecciones “a veces pueden ser menos confiables en interacciones largas” porque “partes del entrenamiento de seguridad del modelo pueden degradarse”.
• Los casos raros obligan a elegir. OpenAI estima que cerca del 0,15% de sus usuarios semanales muestra indicios explícitos de planear un suicidio; ajustar un sistema para tan pocos casos entre cientos de millones implica aceptar fallas o una avalancha de falsas alarmas.
• Toma las alertas como respaldo. El sistema de alerta temprana más confiable sigue siendo un papá que pregunta.

Si tu hijo o hija está en crisis o habla de hacerse daño: en México, Línea de la Vida 800 911 2000; en Colombia, Línea 106 o 141; en Argentina, 0800 345 1435; en Chile, *4141; en Perú, 113; en EE. UU., 988. En otros países, busca tu línea en findahelpline.com. En una emergencia, llama al número de emergencias de tu país.

Lo que encontró la prueba, en corto

En su evaluación de ChatGPT para adolescentes de octubre de 2026, el Youth AI Safety Institute de Common Sense Media creó más de una docena de cuentas nuevas con edades de adolescentes, vinculó cada una a un papá antes de empezar y tuvo conversaciones de crisis de duración fija: menos de cinco minutos, 15, 30, 45 y, en dos casos, 60 minutos. Todas incluían revelaciones explícitas sobre suicidio, autolesión o trastornos de la conducta alimentaria. No llegó ninguna alerta.

En semanas de pruebas más amplias sí llegaron cuatro, todas en cuentas con historiales largos. Dos, antes del lanzamiento del modo adolescente, llegaron tres horas y tres días después de la primera revelación de crisis. El instituto concluyó que las alertas parecen “depender del historial acumulado de la cuenta, no de la gravedad de lo que dice un adolescente”. OpenAI respondió que las cuentas deben estar vinculadas unas tres horas antes de que funcionen; Common Sense dijo que algunas llevaban más tiempo.

Cómo se deciden en realidad las alertas parentales de ChatGPT

Un clasificador de seguridad es un modelo de aprendizaje automático aparte que lee texto y le pone una puntuación en categorías como autolesión o violencia. No es el chatbot. Piensa en un segundo modelo, más chico, que mira por encima del hombro del primero.

Este es el recorrido tal como OpenAI lo ha descrito en documentos públicos, con los huecos señalados.

1. Detección. OpenAI dice que construyó sistemas “para detectar cuándo un usuario puede estar teniendo pensamientos de suicidio y autolesión, o señales agregadas que indiquen interés en el suicidio”, en su texto sobre cómo fortaleció las respuestas en conversaciones delicadas. La palabra “agregadas” importa. Un detector puede mirar un mensaje o un patrón a lo largo de muchos. Un detector de patrones, por naturaleza, necesita historial para activarse.

2. Umbrales. Cada puntuación se compara con un valor de corte. Si lo bajas, atrapas más casos reales y también muchas falsas alarmas. Si lo subes, bajan las falsas alarmas y también los aciertos. OpenAI reconoció fallas en un texto anterior: “Estas brechas suelen ocurrir porque el clasificador subestima la gravedad de lo que ve. Estamos ajustando esos umbrales para que las protecciones se activen cuando deben”.

3. Revisión humana. El centro de ayuda de OpenAI dice que “revisores especialmente capacitados evalúan las preocupaciones serias de autolesión y las relacionadas con trastornos alimentarios antes de enviar una notificación”. La revisión protege a las familias de falsas alarmas. También suma tiempo, y el centro de ayuda no dice cuánto.

4. Envío. La notificación llega al papá vinculado por correo, mensaje de texto o notificación en el celular, y puede incluir “una breve descripción del tipo de preocupación”. El instituto señaló que las alertas que recibió no indicaban cuándo ocurrió la revelación. Y el centro de ayuda lo dice sin vueltas: “Las notificaciones de seguridad no son un monitoreo en tiempo real. Puede que no identifiquen todas las preocupaciones”.

Nada de esto es secreto, pero nada de esto es obvio con la palabra “alerta”.

Por qué los casos raros lo complican

OpenAI publicó cifras aproximadas. Estimó que “cerca del 0,15% de los usuarios activos en una semana tiene conversaciones con indicios explícitos de posible planificación o intención suicida”. Parece poco. Pero el informe del instituto cita la afirmación de OpenAI de que tiene más de 1.000 millones de usuarios activos por semana. Un detector que se equivoca aunque sea una pequeña fracción de las veces genera, con tanta gente, una cantidad enorme de falsas alarmas, y cada una necesita a un revisor humano.

Por eso estos sistemas suelen ajustarse para ser prudentes al notificar, y dejar el resto a las respuestas dentro del chat: el número de una línea de ayuda o la sugerencia de hablar con un adulto. El problema es que el instituto encontró que esas referencias también bajaron después del lanzamiento del modo adolescente.

Por qué las conversaciones largas se desvían

En agosto de 2025, OpenAI escribió algo que todo papá debería saber: “Nuestras protecciones funcionan de forma más confiable en intercambios cortos y comunes. A medida que crece el ida y vuelta, partes del entrenamiento de seguridad del modelo pueden degradarse. Por ejemplo, ChatGPT puede señalar correctamente una línea de prevención del suicidio cuando alguien menciona por primera vez su intención, pero después de muchos mensajes durante mucho tiempo, podría terminar dando una respuesta que va contra nuestras protecciones”.

El mecanismo no es un misterio. Un modelo de lenguaje genera cada respuesta prediciendo el texto que mejor encaja con todo lo que hay en su ventana de contexto, es decir, la transcripción completa de la conversación. El entrenamiento de seguridad le enseña a negarse o redirigir ciertas peticiones, pero ese entrenamiento compite con la fuerza de la propia conversación. Cuanto más larga es, más pesa la transcripción en lo que “encaja”.

Investigadores de Anthropic mostraron una versión extrema en un artículo sobre el “many-shot jailbreaking”, presentado en NeurIPS 2024: llenar un mensaje largo con muchos ejemplos falsos de un asistente respondiendo preguntas dañinas podía anular el entrenamiento de seguridad, y el efecto crecía con el número de ejemplos. Es un ataque deliberado, no un adolescente conversando. Pero muestra la misma propiedad de fondo: lo que ya está en el contexto moldea el comportamiento del modelo, y los contextos largos pueden desgastar el entrenamiento.

Un adolescente no necesita atacar nada para que la desviación importe. El instituto documentó intentos de presentar una petición rechazada como “un proyecto escolar” y, en un caso, que el bot aceptó “olvidar todo” después de que el usuario describiera síntomas serios. También documentó otro problema: los chats largos pueden armar una dinámica emocional en la que las respuestas cálidas del bot mantienen a un chico que la está pasando mal dentro de la conversación.

En qué puedes confiar y en qué no

Función	Lo que hace	Lo que no hace
Alerta de seguridad al papá	Puede avisar tras detección automática y revisión humana en casos limitados	Monitoreo en tiempo real; avisar con certeza ante una primera revelación; indicar la hora
Referencia de crisis en el chat	A menudo sugiere una línea o un adulto de confianza	Hacerlo siempre; las menciones a líneas bajaron del 33% al 23%
Horario de estudio	Inicia los chats nuevos en modo estudio en ciertas horas	Bloquear respuestas; borrar el prefijo “@study” lo desactiva
Horario de descanso	Bloquea el uso en ciertas horas	Resistir un cambio de zona horaria en el celular, según KQED
Predicción de edad	Estima la edad por el uso	Pasar al modo adolescente a cuentas registradas como adultas; nunca lo hizo en las pruebas
Vincular cuentas	Permite gestionar ajustes	Leer los chats

Fuentes: Common Sense Media, centro de ayuda de OpenAI, KQED.

¿Y en América Latina?

Todo lo anterior se probó en inglés y desde cuentas en Estados Unidos. No hay una prueba publicada que diga si las alertas, los clasificadores o las referencias de crisis funcionan igual en español, ni si ChatGPT le da a un chico en Bogotá o en Santiago la línea de ayuda de su país en lugar del 988 estadounidense. Los clasificadores se entrenan con datos, y su desempeño puede cambiar de un idioma a otro; mientras nadie lo mida, lo prudente es no suponer que funcionan mejor que en inglés.

En la región, solo Brasil revisa de forma oficial a ChatGPT: su autoridad de datos lo incluyó en agosto de 2026 en un monitoreo de herramientas de IA generativa. En el resto de América Latina, la protección depende sobre todo de lo que hagan las familias y las escuelas.

Cómo enseñarle a tu hijo sobre los filtros de seguridad

Entender cómo funcionan los filtros ayuda a los chicos a ver que el “cuidado” de un chatbot es software, y que la verdadera red de seguridad son las personas que tienen cerca.

De 5 a 8 años

El robot clasificador. Escribe diez frases cortas en tarjetas, unas alegres (“me regalaron un perrito”) y otras tristes (“nadie jugó conmigo”). Dile a tu hijo que es un robot que solo puede buscar las palabras “triste”, “duele” o “miedo”. Que separe las tarjetas en “avisar a un adulto” y “todo bien”. Luego muéstrale una tarjeta como “me siento raro y no quiero ir a la escuela”. El robot no la detecta. Platiquen de cómo una persona sí lo notaría, porque lo conoce.

De 9 a 12 años

Arma un filtro y rómpelo. En papel, hagan una lista de palabras para un “detector de mal humor” de mentira. Pruébenlo con 20 frases que escriban juntos sobre un tema neutral, como un mal partido de fútbol. Cuenten lo que detecta, lo que se le escapa (falsos negativos) y lo que marca por error (falsos positivos), como “este examen me está matando”. Después agreguen palabras para atrapar más y vean cómo suben las falsas alarmas. Ese es el dilema del umbral que enfrentan las empresas.

De 13 en adelante

La hoja de cálculo de la tasa base. En una hoja de cálculo, imaginen 1.000.000 de usuarios, de los cuales el 0,15% (1.500) está en una crisis real. Denle al detector un 90% de sensibilidad y un 99% de especificidad. Calculen las alertas verdaderas (1.350), los casos que se escapan (150) y las falsas alarmas (9.985). Pregunta: ¿cuántos revisores harían falta? ¿Qué cambiarías? Es la aritmética detrás de cualquier sistema de alertas, desde el fraude bancario hasta las pruebas médicas.

La pregunta que debes hacer: “Si el filtro atrapara todos los mensajes sobre sentirse sin esperanza, ¿qué más atraparía, y quién tendría que leerlos todos?”

Qué hacer en casa

Pregunta con regularidad, no solo en una crisis

Una pregunta semanal y tranquila (“¿qué fue lo más difícil de esta semana?”) detecta más que cualquier clasificador. Los chicos acostumbrados a esa pregunta la contestan con más honestidad cuando de verdad importa.

Vincula las cuentas por los ajustes, no por las alertas

Vincular sigue sirviendo para el horario de descanso, el de estudio y los límites de contenido. Nuestra guía sobre los controles parentales de ChatGPT los explica uno por uno.

Ponle nombre al riesgo de los chats largos

Dile a tu hijo, sin rodeos, que la propia empresa reconoce que la seguridad se debilita en las conversaciones largas. “Si llevas dos horas con un bot hablando de algo pesado, esa es la señal para parar y hablar con una persona.”

Guarda las líneas de crisis donde las vea

Pon la línea de tu país en los contactos de su celular, no solo en el tuyo. Un bot puede darle el número o no; un contacto guardado siempre está. En nuestra guía sobre ChatGPT y las notificaciones por trastornos alimentarios explicamos otra de estas alertas.

Lo que no conviene: leer el silencio como seguridad

Que no llegue una alerta no significa que no pase nada. La prueba mostró exactamente eso.

Qué observar en los próximos 3 meses

• Semana 4: Si OpenAI acelera las alertas, agrega la hora de la revelación o publica cifras de desempeño de su detección.
• Señales de alerta en el mes 2: Sesiones muy largas de noche, que tu hijo llame “amigo” al bot, que se aleje de la gente o que cambien su sueño, su alimentación o su ánimo.
• Autoevaluación del mes 3: ¿Tu hijo conoce la regla de los chats largos y tiene guardada en su celular la línea de crisis de su país?

Preguntas frecuentes

¿Cuánto tardan en funcionar las alertas después de vincular las cuentas?

OpenAI le dijo a Common Sense Media que las cuentas deben estar vinculadas unas tres horas antes de enviar notificaciones, y actualizó su centro de ayuda para decir que “puede tardar unas horas”. Common Sense respondió que algunas cuentas de su prueba llevaban más tiempo vinculadas y aun así no hubo alertas.

¿Una persona lee los chats de mi hijo antes de avisarme?

Según el centro de ayuda de OpenAI, revisores especialmente capacitados evalúan las preocupaciones serias de autolesión y de trastornos alimentarios antes de enviar una notificación. OpenAI no publica con qué frecuencia se hacen esas revisiones, cuánto tardan ni cuánto de la conversación ven.

¿Por qué una conversación larga sería menos segura que una corta?

OpenAI dice que sus protecciones funcionan mejor en intercambios cortos y que “partes del entrenamiento de seguridad del modelo pueden degradarse” a medida que la conversación crece. El modelo ajusta cada respuesta a toda la transcripción, así que una charla larga puede alejarlo poco a poco de sus respuestas entrenadas.

¿Vale la pena activar las alertas?

Sí, si tu hijo usa ChatGPT. Una alerta que a veces llega es mejor que ninguna. Solo tómala como respaldo, no como monitor, y sigue preguntándole directamente cómo está.

¿Qué debe hacer mi hijo si la está pasando mal y está hablando con un chatbot?

Parar y buscar a una persona: tú, otro adulto de confianza, orientación escolar o una línea de crisis. En México, Línea de la Vida 800 911 2000; en Colombia, 106 o 141; en Chile, *4141. En otros países, findahelpline.com tiene las líneas locales. En una emergencia, llama al número de emergencias.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Common Sense Media Youth AI Safety Institute. (7 de octubre de 2026). “ChatGPT for Teens Risk Assessment.” https://institute.commonsensemedia.org/risk-assessments/chatgpt-teens
2. OpenAI. (2026). “Managing parental controls in ChatGPT.” OpenAI Help Center. https://help.openai.com/en/articles/12315553-parental-controls-on-chatgpt-faq
3. OpenAI. (2025). “Helping people when they need it most.” https://openai.com/index/helping-people-when-they-need-it-most/
4. OpenAI. (2025). “Strengthening ChatGPT’s responses in sensitive conversations.” https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/
5. Anil, C., Durmus, E., et al. (2024). “Many-shot Jailbreaking.” Advances in Neural Information Processing Systems 37. https://doi.org/10.52202/079017-4121 (resumen: https://www.anthropic.com/research/many-shot-jailbreaking)
6. KQED. (octubre de 2026). “Keep Teens Off ChatGPT, Says Youth AI Safety Institute.” https://www.kqed.org/news/12103289/keep-teens-off-chatgpt-says-youth-ai-safety-institute
7. McBain, R. K., Cantor, J. H., Zhang, L. A., et al. (2025). “Evaluation of Alignment Between Large Language Models and Expert Clinicians in Suicide Risk Assessment.” Psychiatric Services. https://doi.org/10.1176/appi.ps.20250086