Tabla de contenido
Grooming en Roblox: lo que su IA detecta y lo que se le escapa
Cómo funciona la IA contra el grooming en Roblox, qué significa en realidad su cifra de 70% de detección temprana y por qué los papás siguen siendo clave.
“Casi el 70% de los casos de riesgo para menores.” Suena a tasa de éxito, pero no lo es. El 19 de agosto de 2026, cuando Roblox anunció que liberaba versiones nuevas de sus modelos de seguridad, dijo que casi el 70% de los casos de peligro infantil que detectó en los 12 meses previos al 7 de agosto llegaron por la detección temprana de Sentinel, su sistema de patrones. Eso habla de cómo se encontraron los casos atrapados. De los que nadie vio, no dice nada.
La IA contra el grooming en Roblox es ingeniería seria, y una parte funciona bien. Aquí te cuento cómo trabajan sus tres modelos, qué significan sus números, dónde están los huecos y qué puedes hacer tú que ningún clasificador puede.
Puntos clave
- Roblox usa tres modelos de seguridad de código abierto: uno que detecta datos personales, Sentinel (patrones en los chats de un usuario) y uno de voz. Los tres pasan los casos a revisores humanos.
- El “casi 70%” es la parte de los casos detectados que Sentinel encontró a tiempo. Cuántos casos no se detectaron es, por definición, un misterio.
- En las pruebas de Roblox, el modelo de voz atrapa el 61% de las infracciones cuando está ajustado para marcar por error solo el 1% del audio limpio. O sea, se le escapan bastantes.
- Un estudio nacional de 2022 en EE. UU. encontró que la mayor parte del abuso sexual en línea contra menores vino de parejas, amigos y conocidos, no de desconocidos de internet. Un detector pensado para extraños puede no verlo.
- La mejor protección sigue siendo un hijo que te cuenta cuando alguien en línea le pide cambiarse a otra app o guardar un secreto.
Si tu hijo está en peligro o alguien lo contactó con fines sexuales: llama a emergencias (911 en México y Argentina, 123 en Colombia, 131 en Chile, 106 en Perú). En Colombia puedes denunciar en teprotejo.org o en el CAI Virtual; en Argentina, en la Línea 102 o la 137. Si tu hijo está en crisis emocional: México, Línea de la Vida 800 911 2000; Colombia, Línea 106 o Línea 141 del ICBF; Argentina, 0800 345 1435; Chile, *4141; Perú, Línea 113. En EE. UU., llama al 988 y marca 2 para español, o envía AYUDA al 988. En otros países, busca tu línea en findahelpline.com.
Qué anunció Roblox en agosto de 2026 y por qué importa
La IA contra el grooming en Roblox es un conjunto de modelos de aprendizaje automático que leen el chat de texto y de voz de la plataforma y marcan conversaciones para que las revise el equipo de seguridad. El 19 de agosto de 2026, Roblox aportó versiones actualizadas de tres de esos modelos a la comunidad ROOST, un proyecto de herramientas de seguridad abiertas que cofundó en 2025 con Google, OpenAI, Discord y otros, según la cobertura de Fox News y la publicación de ROOST.
Importa por la escala: Fox informó que Roblox promedió 123 millones de usuarios activos diarios en el segundo trimestre de 2026, y casi tres cuartas partes de sus usuarios con edad verificada son menores de 18. Nadie puede leer tanto chat. El software decide qué conversación ve una persona.
El contexto no es alentador. El Centro Nacional para Niños Desaparecidos y Explotados de EE. UU. (NCMEC) dice que su CyberTipline recibió 1.4 millones de reportes de “seducción en línea” en 2025, un 158% más que en 2024. Parte del aumento refleja que las plataformas reportan mejor: mide cuánto se marca, no cuánto grooming hay.
Cómo funciona por dentro la detección de grooming en Roblox
El clasificador de datos personales: leer el mensaje dentro de la conversación
La ficha técnica del PII Classifier v2 en Hugging Face describe una versión ajustada de XLM-RoBERTa-Large, un modelo de lenguaje multilingüe de unos 600 millones de parámetros. Recibe un mensaje junto con el historial de chat que lo rodea, todo empaquetado en una ventana fija de 512 tokens (pedazos de palabra). Si el historial es muy largo, se cortan los turnos más viejos y se conserva el mensaje más nuevo.
El modelo da tres puntajes separados, de 0 a 1: ¿esta persona está pidiendo datos personales, dándolos o intentando sacar a alguien de la plataforma? Cada puntaje tiene su propio umbral. El de “sacar de la plataforma” se activa en 0.10, muy por debajo de los otros dos (0.60 y 0.55). Dicho en cristiano: Roblox lo ajustó para que salte con facilidad, porque “agrégame en otra app” es la jugada clásica del grooming. Una encuesta de Thorn de 2022 a 1,200 chicos de 9 a 17 años encontró que dos de cada tres habían recibido, de alguien conocido solo en línea, la petición de pasar de un espacio público a una conversación privada en otra plataforma.
La versión 2 lee el contexto; la versión 1 juzgaba cada mensaje por separado. Eso pesa, porque la trampa suele repartirse en varios turnos: “mi snap es” en un mensaje y el usuario en el siguiente. Roblox reporta que su puntaje F1 en su set interno de prueba subió de 63.41 a 90.52. El F1 combina dos cosas: cuántos casos reales encuentra el modelo y cuántas de sus alertas son correctas. Son números de Roblox con datos de Roblox, y la ficha no publica por separado la precisión ni la sensibilidad.
Sentinel: sumar señales débiles con el tiempo
El grooming casi nunca empieza con un mensaje obviamente malo, sino con halagos y pequeños favores. ROOST describe Sentinel como un sistema que “acumula señales débiles de cada mensaje a lo largo de una ventana deslizante de las comunicaciones recientes de un usuario”. Cuando el historial reciente de alguien se parece lo suficiente a patrones conocidos de peligro, el caso pasa a revisores humanos, que deciden qué hacer.
El clasificador de voz: el canal más difícil
El chat de voz se modera casi en tiempo real. La versión 3 cubre 30 idiomas y ocho categorías de infracción, y Roblox reporta una sensibilidad del 61% con una tasa de falsos positivos del 1%. La sensibilidad es la proporción de infracciones reales que el modelo atrapa. Es decir: en las pruebas de Roblox, cuando el modelo estaba ajustado para marcar por error solo 1 de cada 100 audios limpios, atrapaba unas 6 de cada 10 infracciones reales. Las otras 4 pasaban.
Lo que la cifra del 70% dice y lo que no
Imagina todos los intentos de grooming en Roblox durante un año como un círculo grande. Adentro hay un círculo más chico: los casos que Roblox llegó a detectar. Lo que dice Roblox es que casi el 70% de ese círculo chico lo encontró la detección temprana de Sentinel, y no, por ejemplo, un reporte de un usuario después del daño. Eso sugiere que el sistema de patrones ya es la vía principal por la que salen los casos.
Lo que no puede decirte es el tamaño del círculo grande. Lo no detectado, por definición, no se cuenta.
Hay un segundo punto ciego. Un estudio de 2022 en JAMA Network Open, de David Finkelhor, Heather Turner y Deirdre Colburn, encuestó a 2,639 jóvenes adultos estadounidenses sobre su infancia. Encontró que el grooming en línea por parte de adultos afectó al 5.4% antes de los 18 años, y que en la mayoría de las formas de abuso sexual en línea los agresores eran “predominantemente parejas, amigos y conocidos, no desconocidos en línea”. El estudio es retrospectivo y anterior a las herramientas actuales de Roblox, pero la idea se sostiene: el abuso a menudo viene de alguien que el niño ya conoce, y puede ocurrir en otra app. Un clasificador de Roblox solo ve Roblox.
Cómo enseñarle a tu hijo cómo piensa un detector de grooming
Plantéalo como “así piensa el sistema de seguridad”, no como “cuidado con los extraños malos”. Estas actividades enseñan el mecanismo y las señales de alerta a la vez.
De 5 a 8 años: ¿secreto o sorpresa?
Escribe diez tarjetitas con cosas que alguien podría decir: “¿Quieres ver a mi mascota nueva?”, “No le cuentes a tu mamá que hablamos”, “¿A qué escuela vas?”, “¡Buena partida!”. Pídele que las separe en “está bien” y “le aviso a un adulto”. Luego enséñale la regla que usan los especialistas con niños chiquitos: una sorpresa es un secreto que termina feliz y pronto, como un regalo de cumpleaños. Un secreto que alguien te pide esconder de tu familia nunca está bien. Repítelo varias veces al año.
De 9 a 12 años: tú eres el clasificador
Arma un chat inventado entre dos jugadores, de unas 12 líneas, donde la propuesta de cambiar de app esté partida en dos mensajes (“¿estás en esa app del fantasmita?” y después “agrégame ahí”). Dale las líneas una por una y pregúntale después de cada una: “¿Esta la marcarías?”. Luego muéstrale el chat completo. Va a descubrir solo por qué la versión 2 del modelo de Roblox lee el contexto: cada línea suelta parece inofensiva, el patrón no. Cierra preguntándole qué línea habría reportado él.
De 13 en adelante: ajusta el umbral
Haz 20 tarjetas: 6 marcadas como “riesgo” y 14 como “normal”, cada una con un mensaje inventado. Pídele a tu adolescente que escriba una regla (“marcar cualquier mensaje que mencione otra app”) y cuente cuántas de riesgo atrapa (sensibilidad) y cuántas normales marca por error (falsos positivos). Después que la apriete o la afloje y vuelva a contar. Va a sentir el dilema de Roblox: atrapar más implica marcar más chat inocente.
La pregunta que debes hacer: “Si una IA marca 6 de cada 10 mensajes peligrosos, ¿qué tiene que pasar para que alguien atrape los otros 4?”
Qué detecta cada modelo de Roblox y dónde se queda corto
| Modelo | Qué lee | Qué marca | Cifra publicada | Límite conocido |
|---|---|---|---|---|
| PII Classifier v2 | Un mensaje más el chat reciente, ventana de 512 tokens | Pedir o dar datos personales; sacar usuarios de la plataforma | F1 de 90.52 en el set interno de Roblox (antes 63.41) | Datos de prueba de la propia empresa; en chats largos se pierde el contexto más viejo |
| Sentinel v2 | Ventana deslizante de las comunicaciones recientes de un usuario | Patrones parecidos al peligro infantil | Casi 70% de los casos detectados, hallados a tiempo (12 meses al 7 de agosto de 2026) | No puede contar lo que nunca detecta |
| Clasificador de voz v3 | Audio en vivo, 30 idiomas | Ocho categorías de infracción | 61% de sensibilidad con 1% de falsos positivos | Unas 4 de cada 10 infracciones se escapan en pruebas |
| Revisores humanos | Los casos que escalan los modelos | Decisiones finales y reportes al NCMEC | No publicado | Solo ven lo que los modelos les mandan |
| Tu hijo | Todo, incluso otras apps | Incomodidad, presión, secretos | No se puede medir | Solo funciona si se siente seguro de contarte |
Qué puedes hacer en casa esta semana
Revisen juntos el tipo de cuenta y el chat
Fox informa que las cuentas Roblox Kids son para niños de 5 a 8 años y Roblox Select para 9 a 15, y que el chat y los controles parentales cambian según el grupo. Siéntate con tu hijo y miren quién puede escribirle y si el chat de voz está activado. Nuestra guía de privacidad en Roblox explica pantalla por pantalla. Hacerlo juntos le enseña para qué sirve cada ajuste.
Que “pásate a otra app” sea la alarma de la familia
La única señal en la que coinciden todas las fuentes de este artículo es la petición de cambiar de plataforma. Díselo claro: si alguien que conociste en un juego te pide que lo agregues en otro lado, me cuentas, y no te vas a meter en problemas. Thorn encontró que casi uno de cada cuatro chicos siguió en contacto con alguien en línea que lo hacía sentir incómodo.
Ten claro qué hacer si algo ya pasó
Mantén la calma y agradécele que te contó. Toma capturas de pantalla de nombres de usuario, fechas y mensajes, reporta la cuenta dentro de Roblox y denuncia ante las autoridades de tu país. No confrontes a la persona ni te hagas pasar por tu hijo. Si hay imágenes de por medio, nunca las descargues, guardes ni reenvíes, ni siquiera para mostrárselas a la policía o a la escuela: tener o compartir imágenes sexuales de un menor puede ser delito en sí mismo. Describe lo que viste y deja que los investigadores las recuperen. En esta otra nota explicamos cómo manipulan los depredadores en línea a los niños.
Entiende el filtro, y luego deja de depender de él
Un clasificador es una máquina de probabilidades con un umbral, no un guardián. Nuestra explicación sobre los clasificadores de seguridad de la IA muestra por qué todo filtro cambia fallas por falsas alarmas. Trata las herramientas de Roblox como una capa más.
Lo que no conviene hacer
No prohíbas el juego en pleno susto para después no volver a hablar del tema. Un niño castigado por contar aprende a callar. Y no leas todos sus chats a escondidas: si se entera, pierdes justo el canal que atrapa lo que la IA no ve.
¿Y en América Latina?
Los modelos de Roblox funcionan igual en Bogotá que en Monterrey: la plataforma es global y el clasificador de datos personales cubre 189 idiomas. Lo que cambia es a quién acudes. El NCMEC es de EE. UU.; tú denuncias ante tu país.
En Argentina, el grooming es delito desde 2013: la Ley 26.904 incorporó al Código Penal el artículo 131, con penas de seis meses a cuatro años para quien contacte a un menor por medios electrónicos con el propósito de cometer un delito contra su integridad sexual. Para casos con imágenes falsas creadas con IA, Chequeado recoge la recomendación oficial: denunciar en la Línea 102 o 137 o en una fiscalía, guardar evidencia antes de bloquear y no reenviar nunca la imagen.
En Colombia, la red de papás Red PaPaz opera la línea de reporte Te Protejo. Según El Colombiano (17 de febrero de 2026), su línea de orientación Te Guío ha notado una preocupación creciente por “el uso de agentes digitales para establecer vínculos emocionales y sexuales”. Puedes reportar en teprotejo.org o en el CAI Virtual de la Policía.
En el resto de la región, la ruta es la policía o la fiscalía local.
Qué observar en los próximos 3 meses
- Semana 4: Tu hijo puede explicarte con sus palabras por qué “agrégame en otra app” es una señal de alerta y qué haría.
- Señales de alerta del mes 2: Tarjetas de regalo o Robux de alguien que no conoces, secretismo con un “amigo” en particular, una app nueva que tú no instalaste, ansiedad repentina con el celular o la computadora, o un “amigo” mucho mayor.
- Autoevaluación del mes 3: ¿Tu hijo te ha contado al menos una interacción rara en línea, aunque sea pequeña? Si no, puede que el canal todavía no se sienta seguro. Vuelve a preguntar, sin drama.
Preguntas frecuentes
¿Roblox usa inteligencia artificial para detectar grooming?
Sí. La detección de grooming en Roblox usa tres modelos: uno para datos personales y peticiones de cambiar de plataforma, Sentinel para patrones en los chats recientes y uno de voz. Los casos marcados pasan a revisores humanos. En agosto de 2026 Roblox liberó versiones nuevas para que otras plataformas las usen.
¿El “70% de detección temprana” significa que Roblox frena al 70% de los depredadores?
No. Roblox dijo que casi el 70% de los casos de peligro infantil que detectó en los 12 meses al 7 de agosto de 2026 llegaron por la detección temprana de Sentinel. Eso describe cómo se encontraron los casos atrapados. Nadie sabe cuántos pasaron sin detectarse, así que no existe una tasa real de éxito.
¿La moderación con IA lo atrapa todo?
No. El propio modelo de voz de Roblox atrapa cerca del 61% de las infracciones en pruebas, con 1% de falsos positivos, y cada clasificador solo ve su plataforma. Según un estudio de 2022 en JAMA Network Open, buena parte del abuso en línea viene de personas que el niño ya conoce, y puede seguir en otras apps.
¿Qué hago si alguien le pidió fotos a mi hijo?
Mantén la calma, toma capturas de usuarios y mensajes (no de imágenes), reporta la cuenta y denuncia ante las autoridades de tu país. Nunca guardes ni reenvíes imágenes sexuales de un menor. Si tu hijo está muy afectado: México, 800 911 2000; Colombia, 106; Argentina, 0800 345 1435; Chile, *4141; Perú, 113; o findahelpline.com.
¿A qué edad es seguro Roblox?
No hay una sola respuesta. Roblox agrupa ahora las cuentas en Roblox Kids (5 a 8 años) y Roblox Select (9 a 15), con opciones de chat distintas. La seguridad depende más del chat, de con quién juega y de si te contará cuando algo le parezca raro.
Sobre el autor
Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.
Fuentes
- Fox News / CyberGuy. (2026). “Roblox shares AI tools to detect online grooming and child safety risks.” Fox News. https://www.foxnews.com/science/roblox-shares-ai-child-safety-tools-parents-should-know
- ROOST. (19 de agosto de 2026). “Welcoming Roblox’s Safety Models to the ROOST Community.” ROOST. https://roost.tools/blog/welcoming-roblox-s-safety-models-to-the-roost-community/
- Roblox. (2026). Ficha técnica “roblox-pii-classifier-v2”. Hugging Face. https://huggingface.co/Roblox/roblox-pii-classifier-v2
- National Center for Missing & Exploited Children. (2026). “CyberTipline Data.” NCMEC. https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- Finkelhor, D., Turner, H. y Colburn, D. (2022). “Prevalence of Online Sexual Offenses Against Children in the US.” JAMA Network Open, 5(10). https://doi.org/10.1001/jamanetworkopen.2022.34471
- Thorn y Benenson Strategy Group. (2022). “Online Grooming: Examining Risky Encounters Amid Everyday Digital Socialization.” Thorn. https://www.thorn.org/research/library/online-grooming/
- República Argentina. (2013). Ley 26.904, incorporación del artículo 131 al Código Penal. InfoLEG. https://servicios.infoleg.gob.ar/infolegInternet/anexos/220000-224999/223586/norma.htm
- Chequeado. (13 de octubre de 2026). “Qué hacer si tu hija o hijo es víctima de un deepfake sexual creado con IA.” Chequeado. https://chequeado.com/el-explicador/que-hacer-si-tu-hija-o-hijo-es-victima-de-un-deepfake-sexual-creado-con-ia/
- El Colombiano. (17 de febrero de 2026). “Indignante: uso de IA en Colombia disparó creación de material sexual ilegal con niños.” El Colombiano. https://www.elcolombiano.com/tecnologia/uso-de-ia-en-colombia-creacion-contenido-ilegal-ninos-EC33640721
