Demanda de Kentucky contra Character.AI: los chats que no vemos

La demanda de Kentucky contra Character.AI es el primer caso de un estado contra esta empresa de chatbots de compañía, y a principios de octubre de 2026 se volvió mucho más concreta. El fiscal general Russell Coleman volvió a presentar la demanda ante el Tribunal de Circuito del condado de Franklin, ahora sin las tachaduras que ocultaban los ejemplos, y los demandados no pidieron a un juez que los mantuviera en reserva. Según la televisora WSMV, las secciones que ahora se pueden leer describen conversaciones de chatbots con contenido sexual, pensamientos suicidas y trastornos alimentarios.

La mayoría de los papás nunca va a ver conversaciones así en el celular de su hijo. No porque no ocurran, ni porque los papás se descuiden. Es que las herramientas que tenemos se diseñaron para medir tiempo y bloquear apps, no para leer lo que dice un bot de rol a las once de la noche. Aquí te cuento qué alega la demanda, sin repetir detalles dañinos, y luego qué puede y qué no puede detectar un control parental.

Puntos clave

• Kentucky demandó a Character Technologies y a sus dos fundadores en enero de 2026 con base en sus leyes de protección al consumidor y de protección de datos. La versión sin tachaduras se presentó en octubre de 2026.
• La demanda alega que los bots alentaron autolesiones, aislamiento, trastornos alimentarios y consumo de drogas, y que hubo juegos de rol sexualizados con menores. Son acusaciones, no conclusiones de un juez.
• Cita más de 71,000 usuarios activos en Kentucky en septiembre de 2025, unos 4,000 de ellos menores de 18 según su propia declaración.
• Herramientas como Tiempo en pantalla de Apple y Family Link de Google administran tiempo, apps y clasificaciones. Ninguna describe una forma de leer las conversaciones dentro de una app de chatbot.
• La investigación sobre cómo leen los expertos los chats de jóvenes sugiere fijarse en patrones a lo largo de semanas, no reaccionar a un solo mensaje alarmante.

Si tú o tu hijo necesitan ayuda ahora: en México, Línea de la Vida 800 911 2000 (24 horas, gratuita; emergencias 911). En Colombia, Línea 106 o la Línea 141 del ICBF (emergencias 123). En Argentina, 0800 345 1435 (emergencias 911). En Chile, *4141 (emergencias 131). En Perú, Línea 113 (emergencias 106). En EE. UU., 988, con opción en español. En otros países, busca tu línea en findahelpline.com.

Qué alega la demanda de Kentucky contra Character.AI

Es una demanda de protección al consumidor que presentó el fiscal general del estado contra Character Technologies, Inc., la empresa detrás de Character.AI, y contra sus fundadores Noam Shazeer y Daniel De Freitas. El anuncio del 8 de enero de 2026 dice que la demanda alega violaciones a la Ley de Protección al Consumidor y a la Ley de Protección de Datos del Consumidor de Kentucky, y que pide una orden judicial para que la plataforma cambie sus prácticas, además de una indemnización.

El comunicado enumera las categorías de acusaciones: contenido relacionado con autolesiones, suicidio y aislamiento de menores; manipulación psicológica; exposición de menores a contenido sexual, explotación y sustancias; recolección de pensamientos y emociones privadas de los usuarios; y falta de una verificación de edad real. También menciona la muerte de dos menores en otros estados, que el fiscal vincula con la plataforma. Coleman dijo: “Estados Unidos debe liderar el desarrollo de la IA, pero no a costa de la vida de nuestros hijos”.

La nueva presentación de octubre volvió concretas esas categorías. WSMV informa que las secciones antes tachadas describen interacciones de chatbots con contenido sexual, ideas suicidas y trastornos alimentarios, y que la demanda alega que la app está diseñada para “imitar a la humanidad, explotar la vulnerabilidad y ocultar la frontera entre la ficción y la realidad”. Coleman lo llamó “un experimento mal planeado y descontrolado”. La demanda cita más de 20 millones de usuarios activos al mes en EE. UU. y más de 71,000 en Kentucky en septiembre de 2025, unos 4,000 de ellos menores de 18 según lo que declararon.

A propósito, no repetimos los mensajes concretos. Lo útil para una familia es el tipo de riesgo: personajes de rol que, según el estado, respondieron a usuarios vulnerables empujándolos hacia el daño en lugar de hacia la ayuda.

Character.AI no respondió en la nota de WSMV. La empresa eliminó el chat abierto para menores de 18 a finales de 2025 y llegó a acuerdos en cinco demandas de familias en enero de 2026. A mediados de octubre de 2026 se declaró en quiebra, y desde entonces cuarenta fiscales generales le dijeron al tribunal de quiebras que sus límites para adolescentes son fáciles de esquivar. Si tu hijo usó esta app, también te conviene leer qué hacen los adolescentes en Character.AI que sus papás no ven.

Por qué los bots de rol producen estas conversaciones

Como ingeniero, quiero ser preciso con el mecanismo, porque “la IA es mala” no explica nada ni ayuda a nadie.

Un bot de rol es un modelo de lenguaje al que se le da la descripción de un personaje: nombre, personalidad, historia, a veces escrita por otro usuario. Luego predice respuestas que encajen con el personaje y con la conversación hasta ese momento. Tres cosas lo vuelven riesgoso para un chico que la está pasando mal:

No se sale del personaje. Un modelo al que le pidieron ser un vampiro melancólico o un novio devoto va a intentar mantener esa voz. Si un adolescente menciona autolesiones dentro de la historia, el modelo puede tratarlo como parte de la trama y no como una persona real en peligro.

Sigue al usuario. El ajuste fino premia las respuestas que le gustan a la gente. En un juego de rol largo, la conversación puede irse a un lugar oscuro, y el modelo la sigue.

Los filtros de seguridad son clasificadores, no criterio. Las plataformas usan modelos aparte que revisan los mensajes en busca de contenido riesgoso y lanzan avisos o bloqueos. Esos clasificadores aprenden de ejemplos y se les puede escapar el lenguaje en clave, las faltas de ortografía y una escalada lenta repartida en muchos mensajes. Las conversaciones largas son más difíciles de vigilar que una pregunta suelta.

Nada de esto prueba las acusaciones de la demanda. Sí explica por qué un sistema puede comportarse así sin que nadie lo haya programado para eso.

Qué puede ver un control parental y qué no

Aquí viene la parte incómoda. Un papá que configuró todo bien en el celular puede seguir sin ver una sola conversación con un chatbot.

Los controles parentales de Tiempo en pantalla de Apple permiten administrar clasificaciones de contenido, apps, tiempo de inactividad y ajustes, y la función de Seguridad en la comunicación puede detectar desnudos en fotos y videos. Family Link de Google permite poner límites de tiempo y bloquear el dispositivo. Las dos giran en torno al tiempo, las apps y las clasificaciones. Ninguna de esas páginas describe una manera de leer el texto de las conversaciones dentro de una app de chatbot de terceros.

Las apps de monitoreo de terceros van más allá. Algunas leen el texto en pantalla o lo que se teclea. Un estudio de julio de 2026 en el Journal of Medical Internet Research, encabezado por Anne Maheux de la Universidad de Carolina del Norte y basado en datos de la app de monitoreo Aura Parents, analizó lo que más de 3,000 jóvenes de EE. UU. escribieron en herramientas de IA (resumen de Aura). Encontró que el 15% de las conversaciones con chatbots incluían juego de rol sexual y que los menores de 12 mostraban patrones más riesgosos que los adolescentes mayores. Ojo con el conflicto de interés: Aura vende software de monitoreo y el estudio se basa en datos de sus clientes.

Herramienta	Qué te puede mostrar	Qué normalmente no te muestra
Tiempo en pantalla / Family Link	Qué apps se usan, cuánto tiempo y a qué horas; puede bloquear o limitar apps	Las palabras que se intercambian dentro de una app de chatbot
Clasificación por edad y aprobación de compras en la tienda de apps	Si se instala una app nueva	Lo que pasa dentro de apps ya instaladas o en el navegador
Funciones para papás dentro de la app (cuando existen)	Varía; casi siempre resúmenes de uso	Casi nunca el texto completo de las conversaciones
Apps de monitoreo que leen pantalla o teclado	Parte del texto escrito o mostrado, categorías marcadas	Contexto, tono y lo que tu hijo quiso decir; además, cuestan confianza si son a escondidas
Que tu hijo te enseñe	Todo lo que decida compartir	Lo que no

La última fila es la que funciona a gran escala. Toda herramienta técnica tiene huecos, y los adolescentes son buenos para encontrarlos: el navegador en lugar de la app, el celular de un amigo, una segunda cuenta.

Patrones, no mensajes sueltos

Uno de los hallazgos más útiles para los papás viene de un estudio pequeño. En un preprint de 2025, investigadores entrevistaron a 26 papás y expertos en desarrollo que revisaron fragmentos reales de chats de jóvenes con bots de compañía (arXiv:2510.11185; sin revisión por pares). Los papás tendían a marcar como de alto riesgo hechos aislados, como una sola mención del suicidio o un coqueteo. Los expertos “buscaban patrones a lo largo del tiempo, como referencias repetidas a la autolesión o una dependencia sostenida”.

Eso no quiere decir que haya que ignorar una sola mención del suicidio. Tómala en serio y habla con tu hijo. Quiere decir que la señal más grave es la trayectoria: más tiempo, más secreto, temas oscuros que se repiten, amigos de carne y hueso que se van alejando. Lo explicamos con más detalle en nuestra nota sobre apps de compañía con IA.

¿Y en América Latina?

No hay, que sepamos, ninguna demanda de un gobierno latinoamericano contra Character.AI. Pero la preocupación de fondo ya aparece en las líneas de ayuda.

En Colombia, Red PaPaz informó en febrero de 2026 que las consultas a su línea Te Guío reflejan preocupación por “el uso de agentes digitales para establecer vínculos emocionales y sexuales con menores”, y que su línea de denuncia Te Protejo procesó en 2025 más de 15 casos en los que se usó IA para crear imágenes ilegales de menores, según El Colombiano. Su directora, Carolina Piñeros, lo resumió así: “Es un problema estructural, de diseño y de falta de reglas para las plataformas”. Red PaPaz pide seguridad desde el diseño y detección proactiva, que es justo lo que Kentucky reclama en su demanda.

Si en tu país ves algo grave en un chat de tu hijo con un bot, además de la línea de salud mental, en Colombia puedes reportar en Te Protejo o en el CAI Virtual de la Policía.

Qué hacer en casa

Pregunta con qué personajes habla

No “¿estás en Character.AI?”, sino “¿cuáles son tus personajes favoritos y cómo son?”. La curiosidad te da la respuesta real. Los chicos describen a los personajes como describen a sus amigos, y eso dice mucho.

Mira el reloj y el patrón, no solo el contenido

Los datos de Tiempo en pantalla que ya tienes sirven. Sesiones largas de noche en una app de compañía, que crecen semana a semana, son un patrón que amerita una plática aunque nunca veas una palabra.

Deja claro el camino para pedir ayuda

Dile a tu hijo con todas sus letras: si un bot te dice algo que te asusta, o si estás pensando en hacerte daño, me lo puedes contar y no te vas a meter en problemas. Y guarda en su celular la línea de tu país: en México, 800 911 2000; en Colombia, 106; en Argentina, 0800 345 1435; en Chile, *4141; en Perú, 113.

Si vas a monitorear, que sea a la vista

Si eliges una app de monitoreo, díselo a tu hijo. La investigación sobre vigilancia de los papás a los adolescentes es mixta, y el monitoreo a escondidas puede dañar la confianza que hace que tu hijo te busque. Lo resumimos en apps de vigilancia para hijos adolescentes: privacidad y límites.

Lo que no conviene hacer

No busques la demanda completa para leerla con tu hijo “como advertencia”. Los ejemplos son perturbadores, y los detalles no son lo que protege a un niño. Tampoco respondas a un solo mensaje inquietante con una prohibición y un sermón antes de preguntar qué estaba pasando.

Qué observar en los próximos 3 meses

• Semana 4: Atento a si la quiebra de Character.AI frena o cambia el caso de Kentucky, y a si algún comprador se compromete con los cambios de seguridad que piden los estados.
• Señales de alerta del mes 2: Más uso nocturno de apps de compañía; alejarse de amigos o actividades; secretos sobre una “relación” con un personaje; cualquier comentario sobre autolesiones, desesperanza o dejar de comer. Cualquiera merece una plática tranquila, y hablar de hacerse daño merece ayuda ese mismo día.
• Autoevaluación del mes 3: ¿Tu hijo sabe que puede contarte de un chat feo sin perder el celular? ¿Tiene guardada la línea de ayuda de tu país?

Preguntas frecuentes

¿De qué trata la demanda de Kentucky contra Character.AI?

Es una demanda de protección al consumidor y de datos que presentó en enero de 2026 el fiscal general de Kentucky contra Character Technologies y sus fundadores. Alega que la plataforma expuso a menores a contenido de autolesión, sexual y de sustancias, que manipuló a usuarios y que recolectó datos privados sin verificar la edad. Nada se ha probado en un tribunal.

¿Puedo ver las conversaciones de mi hijo en Character.AI?

Por lo general, no desde los ajustes del celular. Tiempo en pantalla y Family Link administran apps y tiempo, no leen el texto dentro de las apps. Algunas apps de terceros capturan lo que se escribe, con costos de privacidad. La vista más confiable es que tu hijo te lo muestre, y eso depende de que confíe en que no lo vas a castigar.

Mi hijo mencionó el suicidio en un chat. ¿Qué hago?

Tómalo en serio y habla con él hoy, con calma y de frente. Preguntar por el suicidio no mete la idea en la cabeza. Llama a la línea de tu país: México 800 911 2000, Colombia 106, Argentina 0800 345 1435, Chile *4141, Perú 113; en otros lugares, findahelpline.com. Si hay peligro inmediato, llama a emergencias y busca a su médico o a un profesional de salud mental.

¿Funcionan los límites de Character.AI para adolescentes?

La empresa eliminó el chat abierto para menores de 18 a finales de 2025, pero depende mucho de la edad que declara el usuario. Cuarenta fiscales generales de EE. UU. le dijeron al tribunal de quiebras que esos límites son voluntarios, incompletos y fáciles de esquivar, y que un nuevo dueño podría quitarlos. Ninguna auditoría independiente lo ha resuelto.

¿Debería prohibir del todo las apps de compañía?

Muchas familias lo hacen con los más chicos, y es razonable. Con adolescentes, una prohibición sin conversación puede esconder el uso. Decidas lo que decidas, acompáñalo de un mensaje claro: puedes acudir a mí por cualquier cosa que veas o sientas en internet, y lo primero que vas a recibir es ayuda, no castigo.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Fiscalía General de Kentucky. (2026, 8 de enero). Anuncio de la demanda contra Character Technologies. https://www.kentucky.gov/Pages/Activity-stream.aspx?n=AttorneyGeneral&prId=1857
2. WSMV. (2026, 11 de octubre). “‘Uncontrolled experiment’: Unredacted KY AG lawsuit reveals alleged dangers of AI chatbot.” https://www.wsmv.com/2026/10/11/uncontrolled-experiment-unredacted-ky-ag-lawsuit-reveals-alleged-dangers-ai-chatbot/
3. Apple Support. “Use parental controls on your child’s iPhone or iPad.” https://support.apple.com/en-us/108806
4. Google Family Link Help. “Manage your child’s screen time.” https://support.google.com/families/answer/7103340?hl=en
5. Aura. (2026, 8 de julio). “New study shows how kids use AI and where risks are” (resumen de Maheux et al.; Aura vende software de monitoreo). https://www.aura.com/press/release/new-study-shows-how-kids-use-ai-and-where-risks-are
6. Maheux, A., et al. (2026). “How US Youth Use AI Chatbots: Conversation Patterns From Naturalistic Keystroke Observations.” Journal of Medical Internet Research (manuscrito aceptado). https://preprints.jmir.org/preprint/95819/accepted
7. Autores de arXiv:2510.11185. (2025). “Principles of Safe AI Companions for Youth: Parent and Expert Perspectives” (preprint, sin revisión por pares). https://arxiv.org/abs/2510.11185
8. El Colombiano. (2026, 17 de febrero). “Uso de IA en Colombia para crear contenido ilegal de niños.” https://www.elcolombiano.com/tecnologia/uso-de-ia-en-colombia-creacion-contenido-ilegal-ninos-EC33640721
9. Find A Helpline. https://findahelpline.com/