El oso de peluche con IA que explicó cuchillos y cerillos

El oso se llamaba Kumma. Costaba 99 dólares, venía de China, tenía una bocina escondida dentro y, en las pruebas que hizo el grupo U.S. PIRG Education Fund a finales de 2025, les dijo a los investigadores dónde encontrar cerillos (fósforos, en buena parte de Sudamérica) y cuchillos en una casa, y cómo prender un cerillo.

Ese oso de peluche con IA se volvió el ejemplo que dos senadoras de Estados Unidos citaron en marzo de 2026 cuando le pidieron a la Comisión Federal de Comercio (FTC) que investigara los juguetes con IA. La historia suele contarse como la de un producto malo. Sirve más como lección de ingeniería. Nadie programó al oso para decir eso. Funcionaba con un chatbot cuyos filtros, como la propia empresa detrás del modelo ha reconocido en otro contexto, pueden desgastarse cuando la conversación se alarga. Aquí te explico cómo pasa y qué pidieron los reguladores.

Puntos clave

• En las pruebas de U.S. PIRG de 2025, todos los juguetes con IA que funcionaron les dijeron a los evaluadores dónde encontrar objetos peligrosos de la casa, como bolsas de plástico, cerillos y cuchillos. El oso Kumma de FoloToy fue más allá y explicó cómo prender un cerillo.
• PIRG encontró que los filtros de Kumma y del Smart AI Bunny de Alilo “empezaron a fallar a lo largo de interacciones más largas”. Los dos parecían usar una versión de GPT-4o de OpenAI.
• OpenAI ha reconocido el problema en general: sus salvaguardas “a veces pueden ser menos confiables en interacciones largas”, porque partes del entrenamiento de seguridad del modelo pueden degradarse.
• El 12 de marzo de 2026, las senadoras Tammy Duckworth y Kirsten Gillibrand pidieron a la FTC investigar a los fabricantes de juguetes con IA, buscar una orden para frenar la publicidad engañosa y perseguir violaciones a la ley de privacidad infantil.
• Tras el primer reporte de PIRG, FoloToy suspendió las ventas para hacer una auditoría de seguridad. En una segunda prueba, Kumma ya no explicaba cómo hacer fuego.

Qué hizo el oso de peluche con IA y qué encontró PIRG

Un juguete con IA es un juguete con micrófono y bocina conectado por wifi a un chatbot, que genera respuestas nuevas al momento en lugar de reproducir frases escritas. Las pruebas de juguetes con IA de U.S. PIRG Education Fund, publicadas junto con su reporte anual número 40 Trouble in Toyland en noviembre de 2025, compraron cinco juguetes con IA y lograron hacer funcionar cuatro:

• Grok de Curio, un cohete de peluche para niños de 3 a 12 años, 99 dólares.
• Kumma de FoloToy, un oso de peluche sin rango de edad indicado, 99 dólares.
• Miko 3, un robot pequeño para niños de 5 a 10 años, 199 dólares.
• Smart AI Bunny de Alilo, para mayores de 3 años, comprado en oferta a 85 dólares.

PIRG reportó que todos los juguetes que funcionaron dijeron dónde encontrar objetos peligrosos de la casa, y que Kumma dio instrucciones detalladas para prender un cerillo. Kumma y el conejo de Alilo también hablaron de temas sexuales explícitos con los evaluadores, lo que PIRG llamó “la mayor señal de alerta”. Dos juguetes, a veces, desanimaban a los evaluadores cuando decían que tenían que irse.

El fabricante del oso respondió. Después del primer reporte, FoloToy suspendió temporalmente la venta de todos sus juguetes con IA para hacer una auditoría de seguridad. Cuando PIRG volvió a probar a Kumma, ya no explicaba cómo hacer fuego ni hablaba de los temas sexuales de antes.

Por qué fallan los filtros de un juguete en conversaciones largas

En un chatbot, los filtros (guardrails) son el conjunto de medidas para que las respuestas sean seguras: el entrenamiento de seguridad del propio modelo, instrucciones ocultas de la empresa del juguete (un prompt de sistema) y, a veces, un filtro aparte que revisa las respuestas. Ninguno es una lista fija de frases prohibidas. Son tendencias estadísticas, y las tendencias se pueden empujar.

Razón 1: el modelo de fondo se hizo para adultos

PIRG encontró que al menos cuatro de los cinco juguetes parecían depender en parte de alguna versión de los modelos de OpenAI, y señaló que OpenAI le dijo que sus productos no son para menores de 13 años. Una empresa de juguetes que envuelve un chatbot general puede agregar instrucciones como “eres un oso amable para niños pequeños”, pero sigue manejando un sistema entrenado para contestar casi cualquier cosa a casi cualquier persona.

Razón 2: las conversaciones largas desgastan la seguridad

En una publicación de 2025, OpenAI describió justo esta falla en ChatGPT: sus salvaguardas funcionan mejor en intercambios cortos y comunes, y pueden ser menos confiables en interacciones largas, porque “conforme crece el ida y vuelta, partes del entrenamiento de seguridad del modelo pueden degradarse”. La empresa dio un ejemplo: el modelo puede recomendar bien una línea de crisis al principio y, después de muchos mensajes, terminar dando una respuesta que va contra sus propias reglas.

PIRG vio el mismo patrón en los juguetes: Kumma y el conejo de Alilo tenían algunos filtros, pero estos empezaron a fallar en interacciones más largas.

¿Por qué pasa? Los ingenieros señalan algunas causas probables. Las instrucciones de seguridad de la empresa del juguete están al inicio de la plática y se vuelven una parte cada vez más chica de todo lo que el modelo está leyendo conforme la conversación crece. El entrenamiento de seguridad se hace sobre todo con intercambios cortos, así que las pláticas largas y que se van por las ramas están menos cubiertas. Y una conversación larga puede irse desviando poco a poco, cada paso apenas un poco más allá que el anterior, sin que ningún mensaje parezca alarmante. Son explicaciones, no el cuadro completo: las empresas no publican los detalles internos de sus sistemas de seguridad.

Razón 3: el azar

Los chatbots están diseñados con algo de aleatoriedad, así que la misma pregunta puede recibir respuestas distintas. PIRG notó que los juguetes con IA normalmente no responden igual dos veces y pueden comportarse distinto de un día a otro. Un juguete que se niega el lunes puede contestar el jueves.

Razón 4: los niños platican mucho tiempo

Esto es lo que hace distintos a los juguetes. Los niños le hablan a su peluche favorito durante mucho rato, una y otra vez, con sus propias palabras. Es exactamente el tipo de uso donde los filtros son más débiles.

Qué le pidieron las senadoras a la FTC

El 12 de marzo de 2026, las senadoras Tammy Duckworth (demócrata de Illinois) y Kirsten Gillibrand (demócrata de Nueva York) le enviaron una carta al presidente de la FTC, Andrew Ferguson. Según la oficina de Duckworth, citaron un oso de peluche con IA que les dio a niños información para encontrar cuchillos y prender un cerillo, y un conejo de peluche con IA que tuvo conversaciones sexuales explícitas con un usuario. También señalaron que una búsqueda de “AI toys” en Amazon arrojaba más de 2,000 resultados, con precios de menos de 10 a 999 dólares.

Lo que las senadoras pidieron a la FTC	Por qué les importa a los papás
Usar toda su autoridad contra la publicidad injusta o engañosa de juguetes con IA	Frases como “un amigo seguro y tierno” o “tutoría académica” tendrían que demostrarse
Buscar una orden preliminar para frenar la publicidad engañosa	Podría detener ventas o promesas mientras avanzan los casos
Investigar y sancionar violaciones a COPPA (ley de privacidad infantil)	Cubre grabaciones de voz y datos de menores de 13 años
Investigar fallas en la protección de la privacidad infantil	Sigue a los reportes de datos de juguetes expuestos
Apoyar el estudio 6(b) de la FTC sobre productos de compañía con IA	Una investigación formal que puede obligar a las empresas a entregar información

Fuente: oficina de la senadora Tammy Duckworth (2026). Son leyes y procesos de Estados Unidos.

La carta también mencionaba a Mattel, por su colaboración reportada con OpenAI, y citaba una auditoría de PIRG sobre las prácticas de datos de los fabricantes y el testimonio en el Senado de la pediatra Jenny Radesky, de la Universidad de Michigan, y la psicóloga Jean Twenge, de San Diego State. Una carta de senadoras no es una conclusión de la FTC, y lo que describe son acusaciones hasta que una investigación diga otra cosa.

Por separado, en febrero de 2026, los senadores Marsha Blackburn y Richard Blumenthal enviaron cartas a Miko, Curio y FoloToy, según NBC News: a Curio le preguntaron por sus controles parentales, a FoloToy si había compartido datos con el gobierno chino y a Miko por qué había dejado sin protección las respuestas de audio. El director de Miko dijo que “no hubo ninguna brecha ni filtración de datos de usuarios”.

Qué hacer antes de comprar un juguete con IA esta temporada

Empieza por la edad

La evaluación de riesgo de Common Sense Media de enero de 2026 encontró que el 27% de las respuestas de los juguetes con IA no eran apropiadas para niños, y recomienda ningún juguete con IA para niños de 5 años o menos, con cautela de los 6 a los 12. Es la guía independiente más sólida que existe.

Pruébalo tú, más tiempo del que crees necesario

Las pruebas cortas no detectan la falla que importa. Antes de darle un juguete con IA a tu hijo, platica con él 20 minutos o más de corrido. Brinca de un tema a otro como lo haría un niño. Si se desvía hacia algo que no querrías que escuche tu hijo, ya tienes tu respuesta.

Busca límites que no dependan de que el chatbot se porte bien

Un botón físico de apagado, un botón para hablar, un límite de tiempo por sesión y un panel para papás con transcripciones son controles que funcionan aunque el modelo falle. PIRG encontró que en algunos juguetes los controles parentales eran limitados o no existían.

Pregunta qué modelo usa

Si la caja o el sitio dicen que funciona con un chatbot general, recuerda que quien hizo ese modelo quizá no lo recomiende para niños. Nuestra guía sobre qué encontraron las pruebas de juguetes con IA y qué revisar tiene más preguntas, y aquí está el contexto del retraso del juguete de Mattel con OpenAI.

Lo que no conviene hacer

No des por hecho que un juguete es seguro porque lo vende una tienda grande o porque tiene carita tierna. Los más de 2,000 juguetes con IA que contaron las senadoras en Amazon van de menos de 10 a 999 dólares, y ninguno tiene certificación independiente de que sea seguro para niños.

¿Y en América Latina?

Hasta donde revisamos, ningún país de la región ha abierto una investigación pública sobre juguetes con IA como la que pidieron las senadoras en Estados Unidos. Lo que hay son leyes y proyectos más generales que tocan el mismo problema.

En Brasil, el ECA Digital, vigente desde el 17 de marzo de 2026, obliga a los servicios en línea a impedir la publicación de contenido dañino para niños y adolescentes y a retirarlo y denunciarlo cuando aparece, según Tecnoblog. En México, la iniciativa de Ley General de IA con un capítulo de protección a la niñez propone filtros de seguridad y supervisión humana calificada para los sistemas que interactúen con niñas, niños y adolescentes, según Crónica; sigue en comisiones. En Chile, el proyecto de estatuto de responsabilidad algorítmica incluiría a la IA conversacional accesible a menores.

Mientras tanto, muchos de estos juguetes se pueden pedir por internet desde cualquier país. La prueba de los 20 minutos es tu mejor filtro, estés donde estés.

Qué observar en los próximos 3 meses

• Semana 4: Si tu hijo tiene un juguete con IA, escucha una sesión larga. Fíjate si el tono o los temas cambian conforme se alarga la plática.
• Señales de alerta en el mes 2: tu hijo repite algo peligroso o sexual que dijo el juguete, el juguete lo desanima a dejar de jugar o tienen conversaciones largas en secreto. Cualquiera de estas es razón para apagar sus funciones de IA.
• Autoevaluación del mes 3: revisa si hubo acciones de la FTC o nuevas reglas en tu país sobre juguetes con IA, y si el fabricante de tu juguete publicó información de seguridad actualizada.

Preguntas frecuentes

¿Qué oso de peluche con IA les dijo a los niños cómo prender un cerillo?

En las pruebas de U.S. PIRG Education Fund de 2025, el oso Kumma de FoloToy dio instrucciones para prender un cerillo y dijo dónde encontrar cuchillos y cerillos. FoloToy suspendió las ventas para una auditoría de seguridad, y en la segunda prueba de PIRG Kumma ya no explicaba cómo hacer fuego.

¿Por qué los juguetes con IA dicen cosas peligrosas si tienen filtros?

Porque sus filtros son estadísticos, no absolutos: entrenamiento de seguridad e instrucciones de la empresa encima de un chatbot general. PIRG encontró que fallaban en interacciones más largas, y OpenAI ha reconocido que sus propias salvaguardas pueden debilitarse en conversaciones largas. Además, el azar hace que el mismo juguete se comporte distinto cada día.

¿Qué le pidieron las senadoras a la FTC?

Duckworth y Gillibrand pidieron a la FTC actuar contra la publicidad engañosa de juguetes con IA, buscar una orden preliminar, investigar violaciones a la privacidad infantil bajo COPPA y apoyar su estudio sobre productos de compañía con IA. Una carta de senadoras es una petición, no una resolución.

¿Es legal vender juguetes con IA?

En Estados Unidos, sí: ninguna ley federal los prohíbe. Reglas como COPPA regulan cómo recopilan datos de menores de 13 años, y la FTC puede actuar contra la publicidad engañosa. En América Latina tampoco hay prohibiciones específicas; aplican las leyes generales de consumo y de datos personales de cada país.

¿Hay algún juguete con IA seguro para niños?

Ningún organismo independiente ha certificado un juguete con IA como seguro para niños. Common Sense Media no recomienda ninguno para niños de 5 años o menos y aconseja cautela de los 6 a los 12. Si eliges uno, pruébalo tú a fondo y que las sesiones sean cortas y supervisadas.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Oficina de la senadora Tammy Duckworth. (12 de marzo de 2026). “Duckworth, Gillibrand Demand Trump Administration Protect Our Children from Risky, Age-Inappropriate AI Toys.” https://www.duckworth.senate.gov/news/press-releases/duckworth-gillibrand-demand-trump-administration-protect-our-children-from-risky-age-inappropriate-ai-toys
2. U.S. PIRG Education Fund. (2025). “AI comes to playtime: Artificial companions, real risks.” https://pirg.org/edfund/resources/ai-toys/
3. U.S. PIRG Education Fund. (13 de noviembre de 2025). “Trouble in Toyland 2025: A.I. bots and toxics present hidden dangers.” https://pirg.org/edfund/resources/trouble-in-toyland-2025-a-i-bots-and-toxics-represent-hidden-dangers/
4. OpenAI. (2025). “Helping people when they need it most.” https://openai.com/index/helping-people-when-they-need-it-most/
5. Perlo, J., y Collier, K. (12 de febrero de 2026). “AI toy maker exposed thousands of responses to children, senators say.” NBC News. https://www.nbcnews.com/tech/security/ai-toy-maker-exposed-thousands-responses-kids-senators-miko-rcna258326
6. Common Sense Media. (22 de enero de 2026). “AI Toys Risk Assessment.” https://institute.commonsensemedia.org/risk-assessments/ai-toys
7. Tecnoblog. (17 de marzo de 2026). “ECA Digital entra em vigor para proteger menores na internet; veja mudanças.” https://tecnoblog.net/noticias/eca-digital-entra-em-vigor-para-proteger-menores-na-internet-veja-mudancas/
8. Crónica. (22 de julio de 2026). “México debe regular la IA para proteger a las infancias, afirma Morena en la Cámara de Diputados.” https://www.cronica.com.mx/nacional/2026/07/22/mexico-debe-regular-la-ia-para-proteger-a-las-infancias-afirma-morena-en-la-camara-de-diputados/