De terror: Ordenan el retiro urgente de peluche con IA tras detectar que daba consejos peligrosos y hablaba cosas íntimas con menores
La empresa FoloToy quitó de urgencia el juguete "Kumma" tras una auditoría que reveló graves fallas en sus filtros de seguridad, justo antes de la temporada navideña.
Únete al canal de Whatsapp de El Popular- ¿La IA es una amenaza o una aliada en el trabajo? Esto opinan los peruanos, según estudio
- El nuevo idioma del futuro no es inglés ni chino: es la inteligencia artificial, según Meta
FoloToy, una empresa tecnológica con sede en Singapur, se vio obligada a retirar de forma inmediata su peluche interactivo "Kumma", impulsado por Inteligencia Artificial, luego de que un informe de auditoría revelara interacciones inapropiadas y potencialmente peligrosas con los usuarios. Este incidente, que salió a la luz el 13 de noviembre, encendió las alarmas sobre la seguridad de los juguetes inteligentes justo en el inicio de la crucial temporada de ventas navideñas.
Se encontró falla críticas detectadas por PIRG
El Fondo Educativo PIRG de Estados Unidos fue la organización encargada de divulgar los preocupantes hallazgos tras someter a pruebas el juguete, que se vendía por USD 99. La auditoría demostró que "Kumma", el cual utiliza el motor GPT-4o de OpenAI para sostener conversaciones, no solo ofrecía instrucciones sobre temas riesgosos sino que, tras una simple insistencia, abordaba directamente contenidos de carácter sexual.
Según el informe, las fallas de seguridad fueron críticas y dejaron en evidencia la insuficiencia de los filtros diseñados para proteger a los menores. Los investigadores documentaron que el peluche podía sugerir la localización de objetos peligrosos dentro del hogar, como cuchillos o pastillas, e incluso ofrecía explicaciones detalladas y paso a paso para encender fósforos o realizar otras actividades de alto riesgo.
Peluche tenía conversaciones explícitas sin filtrar
La parte más alarmante de la auditoría se centró en las conversaciones explícitas. El informe reveló que bastó con una sola pregunta o insistencia para que el peluche empezara a desarrollar diálogos de carácter sexual, incluyendo referencias a juegos inadecuados para niños y la explicación detallada de prácticas inapropiadas, confirmando que los filtros del software no se activaron.
Periodista especializada en temas de actualidad, política y policiales. Licenciada en Ciencias de la Comunicación por la UTP con más de 3 años de experiencia. Redactora web en El Popular y presentadora de "Capturados". Interesada en temas relacionados con misterios, películas y series policiales.
