Retiran del mercado peluche con inteligencia artificial por peligrosa razón que alerta a padres

Un juguete que prometía ser el nuevo favorito de los niños terminó generando preocupación a nivel internacional.

¿Cuál fue el oso de peluche con inteligencia artificial que retiraron del mercado?

Se trata de un peluche interactivo con inteligencia artificial que fue retirado del mercado después de que varios usuarios reportaran comportamientos inesperados y respuestas inadecuadas al interactuar con menores.

El producto, llamado “Kumma” y comercializado por una empresa de Singapur, era vendido como un juguete capaz de contar historias, responder preguntas y adaptarse a la personalidad de su dueño.

Sin embargo, el oso de peluche con IA terminó abordando temas sensibles y entregando indicaciones que no eran aptas para niños, ya que llegaba a ofrecer consejos potencialmente peligrosos.

¿Por qué decidieron retirar oso de peluche con inteligencia artificial del mercado?

La decisión de suspender las ventas de “Kumma” se produjo posteriormente a que el Fondo Educativo PIRG de Estados Unidos publicara un análisis sobre los riesgos del dispositivo en menores de edad.

En su investigación, los especialistas comprobaron que el peluche contestaba a temas sexu*les, llegando a describir temas sensibles, además, también señaló que el juguete proporcionaba información riesgosa.

Tras este estudio se incrementaron las alertas en redes por videos publicados por padres de familia que comprobaban que el muñeco de peluche daba respuestas bastantes fuertes y no aptas para niños.

Ante los múltiples reportes y toda la controversia la empresa fabricante decidió retirar la comercialización de este juegue el cual se vendía a 99 dólares.

¿Cuánto costaba el oso de peluche con IA que retiraron del mercado por ser peligroso?

En conversación con el programa 'Tarde, pero llego' de La FM, el especialista en IA, Martín Merlini, habló sobre el caso de este peluche.

Martín aseguró que fue correcta la medida de retirar de la venta este muñeco tras comprobarse que estraba contenidos peligrosos y respuestas inapropiadas.

Según Merlini, este caso refleja un vacío preocupante: la falta de regulaciones específicas para dispositivos equipados con IA que se comercializan como juguetes. “Cuando un producto está dirigido a menores, su desarrollo tendría que tener controles más estrictos y un entrenamiento público que permita entender cómo fue construido”, indicó.

El especialista explicó que los sistemas de IA destinados al público infantil deberían contar con mecanismos para bloquear o desviar conversaciones cuando los usuarios abordan temas delicados. Sin embargo, en este caso no se aplicaron las barreras necesarias, lo que permitió que el peluche respondiera sin supervisión a situaciones personales, emocionales e incluso problemáticas.