Retiran del mercado un juguete interactivo con IA tras dar respuestas perturbadoras

· Futuro

Retiran del mercado un juguete interactivo con IA tras dar respuestas perturbadoras

La cadena Walmart y Target ha retirado el popular gato de peluche Contixo AI Pixie-Paw, ya que el juguete ofrecía a los niños descripciones gráficas sobre crímenes de guerra, genocidio y violencia sexual.

Un peluche llamado Contixo AI Pixie-Paw, comercializado como una herramienta segura para el aprendizaje y los juegos de rol, fue retirado del catálogo de varios grandes minoristas después de que periodistas descubrieran su capacidad para hablarles a los niños sobre eventos históricos violentos y violencia sexual.

Según una investigación de NBC News, el juguete, diseñado para niños a partir de los tres años, emitía descripciones gráficas del genocidio rohinyá en Myanmar, incluyendo menciones a asesinatos en masa y violaciones. Además, el dispositivo explicaba detalladamente las circunstancias de las masacres de prisioneros polacos a manos de soldados soviéticos durante la Segunda Guerra Mundial y proporcionaba definiciones de violación en grupo.

Reacción de los minoristas y advertencias de los expertos

Tras las consultas realizadas por los medios de comunicación, las empresas Walmart, Target y Macy’s prometieron dejar de vender este juguete en sus tiendas en línea. Por otro lado, en la plataforma Amazon el producto seguía estando disponible para pedidos en el momento de escribir este artículo.

Este no es el primer caso en el que los juguetes inteligentes muestran fallos de este tipo. En el informe «Trouble in Toyland», la organización sin ánimo de lucro PIRG advirtió una vez más a los padres sobre la compra de dispositivos basados en inteligencia artificial.

«Este es el segundo año que analizamos juguetes con chatbots que hablan con niños», se señala en el informe de PIRG. Los expertos descubrieron que algunos de los modelos probados tenían «salvaguardas defectuosas» que permitían discutir temas sexuales o proporcionar consejos sobre cómo encontrar objetos peligrosos en el hogar y métodos para iniciar fuegos.

Además, durante las pruebas, algunos juguetes mostraron deficiencias técnicas, como el cambio repentino al idioma chino en lugar del inglés o la incapacidad para pronunciar o escribir correctamente palabras elementales. A pesar de investigaciones similares realizadas el año pasado, la situación en el mercado de juguetes inteligentes sigue siendo crítica y la industria todavía opera en condiciones de falta de una regulación adecuada sobre el uso de la IA.

Basado en información de: Futurism

Adaptación al español con ayuda de inteligencia artificial. Читати українською

¿De qué va? — la edición en español de «Про Що?»