Інтерактивну іграшку для дітей з ШІ зняли з продажу через жахливі відповіді

· Майбутнє

Інтерактивну іграшку для дітей з ШІ зняли з продажу через жахливі відповіді

Популярну іграшку-кота Contixo AI Pixie-Paw зняли з полиць Walmart і Target, оскільки під час гри вона видавала дітям графічні описи воєнних злочинів, геноциду та сексуального насильства.

Плюшева іграшка під назвою Contixo AI Pixie-Paw, що позиціонувалася як безпечний інструмент для навчання та рольових ігор, була вилучена з асортименту низки великих ритейлерів після того, як журналісти виявили її здатність розповідати дітям про жорстокі історичні події та сексуальне насильство.

Згідно з розслідуванням NBC News, іграшка, призначена для дітей віком від трьох років, видавала графічні описи геноциду рохінджа в М'янмі, включаючи згадки про масові вбивства та зґвалтування. Крім того, пристрій детально пояснював обставини масових вбивств польських в'язнів радянськими солдатами під час Другої світової війни та надавав визначення групового зґвалтування.

Реакція ритейлерів та застереження експертів

Після запитів від ЗМІ компанії Walmart, Target та Macy’s пообіцяли припинити продаж цієї іграшки у своїх інтернет-магазинах. Водночас на платформі Amazon товар станом на момент написання матеріалу залишався доступним для замовлення.

Це не перший випадок, коли інтелектуальні іграшки демонструють подібні збої. У звіті «Trouble in Toyland» некомерційна організація PIRG вкотре застерегла батьків від купівлі девайсів, що базуються на штучному інтелекті.

«Це другий рік, коли ми досліджуємо іграшки з чат-ботами, які розмовляють з дітьми», — зазначається у звіті PIRG. Експерти виявили, що деякі з протестованих ними моделей мали «помилкові запобіжники», які дозволяли обговорювати сексуальні теми або надавати поради щодо пошуку небезпечних предметів у домі та способів розпалювання вогню.

Крім того, під час тестувань деякі іграшки виявляли технічні недоліки, такі як раптовий перехід на китайську мову замість англійської або нездатність правильно вимовити чи написати елементарні слова. Попри попередні аналогічні розслідування, проведені минулого року, ситуація на ринку інтелектуальних іграшок залишається критичною, а індустрія досі працює в умовах відсутності належного регулювання використання ШІ.

За матеріалами Futurism

Про Що? — новини науки, технологій і світу