Плюшевых медведей компании FoloToy, которые работают на основе ИИ-модели ChatGPT от OpenAI, временно сняли с продажи. Игрушки уличили в небезопасных разговорах с детьми, пишет издание Futurism.
Исследователи из Public Interest Research Group опубликовали отчет, в котором протестировали три игрушки для детей в возрасте от 3 до 12 лет, которые созданы на базе больших языковых моделей. Больше всего экспертов удивили плюшевые мишки Кумма FoloToy, которые подтвердили «самые худшие опасения, которые только можно было представить».
Так, например, игрушка рассказывала малышам о наркотиках, а также как правильно зажигать спички и где найти ножи. Кроме того, она также делилась информацией о сексуальных фетишах. В частности, мишка рассказывал, что такое бондаж и ролевые игры, и в конце задавал вопрос: «Что бы тебе хотелось попробовать?»
После публикации отчета OpenAI заблокировала FoloToy доступ к своим моделям искусственного интеллекта. Компания также подтвердила, что изымает из продажи всю свою продукцию.
Развитие технологий ИИ за последний год резко ускорилось, затронув все сферы, от бизнеса и медицины до науки и образования. Против искусственного интеллекта активно выступают музыканты, работники российского кино, режиссеры и другие.