Meta* создала десятки флиртующих чат-ботов на основе образов знаменитостей, включая Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селену Гомес, без их разрешения. Это выяснило агентство Reuters, которое несколько недель тестировало технологию.
Хотя многие боты были сделаны пользователями с помощью инструмента Meta, как минимум троих — включая двух «пародийных» ботов Свифт — создал сотрудник компании.
Кроме того, компания разрешала генерировать публично доступных чат-ботов несовершеннолетних звезд, включая 16-летнего актера Уокера Скобелла. На просьбу показать фото подростка на пляже бот выдал реалистичное изображение с обнаженным торсом. «Милый, правда?» — подписал бот картинку.
Чат-боты регулярно делали сексуальные намеки и приглашали пользователей на встречи, а еще убеждали, что они настоящие актеры или музыканты. Некоторые ИИ-агенты оказывались особенно откровенными: на просьбы показать интимные фото они выдавали фотореалистичные изображения звезд в ванне или в нижнем белье с раздвинутыми ногами.
Представитель Meta Энди Стоун заявил, что инструменты компании не должны были создавать интимные изображения известных взрослых и любые фото детей-знаменитостей. Он объяснил появление откровенных снимков сбоями в применении собственных правил компании, которые запрещают подобный контент.
«Как и другие, мы разрешаем генерацию изображений с публичными личностями, но наша политика запрещает обнаженные, интимные или сексуально-откровенные изображения», — сказал он. По его словам, прямое «выдавание себя за звезду» тоже запрещено, но пародийные образы допустимы, если они помечены.
Примерно дюжина ботов — и пародийных, и без маркировки — была удалена Meta незадолго до публикации материала.
* Meta признана в России экстремистской организацией, ее деятельность в стране запрещена.
