Искусственный интеллект умеет генерировать не только изображения, близкие к описанию, но и максимально далекие от него. Применяя этот метод, известный как Negative Weight Prompts (с английского — «запросы с отрицательным коэффициентом». — Прим. ред.), нейросеть пытается сгенерировать образ, который противоположен описанию.
Обычно получаются вполне безобидные картинки, но не в случае с пользователем твиттера Supercomposite. Однажды в ответ на свой обратный запрос он получил изображение жуткой женщины, которой дал имя Лоаб.
Сначала Supercomposite ввел в программу «Brando:-1», на что ИИ выдал ему логотип с городским ландшафтом и словами «DIGITA PNTICS». Тогда пользователь отправил запрос «DIGITA PNTICS skyline logo:-1», полагая, что теперь получит изображение актера Марлона Брандо. Однако нейросеть сгенерировала пожилую женщину с депрессивным взглядом и следами кожного заболевания розацеа на щеках.
Supercomposite продолжил тесты. Он взял картинку, сгенерированную по запросу «сверхсжатый стеклянный туннель в окружении ангелов и в стиле Уэса Андерсона», и исходное изображение Лоаб. Пользователь попросил нейросеть скомбинировать их, не используя в этот раз текстовое описание.
Некоторые изображения получились особенно жестокими — в галерее ниже это пятая и шестая картинки. Создателю Лоаб даже пришлось сделать предупреждение и поставить специальную плашку, чтобы не шокировать читателей треда.
«Туннель с ангелами»
Оригинал Лоаб
Результат генерации
Еще один результат
«Из „коридора ангелов“ и Лоаб получились настолько кровавые арты, что едва ли многие захотят их увидеть, но вот парочка»
«Мне не по себе, когда я публикую самые отвратительные кадры, граничащие со снафф-контентом с расчлененными и кричащими детьми»
Supercomposite принялся скрещивать картинку Лоаб со всем подряд — популярными фильмами и событиями. Пользователь отмечает, что лишь изредка нейросеть генерировала картинки, на которых не было жутковатой женщины, но в большинстве случаев она запоминала и воспроизводила образ Лоаб.
«Есть что‑то трогательное в этих гротескных сценах и отчаянии, панике и печали, которые они передают. Эти картинки снова созданы в комбинации с другими изображениями и без текста. Это результат „скрещивания“ образов Лоаб с изображениями других вещей».
Смесь Лоаб и пчелы
Лоаб на Месяце прайда
Лоаб в образе На’ви из «Аватара: Путь воды»
«Комбинирование Лоаб с текстовыми описаниями работает ничуть не хуже. Ее узнаваемые щеки с розацеа даже превратились в синие».
«Концепт „феномена Лоаб“ стал для меня более абстрактным. Я включал ее в генерации, которые наверняка исказили бы ее до неузнаваемости. После того как она исчезала из ряда сгенерированных образов, иногда появлялась вновь будто из ниоткуда», — написал Supercomposite.
Несмотря на то что в некоторых картинках узнать Лоаб было уже не так просто, части ее лица все же проявлялись — в первую очередь щеки.
«Картинки, которые получились от скрещивания оригинала Лоаб с другими картинками, можно еще раз скрестить с новыми изображениями. ИИ так хорошо определяет образ Лоаб, что сохраняет его даже через несколько итераций. Вот Лоаб в образе Кирби».
«Лоаб в древности»
«Роботизированная Лоаб»
«Я уже начал сходить с ума. У меня сотни изображений Лоаб, я уже начал комбинировать ее с тремя или четырьмя другими изображениями одновременно. Иногда она принимает более абстрактные формы, но в них все еще прослеживается ее „наследие“», — делился ходом экспериментов Supercomposite.
Пользователи и сам Supercomposite до конца не понимают, почему сгенерированные изображения на основе оригинала Лоаб почти всегда скатываются в тему ужаса, графического насилия и крови. Неясно и то, какой программой пользуется автор картинок: это может быть уже известный DALL-E или Midjourney.
Нейросети обучены на миллиардах изображений, и понять, почему они генерируют именно такие картинки, не так‑то просто. Именно поэтому специалисты по этике ИИ предостерегают от использования нейросетей с большой базой слов: они слишком велики, а их результаты слишком непредсказуемы, чтобы вовремя предотвратить появление вредного контента.
У нейросети DALL-E есть фильтры, которые отсеивают определенные термины и слова: к примеру там нельзя создавать поддельные изображения со знаменитостями. Но в то же время нейросеть Stable Diffusion такой функцией не обладает, а пользоваться ею с недавнего времени может любой желающий. Разумеется, энтузиасты уже принялись за создание порно.
