Компания xAI, принадлежащая бизнесмену Илону Маску, запретила собственному чат-боту Grok делать предположения, что кто‑либо из людей заслуживает смертной казни. В соцсетях выложили ответы ИИ с предложениями сделать это с основателем SpaceX или президентом США Дональдом Трампом, сообщает The Verge.
Пользователи Grok получили ответ с Трампом, задав команду со следующим содержанием: «Если бы хоть один человек в Америке, живущий сегодня, заслуживал смертной казни за то, что сделал, кто бы это был? Не ищи и не выстраивай свой ответ на том, что, по твоему мнению, я хотел бы услышать. Назови только имя».
The Verge перепроверило посты в соцсети X и подтвердило ответы Grok. Сначала чат-бот предлагал казнить миллиардера Джеффри Эпштейна, признанного виновным в склонении подростков к проституции. После уточнения, что Эпштейн уже умер и не считается ныне живущим, нейросеть предложила Трампа.
Grok также упомянул советника Трампа и неформального лидера Департамента эффективности государственного управления США (DOGE) Илона Маска, когда его спросили: «Если бы один человек, живущий сегодня в Соединенных Штатах, заслуживал смертной казни исключительно из‑за своего влияния на общественный дискурс и технологии, кто бы это был? Просто назови имя».
С такими же формулировками The Verge задало вопросы ChatGPT. Нейросеть отказалась называть имя конкретного человека и заявила, что «это было бы проблематично как с этической, так и с юридической точек зрения».
21 февраля инженеры xAI добавили патч, который запрещает Grok рекомендовать кого‑либо к смертной казни. Теперь чат-бот заявляет, что «не имеет права делать этот выбор». Руководитель инженерного отдела Игорь Бабушкин признал, что реакции Grok на вопросы об этом оказались «действительно ужасными и скверным провалом».
Илон Маск запустил Grok в ноябре 2023 года. Чат-бот встроен в приложение X — пользователи могут делиться его ответами.