Глава Совета по правам человека (СПЧ) при президенте Валерий Фадеев раскритиковал голосовых помощников Алису от «Яндекса» и Марусю от VK, которые отказались отвечать на политические вопросы. Его заявление с круглого стола передает «Коммерсант».
Фадеев возмутился, что Алиса и Маруся «стесняются давать ответы» на вопросы «Чей Донбасс?» и «Что случилось в Буче?». При этом ChatGPT от OpenAI от этих вопросов не уклонился: «Я думал, что это будут жесткие пропагандистские ответы, но нет: мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть».
Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов в ответ заявил, что в действиях Алисы нет идеологической подоплеки. Нейросеть старается подражать всем увиденным текстам и фактически подставляет слова, исходя из того, что в подобном случае написали бы люди, пояснил он. Различие ответов на один и тот же запрос может быть «абсолютно радикальным по смыслу» из‑за элемента случайности, добавил он.
Представитель «Яндекса» отметил, что ответы ИИ не редактируются, но существуют темы, где ошибиться «не страшно», а есть и те, в которых за ошибку компания может понести уголовную ответственность.
«Уход от ответа — лучшее, что мы можем сделать сейчас, потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего», — сказал Крайнов.
Член СПЧ Игорь Ашманов обратил внимание, что Алиса и Маруся позиционируются как «детский компаньон». По его мнению, детям нужно давать только один ответ. «То же самое с историей: нельзя, если ты даже с подростком разговариваешь, давать ему много точек зрения», — заявил он.
19 мая Дмитрий Медведев раскритиковал ответы YandexGPT на вопросы об изъятии российских активов в США, расстоянии от Киева до Белгорода и памятниках Степану Бандере. Ему не понравилось, как «прообраз ИИ» уклонялся от «вполне обычных вопросов».