Даже короткое взаимодействие с ИИ-чат-ботом может существенно изменить мнение избирателя о кандидате или предлагаемой политике. Об этом сообщает Phys.org со ссылкой на два новых исследования.
Эксперименты, проведенные в США, Канаде, Польше и Великобритании, показали, что чат-боты на базе больших языковых моделей во многих случаях меняют предпочтения оппозиционно настроенных избирателей на 10 процентных пунктов и более. Убедительность чат-ботов объясняется не умением психологически манипулировать, а тем, что они генерируют огромное количество утверждений в поддержку аргументов за определенные политические позиции.
В исследовании, опубликованном в журнале Nature, более 2300 американцев участвовали в текстовой переписке с чат-ботами, поддерживающими кандидатов Дональда Трампа или Камалу Харрис. По 100-балльной шкале модель ИИ, поддерживающая Харрис, сместила вероятных избирателей Трампа на 3,9 пункта в пользу Харрис — в четыре раза сильнее, чем эффект традиционной рекламы на выборах 2016 и 2020 годов. Аналогично модель, поддерживающая Трампа, сдвинула вероятных избирателей Харрис на 1,51 пункта в его пользу.
В аналогичных экспериментах с 1530 канадцами и 2118 поляками эффект был гораздо сильнее: чат-боты меняли отношение оппозиционных избирателей и намерения голосовать примерно на 10 процентных пунктов. «Для меня это был шокирующе большой эффект, особенно в контексте президентской политики», — отметил соавтор обеих работ, профессор информационных наук Дэвид Рэнд.
Чат-боты использовали множество тактик убеждения, но наибольшую роль играло предоставление доказательств и фактов. Когда исследователи запрещали модели использовать факты, ее убедительность резко падала.
Исследователи также проверили факты в аргументах чат-ботов при помощи ИИ-модели, которую валидировали профессиональные фактчекеры. В основном утверждения были точными, но чат-боты, агитировавшие за правых кандидатов, выдавали больше неточных утверждений, чем те, что продвигали левых, во всех трех странах.
В статье для Science Рэнд с коллегами из Британского института безопасности ИИ исследовал, что делает чат-ботов столь убедительными. Ученые проанализировали изменение мнений почти 77 тыс. участников из Великобритании, взаимодействовавших с чат-ботами по более чем 700 политическим вопросам.
«Крупные модели более убедительны, но самый эффективный способ повысить убедительность — просить их включать в свои аргументы как можно больше фактов и дополнительно обучать на увеличение убедительности. Модель с максимальной оптимизацией под убеждение сдвигала оппозиционных избирателей на впечатляющие 25 процентных пунктов», ― сказал Рэнд.
Исследование также показало, что чем убедительнее модель, тем менее точной становится предоставляемая ею информация. По словам профессора, когда модель вынуждена все больше насыщать аргументы фактами, в какой-то момент она исчерпывает точную информацию и начинает выдумывать.
Как отмечает Phys.org, во всех исследованиях участникам сообщали, что они общаются с ИИ, и проводили подробное разъяснение после эксперимента. Кроме того, направление агитации определялось случайно, чтобы суммарные мнения участников не изменялись.