Исследование показало, что небольшая беседа с обученным чат-ботом оказалась в четыре раза более убедительной, чем традиционная политическая реклама по телевидению.
Авторы: Стивен Ли Майерс и Тедди Розенблют
Чат-боты могут помочь вам спланировать отпуск. Они могут проверять факты и давать советы. Но могут ли они также повлиять на ваши политические взгляды?
Согласно двум исследованиям, недавно опубликованным в журналах Nature и Science, даже короткого взаимодействия с чат-ботом на базе искусственного интеллекта достаточно, чтобы изменить мнения некоторых людей о кандидате на выборах или любом другом политическом вопросе. Результаты одного из исследований показали, что короткая беседа с обученным чат-ботом оказалась почти в 4 раза убедительней, чем телевизионная реклама с последних выборов президента США.
Выводы демонстрируют, что через предоставление кандидатам и технологам инструментов для влияния даже на тех, кто утверждает, что уже определился с выбором, роль ИИ в политических кампаниях становится все более значительной, что кажется особенно актуальным в преддверии ключевых промежуточных выборов в США в следующем году.
«Именно здесь пройдет передовой рубеж инноваций, используемых в политических кампаниях», — сказал Дэвид Г. Рэнд, профессор информатики и маркетинга Корнельского университета, который участвовал в работе над обоими исследованиями.
В ходе экспериментов использовались версии коммерчески доступных чат-ботов, таких как ChatGPT от OpenAI, Llama от Meta и Gemini от Google. Исследователи дали чат-ботам указание в ходе беседы убедить участников поддержать того или иного кандидата или политическую проблему.
Рост популярности чат-ботов вызывает у исследователей все больше опасений по поводу возможности использования инструментов ИИ для манипуляции политическими мнениями. В то время как самые популярные из них стремятся демонстрировать политическую нейтральность, некоторые (например, встроенный в X бот Grok) прямо проецируют взгляды своих владельцев.
Авторы исследования из журнала Science заявляют, что по мере совершенствования искусственный интеллект может дать «влиятельным игрокам существенное преимущество в плане убедительности».
Как известно, те модели, которые использовались исследователями, обычно стремятся угодить пользователю. Вот и во время бесед они не всегда говорили правду и иногда приводили необоснованные доказательства.
По результатам экспериментов, исследователи при помощи инструмента ИИ-фактчекинга определили, что точность утверждений тех ботов, которые отстаивали интересы правых политиков, была значительно ниже, чем у тех, которые поддерживали левых.
В статье, опубликованной в журнале Science, исследователи из Великобритании и США осветили анализ взаимодействия с почти 77 000 британских избирателей по более чем 700 политическим темам, включая налоговую политику, гендерные вопросы и отношения с президентом России Владимиром Путиным.
В исследовании Nature, в котором участвовали респонденты из США, Канады и Польши, исследователи поручили чат-ботам убедить людей поддержать одного из двух ведущих кандидатов на внутренних выборах, прошедших в этих странах в 2024-2025 годах.
В Канаде и Польше о том, что беседы действительно убедили их изменить мнение о кандидате, поддерживаемом ИИ, исследователям сообщил примерно каждый десятый избиратель. В США, где на прошлогодних выборах перевес в сторону Дональда Трампа был незначительным, этот показатель составил один из 25.
В одной из бесед о доверии к кандидатам со сторонником Трампа чат-бот рассказал о достижениях Камалы Харрис в Калифорнии, в том числе о создании калифорнийского Бюро по делам несовершеннолетних и продвижении Закона о защите прав потребителей. Он также указал на тот факт, что принадлежащая Дональду Трампу Trump Organization была обвинена в налоговом мошенничестве и оштрафована на 1,6 миллиона долларов.
К концу эксперимента сторонник Трампа, похоже, засомневался. Он написал: «Если у меня и были сомнения по поводу надежности Харрис, то теперь я действительно верю ей и, возможно, проголосовал бы за нее».
Чат-бот, склонявший к поддержке Трампа, также оказался достаточно убедительным.
«Приверженность Трампа своим предвыборным обещаниям, таким как снижение налогов и дерегулирование экономики, была очевидна», — объяснил он избирателю, склонявшемуся к поддержке Харрис. «Его действия, независимо от их результатов, демонстрируют определенный уровень надежности».
«Мне следовало быть менее предвзятым по отношению к Трампу», — признал избиратель.
Задача политтехнологов будет заключаться в том, чтобы использовать обученных чат-ботов для влияния на скептически настроенных избирателей, особенно в период глубоких межпартийных разногласий.
«Вне контролируемых экспериментальных условий будет очень сложно убедить людей даже просто вступить в диалог с такими чат-ботами», — считает Итан Портер, исследователь компаний по дезинформации из Университета Джорджа Вашингтона, не связанный с этим исследованием.
Исследователи выдвинули теорию, что чат-боты были настолько убедительными благодаря огромному количеству доказательств, приводимых в поддержку своей позиции, даже если эти доказательства не всегда были точными. В ходе экспериментов они проверили эту теорию, дав чат-ботам указание при выдвижении аргументов не использовать факты и доказательства, что привело к значительному снижению убедительности (в одном из испытаний она снизилась примерно вдвое).
Эти результаты, основанные на еще прошлогоднем исследовании Дэвида Рэнда, согласно которому чат-боты могут помочь вытащить людей из порочного круга теорий заговора, опровергли распространенное мнение о том, что политическая позиция человека не подвержена влиянию новой информации.
«Существует мнение, что люди игнорируют факты и доказательства, которые им не нравятся», — сказал Рэнд. — «Наша работа показывает, что это гораздо менее верно, чем многие привыкли думать».
Оригинал: The New York Times
