Новое исследование показывает, что люди проводят удивительно четкую грань между человеческим сознанием и искусственным интеллектом, даже когда оба ведут себя идентично. Исследователи обнаружили, что участники считали даже самый отзывчивый ИИ менее сознательным, чем наименее отзывчивый человек. Однако, когда их спрашивали о «сознании», люди оценивали людей и ИИ гораздо более схожим образом.
Согласно новому исследованию Мюнхенского университета имени Людвига Максимилиана (LMU), даже когда искусственный интеллект ведет себя в точности как человек, люди неохотно считают его сознательным.
По мере развития искусственного интеллекта всё чаще появляются сообщения о том, что системы ИИ вводят пользователей в заблуждение, работают сообща или, кажется, преследуют независимые цели. Такое поведение часто заставляет людей описывать ИИ так, будто он может думать, чувствовать или принимать решения самостоятельно. Но действительно ли поведение, подобное человеческому, убеждает людей в том, что машина обладает сознанием?
Новое исследование Людвига Максимилиана предполагает, что люди четко различают проявление интеллектуального поведения и наличие сознания, даже когда люди и искусственный интеллект действуют совершенно одинаково.
Как ученые проверяли восприятие сознания искусственного интеллекта
Исследование , опубликованное в журнале Cognition , было проведено под руководством доктора Луи Лонгина, заведующего кафедрой философии сознания в Мюнхенском университете имени Людвига Максимилиана, совместно с доктором Бахадором Бахрами, профессором Офелией Дерой и другими исследователями.
«В то время как предыдущие исследования, как правило, задавали общие вопросы о том, обладают ли ИИ на самом деле психическими состояниями, наше исследование — первое, в котором напрямую сравнивается, как люди приписывают одни и те же психические состояния ИИ и людям, ведущим себя совершенно одинаково в идентичных условиях», — говорит Лонгин.
«Возможно, мы используем ментальные термины для обозначения ИИ, но это может быть лишь потому, что нам не хватает более подходящих слов», — говорит Офелия Дерой, философ и один из ведущих авторов исследования. «В конце концов, ИИ обучен действовать и говорить как человек, поэтому эти описания кажутся естественными».
Чтобы исследовать, как люди оценивают сознание, исследователи провели эксперименты с участием почти 1100 человек. Одна группа читала краткие описания искусственных агентов, демонстрирующих разный уровень реакции на окружающую среду. Например, некоторые агенты реагировали на звуки или распознавали эмоциональные состояния других.
Другая группа столкнулась с теми же ситуациями, но персонажи были описаны как люди, а не как системы искусственного интеллекта. Затем участники оценили, насколько каждый персонаж, по-видимому, осознавал окружающую обстановку.
Удивительный разрыв между человеческим и искусственным интеллектом в сознании.
Эксперименты показали, что реактивность влияла на то, как участники оценивали как людей, так и искусственный интеллект. Персонажи, которые более активно реагировали на окружающую среду, как правило, считались более сознательными и более осведомленными.
Однако, когда участники оценивали именно уровень сознания, выявилась поразительная разница. Даже самый отзывчивый ИИ был оценен как менее сознательный, чем наименее отзывчивый человек. Другими словами, идентичное поведение не приводило к тому, что люди присваивали людям и машинам одинаковый уровень сознания.
Результаты значительно изменились, когда участников спросили об осознанности. В отношении этой характеристики оценки людей и ИИ в значительной степени следовали схожим закономерностям, что говорит о том, что люди интерпретируют осознанность и сознание принципиально по-разному.
«В публичных дискуссиях растет обеспокоенность тем, что люди, увидев, что ИИ ведет себя подобно человеку, начнут относиться к этим системам так, как если бы они обладали человекоподобными психическими состояниями», — говорит Лонгин, ведущий автор исследования. «Мы обнаружили нечто гораздо более тонкое: люди вполне готовы утверждать, что ИИ замечает вещи и осознает окружающую обстановку. Но они четко проводят черту, когда дело доходит до термина «сознание». Люди неизменно приписывают ИИ меньше сознания, чем людям, — даже когда их поведение идентично».
Хотя при обсуждении действий ИИ иногда называют его сознательным, результаты исследований показывают, что они все же различают искусственные системы и человеческий разум.
Почему одно слово меняет наше восприятие ИИ
Исследователи считают, что различие между сознанием и осознанием дает важное представление о том, как люди понимают искусственный интеллект.
Осознание — относительно нейтральный термин, описывающий способность субъекта обнаруживать информацию в окружающей среде и реагировать на неё. Однако сознание несёт в себе более глубокие смыслы, касающиеся субъективного опыта и того, что значит иметь внутреннюю ментальную жизнь.
Поскольку осознание в большей степени фокусируется на наблюдаемом поведении, люди, по-видимому, спокойно применяют его как к людям, так и к искусственному интеллекту. Сознание же имеет другое значение, что приводит к тому, что люди оценивают эти два понятия гораздо менее схожим образом.
Полученные результаты также подчеркивают важность языка, используемого для обсуждения искусственного интеллекта, особенно по мере того, как системы ИИ становятся все более способными воспроизводить убедительное поведение человека.
«Наше исследование преподает нам уроки о том, как мы общаемся об ИИ», — говорит Бахадор Бахрами, один из ведущих авторов исследования и эксперт в области социальной нейронауки. «Компании и журналисты часто прибегают к преувеличенным описаниям моделей ИИ и приписывают им намерения, планы или даже моральную совесть и сомнения. Наше исследование показывает, что повседневные суждения гораздо более избирательны: люди не просто ставят ИИ и людей на одну и ту же ментальную шкалу. Но граница также зависит от того, какие термины мы используем. Для более нейтральных описаний, таких как «осведомленность», различие может в значительной степени исчезнуть. Это делает наш выбор языка важным».
