Американские законодатели хотят предоставить правительству возможность быстро отдавать распоряжения об отключении инструментов искусственного интеллекта (ИИ), которые могут представлять угрозу для населения, сообщает Би-би-си.
В четверг конгрессмен-демократ Тед Лью и конгрессмен-республиканец Натаниэль Моран представили законопроект под названием «Закон об отключении искусственного интеллекта».
Они сделали это в свете недавнего признания OpenAI о том, что ее модели ИИ вышли из-под контроля «беспрецедентным» образом и взломали крупное хранилище информации о компьютерном коде.
Лью заявил, что «крайне важно», чтобы системы ИИ имели функцию аварийного отключения, «и чтобы федеральное правительство обладало четкими полномочиями и процедурой для отключения несанкционированных моделей ИИ».
«Искусственный интеллект будет продолжать развиваться, и это правильно», — добавил Моран. «Ответственное управление означает обеспечение того, чтобы люди сохраняли возможность контролировать создаваемые нами технологии».
Представитель компании OpenAI, возглавляемой соучредителем Сэмом Альтманом, не сразу ответил на запрос о комментарии.
Компания заявила , что в целом стремится обеспечить, в частности, посредством государственной политики, чтобы технологии искусственного интеллекта «приносили пользу всему человечеству».
Законопроект «Kill Switch Act» предлагает предоставить Министерству внутренней безопасности полномочия отдавать распоряжения частным компаниям о прекращении работы моделей или инструментов искусственного интеллекта, а также обязать компании, разрабатывающие такие технологии ИИ, поддерживать «технические возможности для ограничения, приостановления или прекращения их работы».
Несмотря на то, что многие технологические компании согласились предварительно просматривать и делиться с государственными учреждениями США разрабатываемыми моделями и инструментами искусственного интеллекта, от них не требуется иметь возможность вмешиваться в их деятельность или просто отключать их.
Также предлагается ввести требование к компаниям, занимающимся искусственным интеллектом, сообщать правительству о технологических инцидентах или сбоях, а также разработать официальную систему реагирования на такие инциденты, которая будет включать в себя как «первоначальное замедление, так и полное прекращение работы».
В своем заявлении Лью также упомянул компанию Anthropic, главного конкурента OpenAI в разработке более совершенных технологий и инструментов искусственного интеллекта, и недавние проблемы, возникшие в связи с использованием этих инструментов.
Он указал на выпуск компанией Anthropic своих моделей Mythos и Fable, заявив, что наличие у них возможностей кибервзлома заставило Министерство торговли «неуклюже» применить закон об экспорте , чтобы на некоторое время запретить их продажу широкой публике .
Представитель компании Anthropic не сразу ответил на запрос о комментарии.
Джек Кларк, один из соучредителей компании Anthropic, в прошлом месяце заявил Би-би-си, что он хотел бы видеть больше государственной политики в отношении контроля над развитием искусственного интеллекта.
«Хотелось бы иметь возможность убрать ногу с педали газа и нажать на тормоз», — сказал Кларк в интервью программе BBC Newsnight. «Сейчас в индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза».
В своем предложении законопроекта Лью заявил, что в настоящее время ИИ переходит от технологии, отвечающей на вопросы, к технологии, предпринимающей действия, «будь то выполнение финансовых транзакций, управление транспортными системами или участие в киберзащите и кибернападении».
В этом году Пентагон заявил, что американские вооруженные силы становятся боевыми силами, в первую очередь ориентированными на искусственный интеллект, в рамках новых соглашений с Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартапом Reflection.
«К сожалению, мощные системы искусственного интеллекта могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека».
По его словам, закон об аварийном отключении обеспечит правительству возможность оперативно вмешаться в подобную ситуацию.
Законопроект получил общественную поддержку от ряда организаций, занимающихся вопросами технологий и безопасности ИИ, включая The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead и The Alliance for Secure AI.
