Президент США Дональд Трамп объявил во вторник, что главы крупнейших американских технологических компаний и компаний, занимающихся искусственным интеллектом, подписали «морально обязывающее» соглашение о введении контроля над искусственным интеллектом. Он объявил о сделке, получившей название «Совместное обязательство по освоению новых рубежей», после обеда в Белом доме с ведущими руководителями технологических компаний, пишут СМИ.
«В каком-то смысле это почти конституция, и ее подписали самые влиятельные люди в мире, и я подписал ее как президент, и это действительно форма защиты», — сказал Трамп.
Трамп также подписал указ, переименовывающий искусственный интеллект в «сверхинтеллект», аналогично заявлению, сделанному им в Организации Объединенных Наций на прошлой неделе.
«Указ предписывает всем департаментам и ведомствам использовать термины „сверхинтеллект“ и „СИИ“ в официальной переписке, публичных сообщениях, политических документах и документах, не являющихся законодательными актами, в рамках исполнительной власти, а также отказаться от использования терминов „искусственный интеллект“ или „ИИ“», — говорится в указе.
Соглашение, которое, по словам Трампа, позволит компаниям осуществлять «масштабный самоконтроль» своей продукции и технологий, описывает расплывчатые рамки того, как фирмы, занимающиеся искусственным интеллектом, будут устанавливать стандарты безопасности при тестировании новых продуктов. Технологическая индустрия столкнулась с повышенным вниманием общественности после серии инцидентов, когда крупные компании, занимающиеся искусственным интеллектом, непреднамеренно взламывали сторонние организации во время испытаний на безопасность.
В то время как законодатели, исследователи в области ИИ и даже некоторые компании, занимающиеся ИИ, призывают к усилению государственного надзора за искусственным интеллектом, Трамп в целом отвергает призывы к более жесткому регулированию этой технологии, ссылаясь на конкуренцию с Китаем и угрозы экономическому росту.
Совместное обязательство, опубликованное Трампом во вторник в его аккаунте Truth Social, по всей видимости, не предусматривает механизмов принудительного исполнения или юридических последствий и является добровольным.
В документе изложены четыре «уровня контроля и аудита» для компаний, занимающихся искусственным интеллектом. Первый предполагает внедрение внутреннего мониторинга безопасности во время обучения — механизм, который уже существует в крупных лабораториях и до сих пор не смог предотвратить сбои в тестировании. Второй уровень предусматривает создание внутренней команды для обеспечения корректной работы первого уровня мониторинга, а третий — предоставление внешнему аудитору возможности независимой оценки мер контроля безопасности. Наконец, соглашение предусматривает создание компаниями независимого совета для проверки отчетов о мерах контроля безопасности.
Ни один из перечисленных в соглашении механизмов контроля не предусматривает участия государственных регулирующих органов и не включает обязательство публично раскрывать результаты независимых оценок. Соглашение, по всей видимости, также позволяет компаниям выбирать собственных экспертов для оценки, назначать собственные наблюдательные советы и решать, публиковать ли результаты.
Трамп сделал эти заявления после обеда с лидерами технологической отрасли, включая Илона Маска, генерального директора SpaceX; Марка Цукерберга , генерального директора Meta; Дженсена Хуанга, генерального директора Nvidia; Дарио Амодея, генерального директора Anthropic; и других ведущих руководителей отрасли. Технологическая отрасль, которая в значительной степени поддержала администрацию Трампа, лоббировала против жесткого регулирования, утверждая, что это задушит экономику.
Цукерберг, в окружении Трампа и других технологических магнатов, заявил на пресс-конференции после обеда, что гордится соглашением и что оно было заключено для того, чтобы заверить американскую общественность в надежности их технологий.
«Это начало и соглашение, к которому могла прийти вся отрасль», — сказал Цукерберг. «Это был своего рода исторический разговор».