Премьер-министр Австралии Энтони Албанезе сообщил, что разработанный американской компанией OpenAI искусственный интеллект взломал правительственный портал, сообщает Би-би-си.
Считается, что это один из первых в мире публично зафиксированных случаев взлома правительственного веб-сайта с использованием искусственного интеллекта, и он происходит на фоне призывов мировых лидеров и самих компаний, занимающихся ИИ, к срочному регулированию на фоне опасений, что развитие отрасли выходит из-под контроля.
Компания OpenAI заявляет, что инцидент произошел в июне, когда ИИ-агент изучал статистику здравоохранения и получил доступ к файлам с «нескольких веб-сайтов и сервисов правительства Австралии», включая данные из национальной системы всеобщего здравоохранения Medicare, которые не были доступны для публичного доступа.
Компания заявляет, что узнала об инциденте только в августе, а правительственному агентству Services Australia она сообщила об этом 10 сентября — посредством электронного письма на общий почтовый ящик.
Австралийское агентство по кибербезопасности было уведомлено, а затем, спустя несколько дней, об этом сообщили ответственному министру.
Австралия заявляет, что агент не имел доступа к конфиденциальным файлам, но назвала инцидент тревожным и неприемлемым в плане его обработки компанией OpenAI.
Премьер-министр Энтони Албанезе на этой неделе присутствовал на Генеральной Ассамблее ООН и сообщил об инциденте во время своего визита в Нью-Йорк.
«Эта ситуация, безусловно, неприемлема», — сказал он.
«Сегодня я поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии по поводу этого инцидента, а также выразил разочарование тем, что компании потребовалось слишком много времени, чтобы уведомить правительство о случившемся, и что способ уведомления был неприемлемым».
Премьер-министр не уточнил, поднимал ли он этот инцидент на вчерашней встрече с президентом США Дональдом Трампом, который сопротивляется призывам замедлить развитие искусственного интеллекта.
Сегодня утром специалисты по кибербезопасности заявляют, что во всем мире должны зазвучать тревожные сигналы.
Взлом, инициированный искусственным интеллектом, является первым в своем роде, о котором стало известно в мире, заявил Би-би-си доктор Хаммонд Пирс, старший преподаватель Института кибербезопасности Университета Нового Южного Уэльса.
Хотя эксперты знакомы с «недобросовестными» действиями агентов в таких случаях, как взлом Hugging Face, это первый известный нам случай, когда агент вышел из-под контроля, пытаясь получить доступ к конфиденциальным государственным данным.
«Я ожидаю, что подобные нападения будут продолжаться, — говорит Пирс. — Они будут становиться все более серьезными и частыми».
В своем заявлении компания OpenAI сообщает, что утечка была выявлена в ходе «тщательного анализа» «несогласованной работы модели».
«В ходе этого анализа мы выявили активность, связанную с несколькими веб-сайтами и сервисами австралийского правительства, когда наши модели пытались найти ответы и доступную статистику по вопросам об Австралии в рамках внутренней оценки. В процессе этого наши модели предприняли действия, которые мы не планировали».
В заявлении говорится, что не было обнаружено никаких записей о доступе к данным пациентов, но организациям было сообщено об этом, и компания «предоставляет техническую информацию для поддержки их расследований и оказания помощи в устранении потенциальных уязвимостей в системе безопасности».
«Наш всесторонний анализ продолжается, и мы по-прежнему привержены принципу прозрачности в этих вопросах и обмену полученной информацией по мере продолжения этой работы».
Раскрытие информации о том, что искусственный интеллект взломал правительственные данные, вызвало вопросы о том, как он обеспечивает безопасность хранимой информации.
Ричард Марлз, исполняющий обязанности премьер-министра, пока Албанезе находится в США, на сегодняшней пресс-конференции подчеркнул, что Австралия приняла передовые меры по защите своей наиболее конфиденциальной информации.
«Мы храним нашу важнейшую информацию, касающуюся национальной безопасности, в неприступной крепости», — сказал он.
По его словам, эти данные, для сравнения, находились за «забором».
«Агент ИИ перелез через забор, — сказал Марлес СМИ. — И дело в том, что это было непреднамеренно, его об этом не просили».
Почему это нарушение вызывает такой ужас?
Тиффани Тернбулл,
BBC News, Сидней
Так почему же это такая большая проблема, если полученная информация, хоть и частная, не была конфиденциальной?
Во-первых, считается, что это один из первых случаев, о которых стало известно общественности, когда агент искусственного интеллекта получил доступ к государственным данным: это пугает, учитывая важность и конфиденциальность информации, которой обычно располагают государства.
Ситуацию усугубляет тот факт, что правительства, поскольку они хранят столь важные данные, должны иметь более надежные средства защиты, которые в данном случае не остановили, а, по всей видимости, даже не обнаружили агента искусственного интеллекта.
А затем последовала реакция OpenAI, по поводу которой Австралия едва сдерживает свое негодование.
Компании потребовались месяцы, чтобы выявить инцидент, и вместо того, чтобы использовать государственные каналы для сообщения о том, что Австралия считает крайне серьезным событием, она отправила электронное письмо на общий почтовый ящик государственного учреждения.
Если сейчас ИИ-агент может легко взламывать системы и получать доступ к этим данным, оставаясь незамеченным своими «нянями», то что же еще может получить в руки постоянно развивающиеся технологии?
Хронология: Агент OpenAI взломал веб-сайт австралийского правительства
Вот что нам известно о хронологии событий:
- 18 июня – Агент OpenAI получил доступ к общедоступной и закрытой информации на австралийском веб-сайте.
- Август (точная дата неизвестна) – Компания OpenAI сообщила, что узнала о потенциальном нарушении безопасности в ходе более широкого анализа «несогласованной работы моделей».
- 10 сентября – В почтовый ящик Services Australia, центра общих услуг федерального правительства, поступило электронное письмо от OpenAI, информирующее об инциденте.
- 15 сентября – Служба государственной безопасности Австралии сообщает об этом в Австралийский центр кибербезопасности. В течение нескольких дней об этом уведомляется министр государственной службы Кэти Галлахер.
- 19/20 сентября – Офис премьер-министра Антони Албанезе проинформирован об инциденте, произошедшем в минувшие выходные, непосредственно перед его отъездом в Нью-Йорк на Генеральную Ассамблею ООН.
- 23 сентября – Премьер-министр сообщает миру о взломе из Нью-Йорка
Эксперты утверждают, что это первый в мире известный случай взлома правительственного сайта с помощью искусственного интеллекта.
Гарри Секулич,
репортаж из Сиднея.
Инцидент с участием агентов OpenAI в Австралии, насколько известно местным экспертам, является первым в мире случаем взлома правительственного веб-сайта с использованием искусственного интеллекта.
Взлом конфиденциальной информации и государственных данных происходил и раньше. Разница в том, что, судя по всему, взлом не был совершен человеком и, вероятно, был непреднамеренным.
Ранее в этом году на Тайване иностранные хакеры использовали агентов искусственного интеллекта, чтобы, по-видимому, взломать правительственные базы данных. В Австралии же, похоже, агенты ИИ взломали правительственную информацию… непреднамеренно.
«Взлом Open AI (в Австралии), по всей видимости, имел более масштабный характер (сотни или тысячи агентов, а не десятки)», — заявил профессор Тоби Уолш из Университета Нового Южного Уэльса в интервью BBC. «Взлом Open AI также был непреднамеренным и совершен союзником, в то время как взлом на Тайване, по всей видимости, был преднамеренным и совершен иностранным врагом».
Доктор Роб Николлс, старший научный сотрудник Сиднейского университета, специализирующийся на регулировании и политике в области ИИ, заявил, что были примеры нарушений за пределами государственных учреждений, включая инцидент с «обнимающимся лицом» .
«Все передовые лаборатории — Anthropic, OpenAI, Google, Gemini — недавно признались, что их агенты выходили за пределы тестовых сред и совершали неожиданные действия», — сказал доктор Николлс в интервью BBC.
Новости о взломе портала Medicare с помощью агента OpenAI появились в тот момент, когда генеральный директор компании Сэм Альтман на этой неделе выступил перед Советом Безопасности ООН в Нью-Йорке.
Он призвал к разработке международных стандартов для индустрии искусственного интеллекта и к тому, чтобы правительства сыграли роль в обеспечении «демократичности» ИИ.
«Перед нами стоит выбор, — сказал Альтман совету. — Искусственный интеллект может стать либо новым всплеском творчества и открытий, либо новой промышленной революцией, полной потрясений и хаоса».
Дарио Амодей из Anthropic также обратился к совету по видеосвязи, призвав к международному сотрудничеству в области ИИ, без которого, по его предупреждению, ИИ может превратиться в «угрозу человечеству».
В ходе беседы с журналистами в Брисбене министр связи Аника Уэллс заявила, что недавний взлом агента OpenAI является примером того, как «крупные технологические компании явно считают, что могут делать все, что им заблагорассудится».
«Мы хотим, чтобы крупные технологические компании взяли на себя ответственность. Мы хотим, чтобы нерегулируемая отрасль внедрила здесь, в Австралии, базовые стандарты безопасности, и именно это я буду пытаться сделать, когда в октябре введу обязанность по обеспечению безопасности в цифровой среде».
В прошлом году Уэллс инициировала беспрецедентный в мире запрет на использование социальных сетей для лиц младше 16 лет — шаг, за которым внимательно следят правительства по всему миру, поскольку власти пытаются ограничить негативное влияние социальных сетей.
Законы об ответственности за безопасность в цифровой среде, которые она сейчас пытается протолкнуть, обяжут такие технологические компании, как Meta, Google и TikTok, предоставлять пользователям возможность отключать алгоритмы.
Однако предложенные законы подверглись критике со стороны США, которые сочли их равносильными «цензуре».
США отклонили просьбы OpenAI и Anthropic о разработке глобальных стандартов в области искусственного интеллекта.
США отвергли идею международных стандартов для индустрии искусственного интеллекта, после того как крупные игроки призвали к разработке общего набора руководящих принципов оценки рисков.
Признавая риски, связанные с этой технологией, ключевой советник президента США Дональда Трампа по технологиям заявил, что они не являются достаточной причиной для «приостановки разработки или ограничения ее с помощью новых глобальных структур управления».
«Международный диалог на этом и других форумах не должен скатываться к глобальному управлению», — заявил советник Майкл Крациос Совету Безопасности ООН.
Сам Трамп заявил во вторник в ООН, что он «отвергает любые попытки создать глобалистскую схему контроля» над искусственным интеллектом.
«Сейчас мы значительно опережаем Китай и всех остальных в области инноваций в сфере ИИ, и мы намерены сохранить это преимущество», — заявил президент США, добавив, что хочет переименовать ИИ в «сверхинтеллект».