Разведывательные службы разных стран возлагают большие надежды на умные машины в борьбе, например, с кибератаками, дезинформацией и организованной преступностью. Об этом пишет The Economist.
Когда речь идет об искусственном интеллекте, шпионские службы работают в этом поле дольше, чем кто-либо другой. Во времена Холодной войны Агентство национальной безопасности США (АНБ) и Центр правительственной связи Великобритании (ЦПС) пытались заставить ранние умные машины делать стенографии и переводить огромные объемы перехваченных телефонных разговоров с СССР.
Об этом пишет The Economist, напоминая, что западные разведчики начали собирать такие советские данные в 1960-х годах. Однако, к тому времени искусственный интеллект был еще в состоянии зародыша. Бывший офицер разведки одной из стран Европы сказал изданию, что во времена его службы в начале 2000-х никто еще не использовал автоматическую транскрипцию и перевод в Афганистане. Вместо этого разведчики полагались на тех, для кого местный язык был родным.
Теперь же разведывательные управления надеются, что все изменится. Ряд вещей сделал искусственный интеллект более привлекательным для бизнеса. Большее количество данных, лучшие алгоритмы и большая вычислительная мощность компьютеров дают свои плоды. И все это порождает большие идеи в разведке тоже.
24 февраля ЦПС опубликовал отчет о том, как искусственный интеллект может изменить его работу. «Автоматическая проверка фактов» может выявлять фальшивые фото и дезинформацию, сверяя ее с надежными источниками, а также разоблачать ботов в социальных сетях. Искусственный интеллект может блокировать кибератаки, «анализируя шаблоны деятельности в сетях и устройствах», а также бороться с организованной преступностью, выявляя подозрительные цепи финансовых переводов.
Такие вещи теперь распространены. Неправительственная организация Nuclear Threat Initiative недавно доказала, что технология машинного самообучения с помощью публично доступных данных может выявлять до сих пор неизвестные компании, причастные к незаконной ядерной торговле. Но ведь шпионские ведомства не ограничиваются лишь открытыми данными. Кое-кто надеется, что пользуясь возможностью подглядывать личную информацию, такие скромные программы могут стать мощным автоматизированным «полицейским».
«Искусственный интеллект революционизирует практику разведки», — говорится в опубликованном первого марта докладе американской «Национальной комиссии по вопросам искусственного интеллекта». Организацию возглавляют бывший член правления Alphabet Эрик Шмидт и экс-замминистра обороны США Боб Ворк.
Доклад очень амбициозный. В нем сказано, что к 2030 году 17 американских разведывательных агентств построят «федеративную архитектуру непрерывного обучения аналитических двигателей», которая будет включать фактически все: от человеческих разведывательных данных до спутниковых снимков.
Система будет предсказывать потенциальные угрозы. Комиссия одобрительно указывает на реакцию Пентагона на пандемию COVID-19. Оборонное ведомство объединило десятки наборов данных для выявления горячих очагов распространения инфекции.
Но то, что возможно в сфере здравоохранения, не всегда легко повторить в поле национальной безопасности. Западные разведывательные управления должны считаться с законами, регулирующими сбор и использование частных данных. В своем отчете ЦПС утверждает, что будет пристально следить за системными предубеждениями. Например, речь идет о проверках, не работает ли программное обеспечение для распознавания голоса более эффективно против определенных групп населения. Также служба обещает быть прозрачной в вопросе ошибок и неопределенности в ее алгоритмах.
Американские шпионы более размыто обещают, что будут уважать «человеческое достоинство, права и свободы». Эти разногласия, наверное, придется убрать. Одно из предложений недавно выдвинула организация под названием «Центр стратегических и международных исследований» (SCIS), которая состоит из бывших американских шпионов. Она предложила, чтобы разведывательный альянс «Пять глаз», объединяющий спецслужбы США, Австралии, Великобритании, Канады и Новой Зеландии, создали общий облачный сервер для хранения данных.
Во всяком случае, препятствия, которые ждут искусственный интеллект в поле разведки, и практические, и этические. Машинное самообучение ловко выявляет закономерности, такие как выразительные шаблоны использования мобильных телефонов. Но оно плохо предполагает индивидуальное поведение. Это особенно касается ситуаций, когда данных очень мало, как в случае борьбы с терроризмом. Модели прогнозирования могут проработать данные о тысячах ограблений в год. Но терроризм — явление более редкое.
Это создает другую проблему, хорошо известную медикам, работающим над программами массового скрининга для выявления редких заболеваний. Любая производительная модель будет давать фальшивые «положительные» результаты. Это означает, что невинновных людей будут подвергать расследованиям. Тщательная разработка может сократить уровень возникновения таких фальшивых результатов. Но из-за того, что «базовый уровень» слишком низок, ведь, к счастью, террористов не так и много, система будет отправлять большое количество агентов на проверку случайных людей.
