В разрушенном секторе Газа жизнь травмированных жителей превратилась почти в средневековье, однако израильское наступление, в результате которого были разрушены их дома и убиты их соседи, является вызывающе современным и поднимает глубокие вопросы о роли крупных технологических корпораций в войне.
Больше, чем любой другой крупный конфликт этого столетия, война Израиля и ХАМАС продемонстрировала, как искусственный интеллект и машинное обучение могут использоваться на поле боя и какую ответственность должны нести создатели этих инструментов, пишет Japan Times.
«С первых дней войны кампания была представлена как возможность проверить и усовершенствовать методы использования ИИ в военных действиях», — сказала София Гудфренд, научный сотрудник Гарвардского университета, изучающая использование Израилем ИИ и автоматизации в военных действиях.
«Газа, как и Украина, рассматривается как военная лаборатория будущего».
Сотрудники Amazon, Microsoft и Google, входящей в Alphabet, стали все больше беспокоиться о том, оказывают ли их компании поддержку израильским военным силам после появления ряда сообщений о предполагаемом использовании продукции крупных технологических компаний в секторе Газа.
Возмущение по поводу жертв среди гражданского населения (число погибших в секторе Газа составляет более 41 600 человек, и не менее 10 000 человек считаются пропавшими без вести под завалами) подогрело гнев сотрудников.
Некоторые сотрудники технологических компаний присоединились к протестам на рабочих местах и были уволены, некоторые ушли, а другие выразили свою поддержку палестинцам во внутренних группах.
Примерно в это же время в прошлом году число работников Amazon, присоединившихся к виртуальному сообществу для сотрудников, поддерживающих права палестинцев, составило около 800 человек.
Сегодня эта цифра выросла в пять раз, рассказал сотрудник Amazon, входящий в группу и пожелавший не называть своего имени из-за страха последствий.
«Знание того, как используются веб-сервисы Amazon (в секторе Газа), достаточно, чтобы побудить людей принять участие», — сказал сотрудник.
На просьбу прокомментировать использование своих услуг израильскими военными представитель Amazon заявил: «AWS стремится сделать преимущества нашей ведущей в мире облачной технологии доступными для всех наших клиентов, где бы они ни находились».
Представитель компании добавил, что компания стремится обеспечить безопасность своих сотрудников и оказать поддержку тем, кто пострадал от войны.
По данным израильских властей, Израиль начал наступление на Газу после того, как 7 октября прошлого года боевики ХАМАС ворвались на юг Израиля, убив 1200 человек и захватив около 250 заложников.
Гудфренд заявил, что конфликт в Газе продемонстрировал «смертоносный» эффект применения высокотехнологичных систем на войне.
«Масштабы разрушений не позволяют считать эти технологии нейтральными, и это заставило многих людей в технологической отрасли критически относиться к поставкам систем, которые используются для ведения войны», — сказала она.
«Израиль не смог бы иметь ту техническую инфраструктуру, которая у него есть, без поддержки частных компаний и инфраструктуры облачных вычислений — они просто не смогли бы эксплуатировать свои системы искусственного интеллекта без крупных технологических конгломератов».
Размытые линии
Официально известно очень мало о том, как именно израильские военные используют системы крупных технологических компаний в секторе Газа.
Особое внимание было уделено проекту Nimbus — совместному контракту стоимостью 1,2 миллиарда долларов, заключенному Google и Amazon Web Services на поставку правительству Израиля инфраструктуры облачных вычислений, искусственного интеллекта и других технологических услуг.
Представив проект в мае 2021 года, правительство Израиля заявило, что он призван «дать всеобъемлющий и тщательный ответ на предоставление облачных услуг правительству, службам безопасности и другим организациям».
Позднее в том же году сотрудники Google и Amazon опубликовали открытое письмо в Guardian, в котором осудили проект, который, по их словам, «позволяет осуществлять дальнейшее наблюдение и незаконный сбор данных о палестинцах, а также способствует расширению незаконных поселений Израиля на палестинских землях».
С начала войны в секторе Газа в СМИ появилось множество сообщений о предполагаемом использовании Армией обороны Израиля (ЦАХАЛ) технологии проекта «Нимбус» в этом густонаселенном секторе, где проживает 2,3 миллиона человек.
Однако остается неясным, в какой степени военные используют проект «Нимбус».
«Где (технологические компании) проводят черту, размыто», — сказала Дебора Браун, исследователь технологий в Human Rights Watch. «То, что они предлагают в контрактах, и что с этим делают военные, окутано тайной».
В апреле журнал Time сообщил, что ознакомился с документом компании Google, из которого следует, что фирма предоставляет услуги облачных вычислений Министерству обороны Израиля, и что технологический гигант вел переговоры об углублении партнерства во время войны в Газе.
В августе некоммерческий журнал +972 Magazine, которым руководят израильские и палестинские журналисты, опубликовал статью со ссылкой на просочившуюся запись, в которой, по его словам, высокопоставленный командир ЦАХАЛа подтверждает, что армия использует облачное хранилище и сервисы искусственного интеллекта, предоставленные Google, Microsoft и Amazon.
В ноябре прошлого года журнал опубликовал отчет, в котором говорилось, что Армия обороны Израиля использует ИИ для определения целей в секторе Газа.
После этого сообщения группа технических специалистов, известная как No Tech For Apartheid, заявила, что американские технологические компании, ведущие бизнес с Армией обороны Израиля, включая Google и Amazon, «способствуют первому геноциду с использованием искусственного интеллекта».
Google не ответил на запрос о комментарии.
Министерство обороны Израиля отказалось отвечать на вопросы о зависимости ЦАХАЛа от инфраструктуры, предоставляемой американскими технологическими компаниями, или на обвинения, содержащиеся в отчете +972.
Ранее Армия обороны Израиля отрицала использование ИИ для выявления предполагаемых экстремистов.
«Армия обороны Израиля не использует систему искусственного интеллекта, которая идентифицирует террористов-боевиков или пытается предсказать, является ли человек террористом. Информационные системы — это всего лишь инструменты для аналитиков в процессе идентификации цели», — говорится в заявлении Армии обороны Израиля, сделанном в апреле.
По имеющимся данным, компания Microsoft, у которой были контракты с Армией обороны Израиля на облачные вычисления, предшествовавшие программе Nimbus, по-прежнему предоставляет военным услуги облачных вычислений.
В мае сотрудники Microsoft запустили кампанию «Нет Azure для апартеида», чтобы оказать давление на компанию и заставить ее прекратить предоставление облачных сервисов Azure Израилю.
Компания Microsoft не ответила на многочисленные просьбы прокомментировать, используются ли ее технологии в секторе Газа и каким образом.
Хоссам Наср, сотрудник Microsoft, участвовавший в кампании «Нет Azure для апартеида», сказал, что сотрудники Microsoft стали испытывать все большее беспокойство после сообщений в прессе о зависимости Армии обороны Израиля от искусственного интеллекта на поле боя.
«Настоящие люди попадают в машины и обрабатываются алгоритмами, а затем нажатием кнопки решается, проживут ли они еще один день», — сказал он. «Наблюдение за происходящим — радикализирует».
Растет несогласие
По мере того как число погибших в секторе Газа росло, росло и разногласие среди сотрудников технологических гигантов.
Двое бывших сотрудников Google, которые были среди 50 человек, уволенных в апреле за протесты против проекта «Нимбус», заявили, что многие сотрудники их компании пришли к убеждению, что их работа выходит за рамки гражданских задач.
Они были разочарованы отказом компании принять меры после сообщений о том, как используются их технологии.
«В целом Google все это время просто игнорировала и преуменьшала опасения», — сказал Чейн Андерсон, работавший в вашингтонском офисе Google.
Google прекратила любые публичные обсуждения проекта «Нимбус» внутри компании во время общих собраний сотрудников и во внутренних коммуникациях, сообщил Мохаммад Хатами, который также был уволен в апреле.
«По сути, Google либо заблокирует вопрос, либо удалит его, либо закроет цепочки писем, связанных с любыми проявлениями несогласия относительно проекта Nimbus», — сказал он.
По его словам, через несколько недель после 7 октября Хатами, который является мусульманином, распространил внутреннюю петицию, чтобы оказать давление на Google и заставить ее закрыть проект Nimbus.
Он добавил, что он был единственным человеком, которого вызвали в отдел кадров и вынесли выговор.
«Они… сказали мне, что по сути вы оправдываете терроризм и вам следует заткнуться, просто опустить голову и продолжать работать», — сказал он.
Google не ответил на просьбу прокомментировать инцидент, о котором рассказал Хатами.
Заявления о метацензуре
Технологические гиганты также подверглись критике за цензуру пропалестинского контента на своих сайтах социальных сетей, в частности Meta, которой принадлежат Facebook и Instagram.
В отчете, опубликованном в прошлом году, организация Human Rights Watch заявила, что «цензура контента, связанного с Палестиной, в Instagram и Facebook носит системный и глобальный характер».
Отвечая на вопрос об отчете, Мета сказал: «Мы стремимся применять нашу глобальную политику справедливо, но делать это в больших масштабах и во время быстро развивающегося, крайне поляризованного и интенсивного конфликта влечет за собой проблемы. Мы признаем, что совершаем ошибки, которые могут быть неприятны для людей, но предположение о том, что мы намеренно и систематически подавляем определенный голос, ложно».
Сайма Ахтер, работавшая в нью-йоркском офисе компании до своего увольнения в июне, заявила, что сообщения о цензуре пропалестинского контента побудили сотрудников Meta задавать вопросы руководителям команд.
«В это время мы начали замечать, как Meta удаляет наши внутренние посты», — сказала она, имея в виду посты в поддержку палестинцев в группах поддержки сотрудников, включая посты с выражением соболезнований сотрудникам Meta, потерявшим семью в Газе.
«Мы подвергались жесткой внутренней цензуре, и наши опасения по поводу продукции не воспринимались всерьез», — сказал Ахтер.
Ахтер утверждает, что ее уволили после того, как она загрузила в ее персональное облачное хранилище копию документа, составленного сотрудниками, в котором подробно описывалось, как компания якобы подвергает цензуре палестинцев.
Компания Meta заявила, что пытается развивать корпоративную культуру, основанную на «взаимном уважении и инклюзивности», и что существует множество каналов, по которым сотрудники могут высказывать свои опасения.
Компания не прокомментировала слова Ахтер о том, что ее уволили за загрузку документа.
Что касается более широкого вопроса участия крупных технологических компаний в войне, Браун из HRW заявил, что необходимо проводить более тщательную проверку, прежде чем компании заключат выгодные контракты с армией.
«Если только кто-то не заставит их проявить должную осмотрительность в вопросах прав человека, продемонстрировать свою работу, объяснить, что они не будут способствовать нарушениям, и прекратить предоставление услуг, если это произойдет, то они будут преследовать свою прибыль».
