«Они могут взломать мое тело, мозг, жизнь»: чего боятся главы IT-компаний и футурологи

На этой неделе в Давосе прошел 50-й юбилейный Всемирный экономический форум, на котором традиционно много говорили о технологиях. Но несмотря на слоган «tech for good», повестка вышла невеселой.

Главным лейтмотивом стали — гонка вооружений в технологиях, распад интернета на куски и риски, которые несут новые разработки. The Bell рассказывает о самых важных темах техно-Давоса.

Опасности искусственного интеллекта

Одна из главных дискуссий форума началась за день до его старта: в понедельник в Financial Times вышла колонка CEO Google Сундара Пичаи с говорящим заголовком: «Почему Google считает, что нам нужно регулировать ИИ». Вот его главные тезисы:

  • ИИ очень полезен: вот лишь три примера за последний месяц того, как Google применяет технологию с пользой. Nature опубликовал исследование компании о том, как ИИ может помочь врачам с большой точностью диагностировать рак молочной железы. Еще с помощью ИИ Google может прогнозировать погоду быстрее, чем все существующие технологии, а авиакомпания Lufthansa тестирует ИИ на базе облаков Google, чтобы снизить число задержек вылетов.
  • ИИ — как интернет, помогает не только общаться, но и дезинформировать. Технологии несут в себе риски, ИИ — вполне реальные: например, технологию уже задействовали для создания фейков, а распознавание лиц может использоваться во вред людям.
  • Технокомпании не справятся с регулированием сами. Да, Google вырабатывает собственные принципы в разработке ИИ: например, не создавать технологий для массовой слежки и нарушений прав человека. Но этого недостаточно. Государствам нужно выработать нормы, которые будет учитывать вопросы «безопасности, справедливости и подотчетности», чтобы сохранять баланс между потенциальным вредом и возможностями, которые дает технология.
«ИИ имеет потенциал улучшить жизни миллиардов человек, но самый большой риск в том, что он не справится с этой задачей. Только убедившись в том, что технология разрабатывается ответственно и на пользу каждому, мы можем вдохновить будущие поколения поверить в силу технологии так же сильно, как верю в нее я», — говорит Пичаи.

 

В Давосе о необходимости регулировать ИИ говорил и президент Microsoft Брэд Смит. «Мы не должны ждать, пока технология созреет, прежде чем начнем создавать принципы, этику и даже правила регулирования ИИ», — сказал он. А IBM объявила на форуме о создании IBM Policy Lab, лаборатории, которая должна заняться исследованиями и выработкой этих самых правил и норм.

У всех заявлений есть вполне понятное объяснение: технологии с использованием ИИ вызывают у людей все большие страхов и недовольства. Сейчас под ударом — распознавание лиц, которое в России так нравится Сергею Собянину.

  • В Сан-Франциско в мае 2019 года городской совет запретил полиции и спецслужбам использовать в своей работе эту технологию.
  • Такие же решения уже приняли соседний Окленд и город Сомервилл в штате Массачусетс.
  • В сентябре 2019 года власти штата Калифорния приняли закон, запрещающий использовать распознавание лиц в личных видеорегистраторах полицейских (его пока не подписал губернатор штата).
  • Теперь возможность моратория на технологию на ближайшие пять лет рассматривает Европейский союз.

И Google, и Microsoft активно разрабатывают технологии распознавания лиц. Но подходы к регулированию у компаний разные: пока Пичаи предлагает вообще ограничить применение технологий распознавания лиц из-за большого риска их «бесчестного применения», Смит сравнивает подобные запреты с тем, как можно использовать «мясорубку вместо скальпеля».

Белый Дом считает, что технологию нужно регулировать, но гибко, нельзя прибегать к «жестким моделям убийства инноваций». По мнению администрации Трампа, лучший способ избежать авторитарного использования ИИ — сделать так, чтобы Америка и ее союзники оставались «глобальными центрами инноваций».

США против китайских техногигантов

Чтобы ИИ развивался быстрее, необходимо появление другой важной технологии — 5G. Вокруг этой темы в Давосе тоже развернулись горячие дискуссии. Huawei, главный глобальный поставщик оборудования для 5G, уверена: несмотря на то, что торговые отношения между Китаем и США налаживаются, американские власти продолжат давить на китайскую компанию. Об этом на форме заявил основатель Huawei Жэнь Чжэнфэй, который был одной из главных звезд нынешнего Давоса.

Жэнь Чжэнфэй — один из самых эксцентричных и загадочных китайских миллиардеров. Отставной военный инженер, сделавший похожую на полувоенную секту компанию крупнейшим в мире производителем телеком-оборудования — его историю мы рассказывали здесь.

Huawei попала в черный список минторга США в прошлом году. Из-за этого компания потеряла доступ к важным американским технологиям, в том числе, к операционной системе Android, на которой работают все смартфоны Huawei вне Китая. Теперь в компании ждут новых бед — недавно Reuters со ссылкой на источники сообщило, что США готовятся ограничить Huawei поставки устройств с американскими компонентами.

«В этом году США может усилить кампанию против Huawei, но я чувствую, что влияние на бизнес Huawei не будет значительным. К 2020 году у нас уже появился опыт и более сильная команда. Мы в большей степени уверены, что сможем пережить дальнейшие атаки», — заявил на форуме Жэнь.

И для этого есть основания: последние несколько лет компания активно инвестирует в собственные микросхемы и ПО и уже выпустила операционную систему HarmonyOS — правда, пока еще не установила ее ни на один смартфон. Жэнь на форуме сказал, что у компании есть план Б на случай нового витка конфликта. На это Huawei тратит сотни миллиардов долларов: «Именно поэтому мы выжили в первом раунде».

Холодная технологическая война

Технологическая война, которую ведут США и Китай, отразится на всех — в этом сошлись большинство выступавших на Давосе. Она ведет к балканизация интернета (об этом мы писали в одной из прошлых рассылок).

«Торговля, безопасность, вся жизнь сегодня — это технологии, поэтому мы говорим о полной холодной войне между несколькими блоками», — заявил в Давосе президент индийского исследовательского фонда Observer (ORF) Самир Саран. Фрагментация интернета играет на руку только техногигантам, которые могут к ней адаптироваться, и вредит стартапам, ограничивая их перспективы роста, вторила ему основательница Cloudflare Мишель Затлин — и это при том, что большинство стран пытаются ограничить влияние технокорпораций, которые в новой реальности получили слишком большой контроль за данными пользователей.

Развитие технологий, вроде ИИ и 5G, ведет к тому, что гонка вооружений переходит на новый уровень, считает историк Юваль Ной Харари: «Вам не нужно отправлять солдат, если у вас есть все данные о стране». Век цифрового наблюдения закончится тем, что в мире не останется ни одного человека, который будет вне геополитики, предсказывает он:

«Мы находимся в точке, когда компании или правительства могут “взломать” миллионы людей, узнать их медицинскую историю и личные слабости… Если у вас есть достаточно знаний и мощностей, вы можете взломать мое тело, мозг, жизнь, достичь точки, когда вы знаете меня лучше, чем я сам».

Персональные данные и здоровье

Через 20 лет мы не узнаем систему здравоохранения, ведь на нее нацелились глобальные техногиганты, предрекала в Давосе футуролог Эми Уэбб из Нью-Йоркского университета. Google, Amazon и Apple изменят индустрию здравоохранения — все, от диагностики и разработки новых лекарств до способов общения пациентов и врачей.

У технокомпаний есть огромные объемы данных, но при этом они не ограничены медицинской тайной. Кроме того, они создают гаджеты и устройства, которые позволят узнать о вас еще больше: Apple Watch, голосовые помощники вроде Alexa, фитнес-браслеты Fitbit, производителя которых Google недавно купил за $2,1 млрд.

Впрочем, другой амбициозный медицинский проект Google — поисковик для врачей, который разрабатывает Health-подразделение компании, пока борется с трудностями. Через свои облачные сервисы компания пытается получить доступ к данным как можно большего числа американских клиник, чтобы сделать поисковую систему по медицинским данным и помочь врачам лучше ставить диагнозы. Но далеко не все больницы хотят передавать гиганту персональные данные пациентов, хотя некоторые крупные клиники уже договорились с Google о партнерстве.

На форуме в Давосе CEO Google Сундар Пичаи говорил, что компания всерьез относится к вопросам конфиденциальности: «Когда мы работаем с больницами, их данные принадлежат только им». Но ИИ поможет им достичь большего прогресса в диагностике, уверен он:

«Только посмотрите на потенциал. Если упустить при диагностике рак, последствия будут очень серьезными. Сейчас, например, в случае с раком легких типичная ситуация, когда пять врачей говорят одно, а пять — другое. Мы же можем использовать искусственный интеллект, чтобы сделать диагноз точнее».

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Поделиться