Глубокое изучение, глубокое понимание, глубокий искусственный интеллект — список можно продолжать и продолжать. Но вместе с беспрецедентными обещаниями надвигается беспрецедентная опасность. Так оценивает обозреватель «Нью-Йорк таймс» перспективы прогресса в развитии цифровых технологий, систем связи, обработки больших объемов данных и искусственного интеллекта (перевод статьи из сайта ИноСМИ):
В конце каждого года большие словари объявляют свое «слово года». В 2018 году на Merriam-Webster.com чаще всего искали слово justice, то есть справедливость. Что ж, хоть еще и слишком рано, но я готов объявить слово-2019.
И это — deep, глубокий.
Почему? Потому что недавний прогресс в скорости и масштабе компьютеризации, связи, больших объемов данных и искусственного интеллекта затягивают нас «вглубь» тех мест и тех сил, которые нам никогда не приходилось исследовать ранее, и которые правительства никогда раньше не регулировали. Я говорю о глубоком изучении, глубоких инсайдах, глубоком надзоре, глубокой системе распознавания лиц и голоса, глубокой автоматизации и глубоком искусственном интеллекте.
Некоторые из этих технологий олицетворяют беспрецедентные обещания, а некоторые — беспрецедентные опасности, но все они сейчас являются частью нашей жизни. Все глубоко развивается.
Вот почему может быть не случайным, что одним из самых больших хитов является сегодня песня Shallow из фильма Звезда родилась. Главный рефрен в исполнении Леди Гаги и Брэдли Купера звучит так: «Я отчаянно в омут ныряю… Сегодня мы далеки от мели».
Без сомнения, далеки. И пляжный спасатель до сих пор на берегу, и вот что действительно пугает — он не умеет плавать! Больше об этом позже. А сейчас: как мы зашли так глубоко — туда, где живут акулы?
Короткий ответ: технологии развиваются пошагово, и каждый шаг, каждая новая платформа обычно направлена на открытие нового ряда возможностей. Где-то в 2000 году мы сделали огромный шаг, нацеленный на налаживание связи вследствие бума оптоволоконного кабеля, беспроводного сообщения и спутников.
Внезапно связь стала настолько быстрой, дешевой, простой и вездесущей, что появилось ощущение, будто вы можете коснуться того, кого никогда раньше не касались, и вас также может коснуться кто-то, кто никогда до этого вас не касался.
Где-то в 2007 мы совершили еще один большой шаг вперед. Айфоны, сенсоры, цифровые технологии, большой объем данных, интернет-устройств, искусственный интеллект и облачные технологии смешались вместе и создали новую платформу, направленную навстречу абстрактной комплексности со скоростью и масштабами, ранее невиданными.
Так много вещей стало делать проще. Комплексность стала настолько быстрой, бесплатной, легкой в использовании и невидимой, что одним прикосновением к приложению Uber мы можем вызвать такси, оплатить его, оценить таксиста и быть оцененным этим таксистом.
В течение последнего десятилетия этот прогресс скорости связи и устранения комплексности стремительно вырос. Потому что большой объем данных стал действительно большим, широкополосное соединение — действительно быстрым, алгоритмы — слишком умными, 5G действительно разворачивают, а искусственный интеллект действительно поумнел. Поэтому сейчас, без прикосновения, а только с помощью голоса или автоматизированных машин мы можем пойти гораздо глубже во многих сферах.
Для ученых и докторов сейчас найти «иголку в стоге сена» медицинских данных стало нормой, а не исключением, затем могут распознать и определенные модели заболевания, не обнаруженные ранее. Машины могут распознать ваше лицо настолько точно, что китайское правительство может наказать вас за переход улицы в неположенном месте в Пекине, используя только камеры уличного наблюдения — и вы при этом никогда не столкнетесь с полицейским.
На самом деле с сегодняшней технологией распознавания лица я могу обойтись без карточки-входа у ворот моего офиса вместо этого используя свое лицо сотрудника как ID. И машины могут ездить сами по себе.
DeepMind, рука искусственного интеллекта своего отца Google, развила AІ-программу AlphaGo, сейчас победившую ведущих мировых игроков в древнюю игру стратегию Go — которая намного сложнее шахмат — изучая человеческую манеру игры.
Как пишет «Таймс», DeepMind «демонстрирует еще один способ, которым компьютеры могут быть развиты настолько, чтобы вести себя лучше людей при выполнении задач высокой сложности» и «имитировать способ функционирования мозга». Следующий прорыв DeepMind, а именно AlphaZero, даже не имеет потребности учиться у людей. Программа учится даже быстрее, повторно играя против самой себя.
Сегодня «виртуальные агенты» — через использование разговорного интерфейса, усиленного искусственным интеллектом — могут все больше понимать ваши намерения, когда вы звоните с помощью сервиса в банк, компанию по изготовлению кредиток или страховую, только услышав ваш голос.
Это значит, что машины могут ответить на гораздо больше вопросов чем не машины, также известные как «люди». Процент вызовов чат-бота или виртуального агента, способного обрабатывать просьбы, не переадресовывая абонента на человека, называется его «скоростью сдерживания», и показатели эти постоянно растут. Вскоре автоматизированные системы станут настолько человекообразными, что возникнет необходимость идентифицировать их как машины.
Автоматизация также быстро движется вглубь. Кевин Руз (Kevin Roose) из «Таймс» процитировал Мохита Джоши (Mohit Joshi), президента Infosys, технологической фирмы, помогающей другим бизнесам автоматизировать их операции. На прошлой неделе в Давосе этот человек сказал: «Люди стремятся достигать очень больших показателей. Ранее они имели постепенную цель — сократить рабочую силу на 5-10%. Сейчас они говорят: «Почему мы не можем делать это только с 1% наших людей?»
Но плохие парни, которые обычно раньше всех переходят на новые технологии, также видят такой же потенциал в продвижении вглубь полностью новых методов.
Они могут фальсифицировать ваше лицо и голос настолько хорошо, чтобы иметь возможность создать безумно популярное Ютуб-видео, где вы говорите расистские вещи, или же выглядите как президент США, только что заявивший о ядерной атаке на Россию. Они могут создать технологию фальсификации голоса менеджера банка настолько хорошо, что он сможет позвонить вашей бабушке и с помощью голосовой команды попросить ее перевести 10 тысяч долларов на швейцарский счет — и она сделает это, и вы никогда не поймаете этих людей вовремя.
Вот почему прилагательное — характеризующее то, как много людей закреплены ко всем этим новым возможностям для передачи их замечательной власти — именно «глубокий».
20 января «Лондон обзервер» прокомментировал новую книгу профессора Гарвардской бизнес-школы, Шошани Зубофф (Shoshana Zuboff), название которой идеально описывает те глубокие темные воды, в которые мы заходим в «Эре наблюдательного капитала».
«Наблюдательный капитализм, — пишет Зубофф — в одностороннем порядке провозглашает человеческий опыт как свободное сырье для перевода в поведенческие данные. И хотя некоторые из этих данных применяют для улучшения сервиса, остальные объявляют собственным поведенческим избытком, которые ложатся в основу передового производственного процесса, известного как «машинный интеллект», и становятся материалом для продукции прогнозирования, которая пророчит, что вы будете делать сейчас, скоро, или позже. Наконец эта пророческая продукция придет на новый рынок, который я называю рынком поведенческого будущего. Наблюдательные капиталисты будут бесконечно богатыми благодаря этим торговым операциям, поскольку многие компании пожелают сделать ставку на то, как мы поведем себя в будущем».
К сожалению, мы не развили регуляционных механизмов и не масштабировали этические принципы, чтобы управлять миром настолько глубокого взаимодействия и потенциального злоупотребления.
Две цитаты могут быть показательными. В апреле прошлого года сенатор Оррин Хетч (Orrin Hatch) опрашивал CEO компании «Фейсбук» Марка Цукерберга в о время совместных слушаний коммерческого и судебного комитетов. В какой-то момент Хетч спросил Цукерберга: «Так как вы поддерживаете бизнес-модель, в которой пользователи не платят за ваш сервис?».
Цукерберг, очевидно пытаясь подавить смех, ответил: «Сенатор, мы размещаем рекламу». Кажется, что Хетч не сообразил, что бизнес-модель «Фейсбуук» — это владеть данными пользователей и затем размещать таргетинговую рекламу. И Хетч был одним из регуляторов «Фейсбука». Но и Цукерберг также был наивен в отношении того, как глубоко могут достичь возможности платформы «Фейсбук» — достаточно глубоко, чтобы несколько находчивых русских хакеров могли манипулировать ими, чтобы помочь Дональду Трампу выиграть президентство.
Столкнувшись с доказательством того, что фейковые новости, которые распространялись через «Фейсбук», повлияли на результаты выборов-2016, Цукерберг отверг эту мысль как «достаточно безумную идею». И выяснилось, что все это происходило в производственных масштабах, и впоследствии он должен извиняться.
Регуляторные механизмы часто отстают от новых технологий, и когда они движутся так быстро и поражают так глубоко, этот отрыв может быть по-настоящему опасным. Я хотел бы думать, что вот-вот они сравняются. Но я так не думаю. Наша национальная дискуссия еще никогда не была более поверхностной.
И это создало нескрываемый и растущий спрос на политических, социальных и религиозных лидеров, правительственные учреждения и бизнес, которые могут пойти вглубь — так, чтобы утверждать, что является реальным, и предлагать общественности глубокую правду, глубокую защиту приватности и глубокое доверие.
И глубокое доверие и преданность нельзя подделать за ночь. Это требует времени. И это одна из причин, почему эта старая газета, на которую я работаю — это Серая Леди, как ее называют — так хорошо себя чувствует сегодня. Не все, но многие люди отчаянно нуждаются в навигаторах, которым можно доверять.
Многие также будут искать этот атрибут в нашем будущему президенте, потому что чувствуют: глубокие изменения приближаются. Это вызывает тревогу, и да — назад уже не поплыть. Мы действительно сегодня далеки от мели.
