В отличие от технологических инноваций прошлого, искусственный интеллект предназначен не для господства человечества над природой, а скорее для полного отказа от подобного контроля. Об этом пишет в своей статье известный философ Славой Жижек:
Осознаем мы это или нет, старое антропоцентрическое высокомерие, порождаемое техникой, может вскоре уступить место человеческой неуместности и бессмысленности его существования.
Открытое письмо Института будущего жизни с требованием шестимесячной превентивной паузы в развитии искусственного интеллекта уже подписали тысячи высокопоставленных лиц, в том числе Илон Маск. Подписавшиеся обеспокоены тем, что лаборатории искусственного интеллекта «увлечены неконтролируемой гонкой» по разработке и развертыванию все более мощных систем, которые никто, включая их создателей, не может понять, предсказать или контролировать.
Чем объясняется этот взрыв паники среди определенной когорты элит? Контроль и регулирование, очевидно, находятся в центре истории, но чей? Во время предложенной полугодовой паузы, когда человечество сможет оценить риски, кто встанет на защиту человечества? Поскольку лаборатории по разработке искусственного интеллекта в Китае, Индии и России продолжат свою работу (возможно, тайно), глобальные публичные дебаты по этому вопросу немыслимы.
Тем не менее, мы должны выяснить, что поставлено здесь на карту. В своей книге 2015 года Homo Deus историк Юваль Харари предсказал, что наиболее вероятным результатом ИИ будет радикальное разделение — гораздо более сильное, чем разделение на классы — внутри человеческого общества. Достаточно скоро биотехнологии и компьютерные алгоритмы объединят свои силы в создании «тел и мозгов», что приведет к увеличению разрыва «между теми, кто знает, как создавать тела и мозги, и теми, кто этого не умеет делать». В таком мире «те, кто сел на экспресс прогресса, приобретут божественные способности по созиданию и разрушению, а те, кто не успел, обречены на вымирание».
Паника, чье отражение в письме об ИИ мы наблюдаем, проистекает из страха, что даже те, кто находится в «экспрессе прогресса», не смогут им управлять. Наши нынешние цифровые феодальные хозяева напуганы. Однако они хотят не публичных дебатов, а соглашения между правительствами и технологическими корпорациями, чтобы сохранить принадлежащую им власть.
Расширение возможностей ИИ представляет собой серьезную угрозу для тех, кто находится у власти, в том числе для тех, кто разрабатывает, владеет и контролирует ИИ. Это указывает ни на что иное, как на конец капитализма, каким мы его знаем, что проявляется в перспективе самовоспроизводящейся системы ИИ, которая будет нуждаться во все меньшем и меньшем количестве действий со стороны людей (алгоритмическая рыночная торговля — лишь первый шаг в этом направлении). У нас останется только выбор между новой формой коммунизма и неконтролируемым хаосом.
Новые чатботы предложат многим одиноким (или не очень одиноким) людям бесконечные вечера дружеского общения о фильмах, книгах, кулинарии или политике. Используя мою старую метафору, люди получат ИИ-версию кофе без кофеина или газировки без сахара: дружелюбного соседа без скелетов в шкафу, Другого, который непосредственно приспосабливается к вашим собственным потребностям. Здесь присутствует структура фетишистского отречения: «Я прекрасно знаю, что говорю не с реальным человеком, но, тем не менее, мне кажется, что именно так — и без всякого сопутствующего риска!»
В любом случае, внимательное изучение письма про ИИ показывает, что это еще одна попытка запретить невозможное. Это старый парадокс: мы, люди, не можем быть частью постчеловеческого будущего, поэтому мы должны запретить его развитие. Чтобы ориентироваться в этих технологиях, мы должны задать старый ленинский вопрос: свобода — для кого и для чего? В каком смысле мы были свободны раньше? Разве мы уже не контролировались гораздо в большей степени, чем мы полагали? Вместо того, чтобы жаловаться на угрозу нашей свободе и достоинству в будущем, возможно, нам следует сначала подумать о том, что означает свобода сейчас. Пока мы этого не сделаем, мы будем вести себя как истерички, которые, по словам французского психоаналитика Жака Лакана, отчаянно нуждаются в хозяине, но только таком, которым мы можем сами командовать.
Футуролог Рэй Курцвейл предсказывает, что благодаря экспоненциальному характеру технического прогресса мы скоро будем иметь дело с «духовными» машинами, которые не только проявят все признаки самосознания, но и намного превзойдут человеческий интеллект. Но не следует путать эту «постчеловеческую» позицию со свойственной для современности озабоченностью достижением тотального технологического господства над природой. Вместо этого мы наблюдаем диалектическое обращение этого процесса.
Ныне «постчеловеческие» науки больше не нацелены на достижение господства. Их кредо — удивление: какие случайные, незапланированные эмерджентные свойства могут приобрести для себя модели из этого «черного ящика» ИИ? Никто не знает, и в этом страх — или даже банальность — всего предприятия.
Поэтому в начале текущего века французский инженер-философ Жан-Пьер Дюпюи разглядел в новой робототехнике, генетике, нанотехнологиях, искусственной жизни и ИИ странную инверсию традиционного антропоцентрического высокомерия, которое проявляется в технике: «Как нам объяснить, что наука стала настолько «рискованной» деятельностью, что, по мнению некоторых ведущих ученых, представляет сегодня главную угрозу выживанию человечества? Некоторые философы отвечают на этот вопрос так, что мечта Декарта — «стать господином и хозяином природы» — обернулась не тем, и что надо срочно вернуться к «господству над господством». Они ничего не поняли. Они не видят, что техника, проявляющаяся на нашем горизонте посредством «конвергенции» всех дисциплин, нацелена именно на отсутствие хозяина. Инженер завтрашнего дня станет учеником чародея не из-за своей небрежности или невежества, а по собственному желанию».
Человечество создает своего собственного бога или дьявола. Хотя исход нельзя предсказать, одно можно сказать наверняка. Если нечто похожее на «постчеловечество» возникнет как факт, наше мировоззрение потеряет все три своих определяющих, пересекающихся предмета: само человечество, природу и божественное. Наша идентичность как людей может существовать только на фоне непроницаемой природы, но если жизнь станет чем-то, чем можно полностью манипулировать с помощью технологий, она потеряет свой «естественный» характер. Полностью контролируемое существование полностью лишено смысла.
То же самое, конечно, относится и к любому чувству божественного. Человеческий опыт «бога» имеет смысл только с точки зрения человеческой конечности и смертности. Как только мы станем homo deus и создадим свойства, которые кажутся «сверхъестественными» с нашей старой человеческой точки зрения, «боги», какими мы их знали, исчезнут. Вопрос в том, что тогда останется нам? Будем ли мы поклоняться созданным нами ИИ?
Есть все основания опасаться, что техногностические представления о постчеловеческом мире являются идеологическими фантазиями, покрывающими туманом бездну, падение в которую нас ждет. Излишне говорить, что потребуется более чем шестимесячная пауза, чтобы гарантировать, что люди не станут неактуальными, а их жизни бессмысленными в не столь отдаленном будущем.
