О чем говорил глава Facebook с автором бестселлера «Sapiens: Краткая история человечества» Ювалем Ноем Харари. Тысячи лет человечество рассматривало жизнь, как драму, в которой нужно принимать решения, вроде «быть или не быть». Но в чем будет смысл нашей жизни, когда все больше решений за нас принимает искусственный интеллект?
Марк Цукерберг поговорил о будущем технологий с израильским историком, автором международного бестселлера «Sapiens: Краткая история человечества» Ювалем Ноем Харари. LIGA.net выделила 10 главных цитат.
1. Технологии против стен. Юваль Ной Харари:
“Тысячи лет назад земля была галактикой множества изолированных миров, почти не связанных между собой. Постепенно люди собирались вместе и становились все более связанными, пока мы не достигли сегодня, когда мир стал единой исторической, экономической и культурной единицей. Но связь не обязательно означает гармонию. Соединение людей может привести к конфликтам. Мир сегодня двойственен. У вас есть соединяющие технологии — интернет, виртуальные реальности и соцсети — но одной из главных политических проблем становится строительство каменной стены. Как же осмыслить мир, который больше связан, чем когда-либо, но в то же время строит больше стен, чем прежде”.
2. Интернет как клуб по интересам. Марк Цукерберг:
“Я думаю, важная вещь, которую дает интернет, — возможность общаться с людьми, которые разделяют твои ценности и интересы. До интернета вы были привязаны к своему физическому местоположению. Я вырос в городе с населением около 10 тысяч человек, и там было много клубов по интересам. Я играл в бейсбол, как и другие дети. Но почему я в него играл, если я не спортсмен, а моя страсть — программирование? Потому что в моем городе не было никого, кто бы занимался программированием. Интернет это меняет, и теперь у вас есть возможность не привязываться к вашему местоположению и находить в интернете людей с более нишевыми интересами, различного рода субкультуры и сообщества в онлайне”.
3. О недостатке онлайн-сообществ.Юваль Ной Харари:
“В онлайн-сообществах у людей есть возможность просто избегать то, что им не нравится. Но они не могут делать так в реальности. Вы можете расфрендить друзей на Facebook, но не можете “рассоседить” соседей. Часть логики традиционных сообществ в том, что вы должны учиться ладить с людьми, которые вам не нравятся. Может быть, и вы (Цукерберг, — Ред.) должны разработать социальные механизмы, как это делать в онлайн-сообществах. Они не приносят нам опыта в этих сложных, но важных вещах”.
4. Искусственный интеллект (ИИ) как оружие. Юваль Ной Харари:
“Нам нужно найти механизм для глобального сотрудничества вокруг таких вопросов, как, например, предотвращение гонки вооружений ИИ, попыток разных стран создать автономные системы оружия и роботов-убийц, вооружение интернета и социальных сетей. Без глобального сотрудничества мы не сможем остановить это. Потому что каждая страна скажет: «Мы не хотим производить робота-убийцу — это плохая идея — но мы не можем позволить нашим конкурентам сделать это раньше нас, так что мы должны создать его первыми». Затем это превращается в гонку на дно”.
5. Об угрозе ИИ для рынка труда. Юваль Ной Харари:
“То же касается потенциальных нарушений рынка труда и экономики, вызванных искусственным интеллектом и автоматизацией. Очевидно, в будущем будут рабочие места. Но будут ли они равномерно распределены между различными частями мира? Одним из потенциальных результатов революции ИИ может быть концентрация огромного богатства в одной части мира и полное банкротство других частей. В Калифорнии будет много новых рабочих мест для разработчиков программного обеспечения, но, возможно, не будет рабочих мест для работников текстильной промышленности и водителей грузовиков в Гондурасе и Мексике. Так что они будут делать? Если мы не найдем решения на глобальном уровне, такого как создание системы безопасности для защиты людей от потрясений ИИ и предоставление им возможности использовать возможности ИИ, то мы создадим самую неравную экономическую ситуацию, которая когда-либо существовала”.
6. О глобализации. Марк Цукерберг:
“Я думаю, в целом глобализация позитивно повлияла на мир. Но мы рассказывали о ней слишком оптимистичную историю. С одной стороны, глобализация была чрезвычайно позитивной для привлечения большого количества людей в мировую экономику. Люди в Индии, Юго-Восточной Азии и по всей Африке, которые раньше не имели доступа к большому количеству рабочих мест в глобальной экономике, получили его. Так, вероятно, самое большое на глобальном уровне неравенство сократилось, потому что сотни миллионов людей вышли из бедности.
Но много людей в развитых странах стали конкурировать с “новичками” в экономике за рабочие места, которые перемещаются в другие страны. Многие потеряли работу. Те, кто ее сохранил, теперь конкурируют за эти рабочие места среди людей на международном уровне. Это препятствует росту заработной платы. А от 5% до 10% людей оказались в худшем положении из-за глобализации. Это много сотен миллионов, большинство из которых, вероятно, находятся в наиболее развитых странах — в США и по всей Европе”.
7. ИИ и неравенство. Юваль Ной Харари:
“Маловероятно, что мы столкнемся с восстанием роботов. Я думаю, что ИИ может увеличить неравенство между различными частями мира, потому что будут страны, которые доминируют в новой экономике ИИ. Промышленная революция создала огромный разрыв между несколькими промышленными государствами и всеми остальными, а затем потребовалось 150 лет, чтобы закрыть этот разрыв. За последние несколько десятилетий разрыв закрывался все больше и сильно отстающие страны догоняют. Теперь разрыв может вновь открыться и стать намного хуже, чем когда-либо прежде, — из-за роста ИИ. Потому что в ИИ, вероятно, будет доминировать лишь небольшое количество стран”.
8. О датацентрах в авторитарных странах. Марк Цукерберг:
“Мы приняли решение, что не будем строить свои центры обработки и хранения данных в странах, которые, по нашему мнению, имеют слабое правовое государство, в которых доступ к данным людей может быть неправомерно получен и это может навредить людям. Я забочусь о том, чтобы дать каждому голос, поэтому я не хочу, чтобы люди подвергались цензуре. Потому что, если вы не можете сказать то, что хотите, это очень проблематично. Это нарушает ваши права человека. Я думаю, что во многих случаях это останавливает прогресс. Если правительство может получить доступ к вашим данным, оно может определить, кто вы, посадить вас в тюрьму, причинить вред вам и вашей семье”.
9. ИИ и Советский Союз. Юваль Ной Харари:
“Вы можете использовать радио, чтобы транслировать музыку людям, а можете, чтобы транслировать миллионам немцев речь Гитлера. Радио несет только то, что вы вложили в него. Дело не только в том, что мы изобретаем технологию, но в том, что с ней будут делать. Сама технология (ИИ — Ред.) может изменить баланс сил между демократической и тоталитарной системами. И я боюсь, что новые технологии дают преимущество тоталитарным режимам. Потому что самая большая проблема тоталитарных режимов в 20-м веке, которая привела к их падению, заключается в том, что они не могли обрабатывать информацию достаточно эффективно. Например, в Советском Союзе была модель обработки информации в одном месте: она собиралась со всей страны, перемещалась в Москву и там обрабатывалась. Советская модель просто не сработала из-за сложности быстрой обработки большого количества информации с использованием технологий 1950-х годов. Однако новая технология (ИИ — Ред.) может внезапно сделать центральную обработку информации намного эффективнее, чем когда-либо прежде. Потому что чем больше данных у вас в одном месте, тем лучше ваши алгоритмы, и так далее. Это мое опасение”.
10. В чем смысл жизни, если все решает ИИ. Юваль Ной Харари:
«У вас есть системы, которые постоянно взаимодействуют с вами и знакомятся. Якобы в ваших интересах они дают вам лучшие рекомендации и лучшие советы. Начинается с рекомендации, какой фильм смотреть и куда съездить в отпуск. Но, когда система становится лучше, она дает вам рекомендации о том, что изучать в колледже и где работать, на ком жениться, за кого голосовать, какую принять религию. Люди будут чувствовать, что это соответствует их собственным интересам.
Но люди рассматривают жизнь, как драму принятия решений, тысячи лет. Мол, жизнь — это путешествие, вы пересекаете перекресток и вам нужно выбирать. Некоторые решения невелики, например, что есть на завтрак. А некоторые действительно большие, например, на ком жениться. И почти все искусство и вся религия об этом. Будь то трагедия Шекспира или голливудская комедия, — герой или героиня должны принять важное решение: быть или не быть, жениться на Х или жениться на Y. И что это означает — жить в мире, в котором мы все больше полагаемся на рекомендации алгоритмов для принятия этих решений, пока не достигнем точки, когда мы просто следуем им все время. У нас нет понимания смысла человеческой жизни в такой ситуации».
