Часть стран станет информационными колониями, крах демократии — Юваль Ной Харари и Даниэль Канеман о будущем

Каким будет человечество в будущем? Этот вопрос на днях в совместном интервью обсудили известный историк Юваль Ной Харари и психолог, лауреат Нобелевской премии Даниэль Канеман. Reminder собрал основные тезисы выступления.

  1. Новый уровень неопределенности. Как подчеркивает Харари, впервые в истории человечество не представляет, каким будет мир даже через такой короткий промежуток времени, как 20 лет. Например, мы не знаем, как будет выглядеть рынок труда, и какие навыки нужно сейчас осваивать, чтобы быть востребованным в будущем.

  2. Человеческие тела начнут меняться. За миллионы лет эволюции природа человека не изменилась, мы почти не отличаемся от людей Каменного века. Но в следующие столетия с высокой долей вероятности это изменится. «Современный человек все более и более открыт к разного рода манипуляциям [над свои телом]. Это может привести к тому, что через 100-200 лет на планете будет доминировать новый вид, который будет от нас отличаться больше, чем мы от неандертальцев. Природа этого вида может быть неорганической», — говорит Харари.

  3. Человечество научится принимать взвешенные решения. Канеман указывает, что человеческие решения слишком часто зависят от незначимых факторов, вроде погоды, дня недели или настроения

    — ученый называет эти факторы шумом. Из-за него в одинаковой ситуации при равных условиях разные люди принимают разные решения. Суждения искусственного интеллекта (ИИ), в отличие от наших, лишены шума. Следовательно, в будущем принятие любых решений, важных и не очень, мы отдадим алгоритмам. ИИ, который будет знать нас лучше, чем мы сами, сможет решать за нас все — от инвестиций до выбора партнера.

  4. У ИИ эмоциональный интеллект будет выше, чем у нас. Распространенное заблуждение: чтобы различать наши эмоции, роботу придется научиться самому их испытывать. Харари считает, что это не так. Как и все другие типы интеллекта, эмоциональный интеллект (ЭИ) основан на распознавании образов. А из-за того, что суждения алгоритмов лишены шума, их ЭИ будет даже более развит.

  5. Главная инновация XXI века — взлом и расшифровка человеческого сознания. Харари призывает нас признать, что человечество плохо себя знает. Но скоро все изменится. Если раньше невозможно было проследить за поведением каждого человека и объединить эти данные, то сейчас у каждого есть персональный сборщик данных — . А высокие технологии и новый уровень вычислительных мощностей позволяют быстро обработать эту информацию. Последствия этого могут быть разные: от более качественной медицины, которая выявит болезнь до того, как человек почувствует ее проявления, до худших тоталитарных режимов в истории, которые будут иметь прямой доступ к человеческому сознанию. Как снизить риски негативного исхода? Харари напоминает: чем проще государству и компаниям за нами следить, тем проще должно быть нам следить за ними. Их политика и решения должны стать максимально прозрачными для людей.

  6. Первая область, в которой ИИ станет полностью самостоятельным, — финансы, считает Харари. Даже сейчас меньше 1% всех людей понимает, как работает финансовая система. Возможно, что через 20 лет ее алгоритмы будут настолько развиты, что уже ни один человек не будет способен понять, что происходит на финансовом рынке. В какой-то момент ИИ будет уведомлять нас о том, что надвигается финансовый кризис, но не сможет объяснить причину, потому что эта информация недоступна нашему мозгу.

  7. Приближается серьезная социальная катастрофа, и мы пока не знаем, как ее предотвратить. Канеман говорит, что из-за развитых технологий обществу станут не нужны целые группы навыков и профессий, а значит и людей: «Дерматологический диагноз сейчас лучше ставят айфоны, чем сами дерматологи». И безусловный базовый , по мнению ученого, не поможет решить эту проблему.

  8. Демократия под угрозой исчезновения. Уже сейчас деньги управляют политиками: речь даже не о коррупции, а о финансовой поддержке. Дальше ситуация будет усугубляться, и вся власть окажется в руках небольшой группы людей, владельцев ИТ-корпораций, — то, чего демократия была призвана избежать. Также усилится социальное неравенство. Богатые люди получат возможность генетически совершенствовать себя и своих детей. Канеман настроен пессимистично: если мы так и не научились бороться с существующим неравенством, против его новых масштабов мы будем бессильны.

А вот, что предсказывает ещё Харари:

1. Тоталитаризм алгоритмов

Технологии, по мнению Харари, облегчают нам жизнь только в том случае, когда мы сами понимаем, что мы хотим и что нам надо. В противном случае технологии самостоятельно формируют наши желания и потом их контролируют.

«По мере совершенствования биотехнологий и машинного обучения станет легче манипулировать всеми эмоциями и желаниями людей».

Харари считает, что тогда следовать своим желаниям станет еще опасней, чем сейчас: откуда нам знать, действительно ли это наши желания?

Более того, мы еще больше станем полагаться на искусственный интеллект и алгоритмы еще больше. Если уже сейчас мы легко доверяем выбор фильма алгоритмам Netflix, подборку новостей — Facebook, а покупки — Alibaba, то что будет дальше? Нейросети знают о нас все: куда мы идем, что покупаем и делаем. Чем больше они о нас узнают, тем лучше и быстрее предсказывают наши действия.

«Как только эти алгоритмы узнают вас лучше, чем вы знаете себя, они смогут контролировать и манипулировать вами, и вы не сможете ничего с этим поделать».

2. Многие останутся без работы

«Автоматизация рабочих процессов уничтожит миллионы рабочих мест».

Харари говорит, что потеря работы заставит людей осваивать новые профессии. При этом неясно, как быстро и легко человек сможет адаптироваться к новым условиям.

«Сможет ли 50-летний водитель грузовика, которого только что заменили беспилотной технологией, заново обрести себя в профессии разработчика программного обеспечения или учителя йоги?»

Скорее всего, такие изменения людям придется переживать не один раз. Новые технологии и совершенствующийся ИИ создадут несколько технологических прорывов, во время каждого из которых придется переобучаться.

3. В школе нужно учить эмоциональной устойчивости

Сейчас в школах учат программированию и навыкам «4К»: критические мышление, коммуникация, коллаборация и креатив. Это считается залогом успеха. Харари уверен, что самое главное, чему нужно учить школьников, — это умение адаптироваться к новым условиям. Новые технологии создадут новые проблемы, с которыми человечество раньше никогда не сталкивалось, поэтому будет жизненно важно уметь их решать.

«Самой важной способностью из всех будет способность справляться с изменениями, готовность к непрерывному образованию и умение сохранять спокойствие в критических ситуациях… В 2050 году вряд ли будет острая необходимость в совершенно новых идеях, зато будет потребность в постоянном самосовершенствовании».

Не менее важно, по мнению философа, быть эмоционально устойчивым. Но этому, к сожалению, в школах не учат. «Чтобы выжить в новом мире придется стать психологически гибким и сохранять рассудок в любой ситуации».

4. Часть стран станет информационными колониями

В XIX веке развитые страны — такие как Великобритания, , Испания — владели колониями по всему миру. Благодаря своему превосходству они могли эксплуатировать миллионы людей. Сегодня мы живем в эпоху технологического соперничества, где лидерами являются и США, а большинство стран заметно отстают.

«Представьте себе, что будет с развивающимися экономиками, если текстиль или автомобили будет дешевле производить в Калифорнии, чем в Мексике? А что будет, если лет через 20 кто-нибудь в Сан-Франциско или Пекине будет знать все личные данные о каждом политике, судье и журналисте вашей страны? Будет ли страна по-прежнему независимой или станет цифровой колонией? Когда у вас достаточно данных, вам не нужно отправлять солдат, чтобы контролировать государство».

«Если не принять меры, чтобы распределить технологические богатства, которые дает нам ИИ, то они будут сконцентрированы в нескольких центрах, а другие страны либо обанкротятся, либо станут эксплуатируемыми информационными колониями».

5. Технологии могут привести к созданию новой расы

В ближайшие десятилетия благодаря ИИ и биотехнологиям у людей появятся немыслимые возможности реинжиниринга жизни и даже создания совершенно новых форм жизни.

«После четырех миллиардов лет эволюции, обусловленной естественным отбором, мы вступаем в новую эру неорганической жизни, рационально проектируемой человеком посредством технологий».

«Правительства, частные корпорации и армии, вероятно, будут использовать технологии для улучшения навыков, которые им необходимы, таких как интеллект и дисциплина, пренебрегая другими качествами, такими как сострадание, художественная чувствительность и духовность».

«Результатом может стать раса людей, очень умных и очень дисциплинированных, но лишенных сострадания, духовной глубины и неспособных воспринимать художественные произведения. Конечно, это не пророчество. Это всего лишь возможности. Технологии непредсказуемы».


Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Поделиться