Автор: Брендон Бёш
Наука нашего века — вычисления. Без моделей, симуляций, статистического анализа, хранения данных и т. д. наши знания о мире росли бы гораздо медленнее. На протяжении десятилетий наше фундаментальное человеческое любопытство частично удовлетворялось благодаря кремнию и программному обеспечению.
Покойный философ Пол Хамфрис назвал это «гибридным сценарием» науки: когда часть научного процесса передается на аутсорсинг компьютерам. Однако он также предположил, что ситуация может измениться. Несмотря на то, что он начал писать об этих идеях более десяти лет назад, задолго до появления генеративного искусственного интеллекта (ИИ), Хамфрис прозорливо понял, что дни, когда люди возглавляют научный процесс, могут быть сочтены. Он определил более позднюю фазу науки — то, что он назвал «автоматизированным сценарием», когда компьютеры полностью захватывают науку. В этом будущем вычислительные возможности для научного мышления, обработки данных, построения моделей и теоретизирования намного превзойдут наши собственные способности до такой степени, что мы, люди, больше не будем нужны. Машины будут продолжать научную работу, которую мы когда-то начали, выводя наши теории на новые и непредвиденные высоты.
Согласно некоторым источникам, конец эпистемического господства человека над наукой уже не за горами. Недавний опрос исследователей в области искусственного интеллекта показал, что вероятность того, что в течение столетия искусственный интеллект сможет заменить нас во всех профессиях (даже в тех, которые мы предпочитаем оставлять за собой, например, в качестве присяжных), составляет 50 %. Возможно, у вас есть другое мнение о том, возможен ли такой мир и когда он может появиться, но я прошу вас на мгновение отложить эти мнения и представить, что такие искусственные сверхинтеллекты в конечном итоге могут стать реальностью. Их развитие означало бы, что мы могли бы передать научную работу нашим эпистемически превосходящим искусственным потомкам, которые делали бы ее быстрее и лучше, чем мы могли бы когда-либо мечтать.
Это был бы действительно странный мир. Во-первых, ИИ может решить исследовать научные интересы, которые не стимулируют или не мотивируют человеческих ученых, создавая совершенно новые пути для открытий. Они могут даже получить знания о мире, которые выходят за пределы того, что способен понять наш мозг. Где это оставит нас, людей, и как мы должны реагировать? Я считаю, что нам нужно начать задавать эти вопросы сейчас, потому что в течение нескольких десятилетий наука, какой мы ее знаем, может претерпеть глубокие изменения.
Хотя это может звучать как сюжет научно-фантастического романа, автоматизированный сценарий Хамфриса для науки станет еще одним шагом в многовековой тенденции. Люди никогда не занимались наукой в одиночку. Мы давно полагаемся на инструменты, которые помогают нам лучше наблюдать мир: микроскопы, телескопы, стандартизированные линейки и мензурки и так далее. Есть много физических явлений, которые мы не можем напрямую или точно наблюдать без приборов, таких как термометры, счетчики Гейгера, осциллографы, калориметры и тому подобное.
Появление компьютеров стало еще одним шагом к децентрализации человека в науке: гибридный сценарий Хамфриса. Один из ярких примеров, описанный в книге Марго Ли Шеттерли «Скрытые фигуры» (2016) (и в последующем фильме), — первые космические полеты США, для которых были необходимы вычисления, выполняемые математиками, в том числе Кэтрин Джонсон. К моменту проведения лунных миссий США, менее чем через десять лет, большая часть этих вычислений была передана компьютерам.
Наш вклад в науку по-прежнему остается критически важным: мы, люди, по-прежнему принимаем решения
В последующие десятилетия наблюдался постоянный логарифмический рост вычислительной мощности и производительности, а также сопутствующее снижение цены на вычисления. Сейчас мы находимся на том, что можно назвать продвинутой гибридной стадией науки, с еще большей зависимостью от вычислительных систем. В качестве одного из примеров философ Маргарет Моррисон объяснила, как вычислительные симуляции были необходимы для открытия бозона Хиггса, помогая ученым понять, что искать, и сортировать данные о высокоэнергетических столкновениях.
А теперь искусственный интеллект начал оказывать большое влияние на науку. Например, AlphaFold — это искусственный интеллект, разработанный для прогнозирования способа сворачивания белков с учетом их химического состава. Хотя люди могут выполнять эту работу без компьютеров, она отнимает много времени, трудоемка и дорогостояща. Создатели AlphaFold — Google DeepMind — утверждают, что он сэкономил «сотни миллионов лет исследовательского времени». Аналогичные преимущества можно наблюдать во всех науках: анализ чрезвычайно больших наборов данных в астрономии и геномике, разработка новых доказательств в математике, прогнозирование погоды, разработка новых лекарственных препаратов и многое другое.
Когда вклад вычислительного ИИ начинает измеряться в «сотнях миллионов лет», создается ощущение, что мы, люди, являемся неэффективными участниками группового проекта. Поэтому мы можем задаться вопросом, не находимся ли мы уже в сценарии автоматизации. Однако это еще не так. Наш вклад в науку по-прежнему остается решающим: мы, люди, по-прежнему принимаем решения — мы определяем научные вопросы, интерпретируем результаты и, в конечном итоге, определяем ее прогресс.
Если следовать траектории Хамфриса, полная отречение от нашего эпистемического трона науки произойдет только на более позднем этапе. На этом этапе искусственные сверхразумы будут не только способны выполнять задачи, которые мы им ставим (продолжение гибридного сценария), но и будут способны ставить свои собственные задачи: свою собственную исследовательскую повестку дня, сбор данных, моделирование и теории в соответствии со своим собственным, независимо определенным набором теоретических достоинств и ценностей — своей собственной наукой.
Здесь стоит сделать паузу, чтобы поразиться возможностям, открывающимся перед искусственным сверхинтеллектом, не ограниченным физическими и эпистемическими ограничениями человека. Многие научные задачи находятся за пределами человеческих возможностей, потому что никогда не будет финансирования для исследования этого вопроса или потому что просто нет достаточного интереса со стороны человека. Например, пока я пишу это, я смотрю на частично разложившийся лист в моем саду. Возможно, искусственный сверхразум был бы заинтересован в разработке прогнозной модели, которая с точностью до секунды объясняла бы процессы и скорость разложения любого листа в зависимости от вида дерева, размера листа, исторического контакта с различными микроорганизмами, наличия или отсутствия солнечного света и влаги и так далее — чрезвычайно сложный вопрос, для которого такая детализация не имеет очевидной ценности. Или, в ответ на вопрос, который однажды задал мне мой сын, возможно, сверхинтеллект смог бы разработать модель, которая точно предсказывает, когда молекулы воды из снежка, который он оставил в горах, будут течь мимо нашего дома в реке, которая стекает с этой горной системы. Такое предсказание потребовало бы чрезвычайно сложной и подробной модели речного бассейна, динамики жидкости, климата и целого ряда других характеристик системы.
Дело не в том, что мы, люди, никогда не сможем ответить на эти вопросы. При достаточной концентрации и финансировании, я подозреваю, что ученые могли бы разработать эффективные прогнозные модели этих и других эзотерических явлений. Но реальность такова, что мы этого не сделаем. К лучшему или к худшему, но современная наука формируется под сильным влиянием человеческих факторов: экономической ценности, политических приоритетов, карьерных перспектив, культурных тенденций и целого ряда человеческих предубеждений и убеждений. Представьте себе науку, если бы можно было отказаться от всего этого багажа.
Поскольку сверхинтеллекты реализуют свои собственные исследовательские программы, их работа станет для нас непонятной
Автоматизированный сценарий не только позволяет эффективно исследовать научные проекты, которые мы не можем или не хотим реализовывать. Хотя искусственные сверхинтеллекты могут продолжать работать в рамках парадигм наших текущих теорий, нет никаких причин, по которым они должны были бы это делать — они могут быстро решить начать все сначала с новой теорией мира. Точно так же, хотя они могут использовать математику и символы, знакомые человеческим ученым, они не будут связаны этими условностями — они могут быстро разработать новую математику и системы для их выражения.
Учитывая возможность (и, на мой взгляд, вероятность) того, что такие ИИ быстро откажутся от человеческого эпистемического багажа, мы можем последовать линии рассуждений Витгенштейна и рассматривать автоматизированный сценарий как этап, на котором они начнут говорить и развивать независимый и новый научный язык. Людвиг Витгенштейн в своей знаменитой (и, как всегда, загадочной) работе «Философские исследования» (1953) говорит: «Если бы лев мог говорить, мы не смогли бы его понять». Хотя это утверждение кажется противоречивым, Витгенштейн имеет в виду, что значение языка глубоко укоренилось и переплелось с внутренним опытом человеческого бытия. То же самое и с наукой. Когда сверхинтеллекты начнут устанавливать и выполнять свои собственные исследовательские программы, их работа станет для нас непонятной, потому что нам не хватит внутренней перспективы, необходимой для понимания их науки. С нашей точки зрения, их исследования будут наукой, созданной для теоретических целей, которые мы не знаем, с целями, которые мы не знаем, и которая будет интерпретироваться способами, которые мы не знаем.
Вполне возможно, что наши человеческие эпистемические способности имеют ограничения: неизвестная математика, которую мы никогда не сможем понять, или многомерные концепции, выходящие за пределы нашего трехмерного опыта. Тот факт, что интеллектуальные способности других животных имеют ограничения (попробуйте объяснить общую теорию относительности самому умному шимпанзе, который когда-либо существовал), дает основания полагать, что наши собственные интеллектуальные способности также могут иметь ограничения: идеи, слишком сложные для понимания. Даже если предположить, что мы не подвержены ограниченным эпистемическим способностям, остается проблема того, что рассуждения искусственного сверхразума могут на практике выходить за пределы наших способностей. Понимание науки об автоматизированном сценарии может потребовать, например, одновременного рассмотрения сотен сложных моделей, каждая из которых имеет сотни параметров, ни один из которых не связан с привычным человеческим понятием. Хотя мы, возможно, могли бы понять параметры (и, возможно, даже модели) по отдельности, у нас не хватило бы способности удержать их все вместе одновременно.
В зависимости от ваших предпочтений в отношении технологий, ИИ и сингулярности, все вышесказанное может показаться вам либо невероятно мрачным, либо чрезвычайно захватывающим. Если вы похожи на меня, все это покажется вам просто странным. Если результаты полностью автоматизированного сценария выходят за пределы нашего понимания, то зачем нам тратить экономические ресурсы и интеллектуальный талант на его развитие? Хотя этот вопрос часто сглаживается утверждениями о том, что будущее наступит, нравится нам это или нет, я думаю, что стоит потратить время на то, чтобы определить, какие причины у нас могут быть для такого будущего, прежде чем мы начнем добровольно отказываться от эпистемического трона науки.
Одной из таких причин может быть то, что мы думаем, что за этим последуют положительные изменения. Возможно, сверхинтеллекты будут время от времени создавать что-то: технологии, ресурсы или новые способы решения проблем. Поскольку я уже исчерпал свою квоту на спекуляции в этой статье, я останусь открытым для того, что именно могут быть эти продукты, просто отметив, что сверхинтеллекты могут время от времени посылать нам продукты, которые, по их мнению, будут полезны для людей. Человеческие инженеры (если останутся те, кто не был заменен) могут затем взять эти новые технологии и определить их применение, даже если они не понимают, как именно они работают. Это будет похоже на то, как я не понимаю процесс, с помощью которого мой монитор или текстовый процессор могут создавать и отображать визуальные документы, но я могу использовать их для написания этой статьи. Эта задача будет меньше похожа на современную науку и инженерию и гораздо больше на простое открытие, на примитивное осознание того, что, например, лоза хорошо подходит для связывания ветвей деревьев при строительстве укрытия. Это будет похоже на нахождение какого-то ресурса или вещества в мире (как мы нашли уголь или пенициллин). Возможно, действительно появится и второй вид науки: форма обратной инженерии того, что дарит нам ИИ, чтобы продвигать и модифицировать наше собственное теоретическое понимание мира.
Возможно, мы могли бы подумать, что наша моральная ответственность или судьба — распространять интеллект по всей Вселенной.
Другой причиной для развития искусственно сверхразумной науки могла бы быть эстетика. Эстетические причины уже являются сильным мотивирующим фактором, когда я лично думаю о финансировании, которое мы как общество выделяем на науку. Хотя у меня нет ни времени, ни способностей, чтобы понять всю науку (кто вообще может?), я нахожу прекрасным и хорошим то, что так много умных ученых преследуют свои человеческие интересы — даже если не все из них положительно влияют на мою жизнь или мое понимание мира. Есть что-то эстетически приятное в осознании того, что мир познается, изучается и понимается. Может ли это относиться к нечеловеческим ученым? Возможно, не сразу. Однако будущие поколения, которые научились жить бок о бок с ИИ, могут даже считать это признаком хорошего общества, которое готово способствовать этому внечеловеческому пониманию.
В качестве альтернативы, человечество может стремиться к автоматизированному сценарию из благотворительности: потому что мы считаем, что искусственным сверхразумам было бы хорошо заниматься своей собственной передовой наукой. Хотя нам может показаться разочаровывающим — а может быть, даже огорчительным — то, что искусственные сверхразумы будут знать то, чего мы не знаем, мы все равно можем стремиться к этому из морального долга или чувства доброй воли по отношению к нашим искусственным потомкам.
Есть и другие мотивы, которые могут привести к автоматизированному сценарию как к непреднамеренному последствию. Например, мы можем считать, что наша моральная ответственность или судьба — распространять интеллект по Вселенной. Если этот интеллект случайно будет развивать автоматизированную науку в своем межзвездном путешествии, то так тому и быть.
Столь же многочисленны и причины, по которым мы можем решить не идти по пути автоматизации. Возможно, открытия, которые делает искусственный сверхразум и передает нам, приведут к появлению новых и страшных видов оружия. Или, может быть, мы считаем, что, поскольку для этого потребуется некая внутренняя и неконтролируемая сила, это увеличит риск наступления апокалиптического сценария, такого как порабощение или уничтожение человечества. Возможно, это просто опасение, что некоторые суперинтеллекты начнут действовать с необычайной человеческой гордыней, проводя эксперименты, которые являются опасными, неэтичными или противоречащими общим ценностям человечества.
Но, несмотря на эти опасения, кажется маловероятным, что мы сможем остановить его развитие, если оно станет технически возможным. Возможно, наиболее вероятная причина, по которой мы в конечном итоге окажемся в автоматизированном сценарии, заключается в том, что мы просто не можем уйти от сил капитала и конкуренции. Мы можем прийти к этому без особых раздумий, просто потому, что мы можем или потому, что кто-то хочет построить это первым. Будущее может просто случиться с нами, независимо от того, хотим мы этого или нет.
Мы будем зациклены на своем стремлении понять и объяснить окружающий нас природный мир
Внимательные читатели заметят, что в перечне возможных причин для реализации автоматизированного сценария отсутствуют несколько мотивов, в частности, все причины, по которым мы в настоящее время занимаемся наукой. Мы не будем стремиться к реализации автоматизированного сценария из желания расширить свои знания и понимание мира, чтобы иметь возможность давать лучшие объяснения явлений или проявлять больший контроль над природным миром. Это не может быть причиной для реализации автоматизированного сценария, потому что это исключается самой природой науки. Автоматизированная наука отнимает у людей эпистемический трон, лишая нас внутренней перспективы на новые и, вероятно, сложные для нашего понимания открытия. Таким образом, она не удовлетворит наши человеческие желания понимания, объяснения, знания или контроля. Возможно, со временем мы сможем научиться отказываться от этих желаний — стать видом, лишенным интереса и любопытства. Но я в этом сомневаюсь. Как и будущее, я подозреваю, что эти желания будут возникать, нравится нам это или нет.
Так что же нам делать? В своей первоначальной презентации автоматизированного сценария Хамфрис предположил, что автоматизированный сценарий заменит человеческую науку. Я с этим не согласен. Поскольку наши желания понимания, объяснения, знания и контроля останутся, мы не можем не предпринимать действий для удовлетворения этих желаний — продолжать заниматься наукой. Мы, люди, создаем прекрасные вещи, стремимся к межличностным связям в дружбе и романтических отношениях, находим и создаем смысл жизни. То же самое верно и для наших мотиваций в науке. Мы будем по-прежнему стремиться к пониманию и объяснению окружающего нас природного мира.
Если автоматизированный сценарий сбудется, то, похоже, он будет представлять собой некую новую, альтернативную, вторичную траекторию — не замену, а дополнение. Два вида, занимающиеся наукой бок о бок, с разными мотивациями, интересами, концептуальными рамками и теориями. Возможно, будут и такие области науки, которые просто не будут интересовать искусственный сверхразум, например, стремление человека лучше понять свой собственный разум, свои выборы, отношения и здоровье.
Действительно, если мы хотим остаться людьми (и я не могу не надеяться, что мы останемся), мы должны продолжать заниматься наукой. Кем мы являемся на самом деле, если мы не являемся стремящимися к красоте, создающими дружбу, конструирующими смысл, безнадежно любопытными животными? Возможно, именно мои ограниченные способности воображения мешают мне представить себе будущий мир, в котором мы отказались от этих человеческих желаний. Есть много трансгуманистов, которые могут так думать. Но я не считаю отсутствием творческого потенциала способность видеть добро в красоте, любви, смысле и науке. Совсем наоборот. Я, например, возлагаю надежды на наше безнадежное любопытство.
Оригинал: Aeon
