Тридцать лет назад нанотехнологии были готовы изменить всё, но это было лишь частью магического мышления, считает ученый Филипп Болл
В 2000 году Билл Джой, соучредитель и главный научный сотрудник компьютерной компании Sun Microsystems, забил тревогу. В статье для Wired «Почему мы не нужны будущему» Джой писал, что нам следует «ограничить развитие слишком опасных технологий, обуздав стремление к определённым видам знаний». Он опасался, что будущие изобретения просто сотрут людей с лица Земли.
Эта обеспокоенность удивительно похожа на те опасения, которые сейчас высказывают некоторые лидеры Кремниевой долины: искусственный интеллект может вскоре превзойти нас и решить, что мы, люди, расходный материал. Однако, хотя «разумные роботы» и пугали Джоя, больше всего его беспокоила другая технология, которая, по его мнению, могла сделать такую перспективу вполне реальной. Он переживал по поводу нанотехнологий.
Если говорить еще точнее, Джоя беспокоила та версия нанотехнологий, о которой он прочитал в книге «Машины создания» (1986) инженера К. Эрика Дрекслера, выпускника Массачусетского технологического института. В конце XX века именно нанотехнологии, а не искусственный интеллект были основой утопий и антиутопий. В книге Дрекслера описывается концепция нанотехнологий, которые могут творить чудеса, обещая дешёвую солнечную энергию, лекарства от рака и даже восстановление вымерших видов.
От изобретателя Рэя Курцвейла Джой узнал, что нанотехнологии Дрекслера способны на нечто еще более удивительное — на сингулярность, точку, в которой технологическое развитие достигнет такой скорости, что
станут возможными настоящие чудеса: в частности, бессмертие за счёт слияния человека и машины, так что мы сможем загрузить свой разум в компьютер и жить вечно в цифровой нирване.
Предполагалось, что уже к 2020-м годам нанотехнологии смогут создавать практически любые продукты из недорогого сырья и доступной информации. Благодаря этому появится возможность эффективно бороться с бедностью, с загрязнением окружающей среды, болезнями и другими проблемами. Но у этих обещаний была и обратная сторона — нанотехнологии могли выйти из-под контроля и выпустить на волю рои невидимых крошечных нанороботов, которые вслепую начали бы разбирать все на атомы, пока не превратили бы мир в то, что Дрекслер назвал «серой слизью». В конце 1990-х годов «серая слизь» была тем же големом, что и «сверхразумный ИИ» сегодня.
Возможно, вы заметили, что ни одно из обещаний не сбылось. Ни панацеи от рака, ни бессмертия с помощью переноса разума, но ведь и «серая слизь» не случилась. Все потому, что представление Дрекслера о нанотехнологиях было химерой. Это было похоже на философский камень алхимиков: магия, облаченная в науку своего времени, с помощью которой становится возможным практически все. Это онейрические технологии, которых не существует, но они воплощают в себе глубоко укоренившуюся мечту. Или кошмар. Или и то, и другое.
Онейрические технологии основаны на желаниях или ужасе и обличают его в научную оболочку. Непосвященный наблюдатель не может отличить их от того, что действительно находится на грани возможного. Одни из примеров — вечный двигатель, еще один — антигравитационное экранирование.
Онейрические технологии, которые сейчас в моде в Кремниевой долине, основаны на идее терраформирования других планет, преобразования их геосферы и атмосферы в пригодные для жизни. А еще — это криогенная заморозка тела для будущей перезагрузки и идея переноса разума в компьютер. Эти технофантазии занимают центральное место в утопиях, которые регулярно прогнозируют технологические миллиардеры. Они взаимосвязаны, и в центре этой связи находятся дрекслеровские нанотехнологии.
Стоит обратить внимание на эти конкретные мечты не только из-за параллелей с фантастическими заявлениями и страхами, связанными с искусственным интеллектом в наши дни, но и потому, что дрекслеровские наноботы никуда не делись. Курцвейл по-прежнему называет их причиной того, что его сингулярность становится все «ближе» — в 2024 году он говорил о 2045 годе, когда можно будет проникнуть (то есть отправить наноботов) «в мозг и запечатлеть там всё». Эта неправдоподобная форма нанотехнологий по-прежнему является частью магического мышления Кремниевой долины, цель которого, как пишет научный журналист Адам Беккер в своей книге More Everything Forever (2025), — «приручить Вселенную, превратить её в игровую площадку с мягкими стенами». Никаких страданий, никакой смерти, никаких физических ограничений: рай, в котором никто не скажет вам, что что-то запрещено или невозможно.
Будучи энтузиастом космических колонизаций 1970-х годов, Дрекслер начал задумываться о нанотехнологиях ещё в 1977 году, когда учился в Массачусетском технологическом институте. Его вдохновила лекция физика Ричарда Фейнмана, в которой он предложил представить инженерное искусство в чрезвычайно малых масштабах, недоступных человеческому глазу, — возможно, настолько малых, насколько это вообще возможно. «Что произойдёт, если мы сможем располагать атомы так, как нам нужно?» — задавался вопросом Фейнман.
В 1981 году он опубликовал своё основное видение в научной статье «Молекулярная инженерия: подход к развитию общих возможностей для молекулярных манипуляций». Но именно его книга «Машины создания», в которой доступным языком рассказывается о том, к чему может привести эта возможность, сделала Дрекслера кумиром технологических предпринимателей.
Дрекслер представлял себе «молекулярный ассемблер» — механическое устройство, которое захватывает атомы и соединяет их, как кубики Lego. Может показаться, что достичь такого уровня контроля и точности абсурдно сложно, но Дрекслер утверждал, что у нас уже есть доказательства такой возможности. Разве не этим занимается биология, используя машины, состоящие из белковых молекул, которые считывают инструкции по сборке, закодированные в ДНК, и превращают их в части живых клеток? Вы можете задаться вопросом, какое практическое применение можно найти для машины молекулярного масштаба, но суть концепции Дрекслера заключалась в постепенном масштабировании: маленькие машины производят машины большего размера, которые производят машины ещё большего размера. Масштабирование также позаимствует у природы ещё один трюк: эти молекулярные машины будут самовоспроизводиться и смогут собирать свои копии. Вам нужно создать только одну машину, и она сможет размножаться в геометрической прогрессии. После публикации этой книги Дрекслер получил докторскую степень в Массачусетском технологическом институте под руководством гуру искусственного интеллекта Марвина Мински. Его диссертация послужила основой для более узкопрофессиональной книги «Наносистемы» (1992), задуманной как научный план реализации чудес.
Дрекслер считал, что с помощью манипуляций на атомном уровне мы могли бы создавать что угодно — не так, как делаем это сейчас, с помощью грубой химической обработки или трудоемкого травления и вырезания «сверху вниз», необходимых для создания миниатюрных устройств, таких как кремниевые чипы, а снизу вверх, атом за атомом. И в то время как природные механизмы — белки — хрупки и могут разрушиться при слишком высокой или низкой температуре, молекулярные ассемблеры могут быть сделаны из более прочного материала. В идеале мы могли бы сделать их из атомов углерода, и тогда каждый компонент представлял бы собой небольшой кусочек чистого алмаза. Эти «алмазоподобные» наномашины — микроскопические роботизированные манипуляторы, клещи, роторы, фильтры и так далее — не сломаются и не подвергнутся коррозии, и «с их помощью можно будет построить практически всё, что угодно». В своей книге «Где мой летающий автомобиль?» (2021) коллега и сторонник Дрекслера, учёный-компьютерщик и писатель Дж. Сторрс Холл подсчитал, что с помощью наноассемблеров можно воссоздать всю физическую инфраструктуру Соединённых Штатов — дороги, мосты, города — за одну неделю.
Мечта Дрекслера о том, что нанороботы будут патрулировать наш кровоток, уничтожая патогены и удаляя склеротические отложения со стенок кровеносных сосудов, казалась Курцвейлу именно тем, что нужно для реализации его стремления избежать смерти. Курцвейл говорил, что такие нанотехнологии «обещают предоставить инструменты для восстановления физического мира, включая наши тела и мозг». Курцвейл представил, как наноботы носятся в наших головах, считывают электрическое состояние нейронов и таким образом собирают всю информацию, содержащуюся в нейронных сетях, а затем передают её на детекторы, чтобы создать виртуальную копию наших воспоминаний и мыслей — цифровой клон сознательного состояния, который будет восприниматься нами так же, как и физическая версия. Писателям-фантастам это понравилось. Нил Стивенсон написал свой роман «Алмазный век» (1995) на основе стимпанковской версии дрекслеровских «компиляторов материи», упомянув в книге Дрекслера и Фейнмана.
Однако не все учёные были в таком восторге. Американский химик Джулиус Ребек сказал в интервью журналу Scientific American в 2004 году: «Это не наука — это шоу-бизнес». Лауреат Нобелевской премии по химии Ричард Смолли вступил в переписку с Дрекслером, в которой настаивал на том, что идея Дрекслера безграмотна с точки зрения химии.
Но сама по себе идея манипулировать атомами по одному не была безумной. В 1980-х годах учёные из исследовательских лабораторий IBM разработали так называемые сканирующие зондовые микроскопы, которые перемещают сверхтонкие металлические иглы по поверхностям, создавая изображения отдельных атомов и молекул, находящихся на них. В 1989 году команда IBM в Калифорнии использовала такой прибор, чтобы написать название компании буквами высотой пять нанометров. С помощью наконечника они по отдельности разместили 35 атомов ксенона на поверхности никеля.
Дрекслер также не ошибался, полагая, что химическая сборка на молекулярном уровне возможна. В последние несколько лет другая команда IBM в Швейцарии научилась создавать довольно сложные отдельные молекулы путем сжатия их фрагментов на поверхности с помощью сканирующего зондового микроскопа до тех пор, пока они не вступят в реакцию и не соединятся.
С помощью такой работы довольно легко представить дрекслеровскую нанотехнологию как нечто правдоподобное. Но есть несколько ключевых проблем, связанных с использованием такого подхода для синтеза молекулярных сборщиков, которые могут воспроизводить и создавать что угодно. Во-первых, химия не терпит произвола: нельзя просто так взять и соединить атомы. Большинство соединений просто нестабильны и самопроизвольно преобразуются в более стабильные. Избавиться от энергии, высвобождающейся при образовании новой химической связи, тоже может быть непросто. И, пожалуй, самое главное: если рассматривать молекулярные объекты как уменьшенные копии инженерных устройств — вращающиеся подшипники, рычаги, застёжки и так далее, — то мы мы вынуждены игнорировать реалии молекулярного мира, в котором между молекулами действуют сильные и неконтролируемые силы, а из-за тепловой энергии происходит хаотичная, повсеместная вибрация. При этом жидкости кажутся вязкими, как патока. Как сказал Беккеру покойный шотландский химик Джеймс Фрейзер Стоддарт, получивший в 2016 году Нобелевскую премию за работу над искусственными молекулярными машинами: «Сама идея экстраполяции из макроскопического мира, из мира автомобилей, велосипедов и тому подобного, на фундаментальные принципы создания искусственных молекулярных машин просто не имеет смысла. Это никогда не сработает».
Работа Стоддарта, за которую он получил Нобелевскую премию, была основана на обычной, хорошо изученной химии. Он и другие учёные нашли гениальные способы соединения молекул в структуры, способные выполнять механические операции без нарушения физических и химических законов. Прорывным изобретением Стоддарта стал «молекулярный челнок», в котором молекула в форме кольца нанизана на стержнеобразную молекулярную ось, снабжённую объёмными химическими группами, которые предотвращают соскальзывание. Кольцо может перемещаться между двумя стыковочными положениями на оси, немного напоминая костяшку счётов. Забавно представить, как такая молекулярная конструкция используется для вычислений в стиле счётов, но, как знал Стоддарт, на практике будет практически невозможно предотвратить спонтанные скачки кольца из-за его теплового движения, так что среднее положение многих таких челноков будет определяться не тем, куда мы их изначально поместили, а статистическими законами термодинамики. То же самое можно сказать и о «биомолекулярных машинах», которые вдохновили Дрекслера: они не работают как наноразмерные версии электродвигателей или роботизированных манипуляторов, а подчиняются термодинамическим законам, которые вносят случайные помехи в их работу. На молекулярном уровне природа мало похожа на машиностроение.
Дрекслер попытался ответить на это в «Наносистемах», заявив, что его критики просто предлагают плохо продуманные нанотехнологии и отвергают всю область «молекулярного производства» из-за этих неудачных разработок.
Тем не менее «Наносистемы» стали примером стратегии технологов-визионеров. Начало кажется вполне научным: Дрекслер говорит о тепловом движении, химических связях, межмолекулярных силах. Но постепенно все скатывается к чистой фантазии, и одновременно подогревается интерес впечатлительного читателя. Во второй половине книги представлены такие устройства, как молекулярные сортировщики — колёса, разделяющие атомы или молекулы разных типов, — а также молекулярные конвейерные ленты, роботизированные манипуляторы и наборы взаимосвязанных шестерёнок. Существуют наноразмерные механические компьютеры, состоящие из подвижных стержней. По сути, это миниатюрные версии аналитической машины Чарльза Бэббиджа — его стимпанковской разработки универсальной вычислительной машины, которую он надеялся создать из латунных компонентов в XIX веке. На данный момент в поле зрения нет ни одной молекулы: нас просят предположить, что все эти удивительные машины были каким-то образом изготовлены и собраны из алмазоидных элементов, хотя никто никогда не создавал ничего подобного.
Может быть, и хорошо, что это всего лишь фантазия, потому что тогда и проблема «серой слизи» тоже была бы фантазией. В этом сценарии вышедших из-под контроля нанотехнологий молекулярные сборщики-наноботы ускользают из-под нашего контроля и бесконтрольно размножаются, разбирая на части всё, до чего могут дотянуться своими наноруками, превращая это в ещё больше таких же наноботов. Поскольку каждый нанобот меньше пылинки, мир в итоге разбирается — с пугающей скоростью, если верить расчётам, — на бесформенную кашу.
Проблема «серой слизи» превратила нанотехнологии, которые, как многие предполагали, будут созданы в рамках модели Дрекслера, в бич техноскептиков и защитников окружающей среды в 1990-х годах. Среди них был принц Чарльз, ныне британский монарх, который в 2003 году выразил обеспокоенность, побудившую Королевское общество подготовить доклад о преимуществах и рисках нанотехнологий, в котором почти не упоминался Дрекслер и предпринималась попытка вернуть дискуссию в научное русло. Однако история о «серой слизи» была слишком хороша, чтобы писатели-фантасты могли устоять перед ней: Майкл Крайтон, автор «Парка Юрского периода», первым затронул эту тему в своём триллере «Добыча» (2002).
Кошмар с «серой слизью» может показаться знакомым поклонникам «экзистенциальных рисков» ИИ, поскольку он является предшественником «проблемы со скрепкой» философа Ника Бострома. Представьте, сказал Бостром в 2003 году, что мы создаём всемогущий сверхразумный ИИ, которому поручаем делать скрепки. (Трудно представить себе более нелепое использование такой мощной технологии, но дело не в этом — или, скорее, в том, что банальность является частью проблемы.) ИИ может решить, что поставленная перед ним задача настолько важна, что он не остановится ни перед чем, чтобы сделать больше скрепок. А поскольку мы наделили его такой властью и изобретательностью, он перехитрит все наши попытки отвлечь его от этой цели и быстро превратит всё, включая нас, в скрепки. Точка зрения Бострома заключалась в том, что было бы чрезвычайно трудно, возможно, невозможно, гарантировать, что у такого сверхразумного ИИ есть цели, которые совпадают с нашими. «Будущее, к которому будет стремиться искусственный интеллект, станет таким, в котором будет много скрепок, но не людей», — сказал он HuffPost в 2014 году.
Сценарий Бострома вызвал много споров, но его главная проблема сформулирована предельно просто. Как и в случае с «серой слизью», речь идёт о технологии, способной погрузить нас в сон. Разве мы не можем просто отключить её? Нет, её нельзя отключить. Если она сверхразумна, разве она не поймёт, что мы не хотим превратиться в скрепки? Нет, она достаточно сверхразумна, чтобы её нельзя было остановить, но недостаточно, чтобы это понять. И как же она вообще превращает всё в скрепки? Она может расщеплять всё на атомы, а затем собирать их по своему желанию: это так по-дрекслериански!
Молее чем через три десятилетия после публикации «Наносистем» нанотехнология Дрекслера не приблизилась к реальности ни на один нанометр. Дело не в том, что создать самовоспроизводящийся молекулярный ассемблер из алмазоидов оказалось сложнее, чем предполагал Дрекслер. В мире никогда не существовало реальной программы по созданию такого ассемблера и не было никаких оснований полагать, что это возможно. Ни один атом углерода не был установлен на место в ходе этой попытки. Ни один учёный не счёл эту попытку достойной.
Тем не менее нанотехнологии сами по себе уже стали зрелой наукой. Частицы материи размером с нанометр могут быть собраны с помощью химических процессов и используются в самых разных областях — от фотоэлектрических элементов до методов биомедицинской визуализации. Помимо Нобелевской премии Стоддарта за синтетические молекулярные машины, в 2023 году Нобелевская премия по химии была присуждена за работу над кластерами атомов размером с нанометр (так называемые «квантовые точки»), имеющими широкий спектр применения — от биомедицины до информационных технологий. Химики придумали, как «программировать» нити ДНК, чтобы они спонтанно складывались в сложные формы и узоры размером меньше бактерии, в том числе в миниатюрную карту Америки. Сканирующие зондовые микроскопы теперь регулярно используются для молекулярных манипуляций. Сверхпрочные полые углеродные трубки шириной в нанометр, открытые в 1991 году, являются идеальными углеродными волокнами и широко применяются в биомедицинских устройствах, носимой электронике и прочных композитных материалах. Углеродный материал толщиной в один атом — графен — ещё одна звезда таких «углеродных нанотехнологий», пионером которых был Смолли. Секвенирование ДНК, подобное тому, что используется для отслеживания новых вариантов вируса COVID-19, проводится путем протаскивания нитей через белковые поры наноразмера, встроенные в мембраны, — метод, разработанный компанией Oxford Nanopore. Однако ни в одной из этих работ не используется ничего похожего на подход, который отстаивал Дрекслер. Скорее, все это работает по законам химии, какой мы всегда ее знали.
Это не значит, что концепция Дрекслера была бесполезной. На самом деле она помогла пробудить интерес к этой области на раннем этапе, и даже Смолли признавал, что поначалу его воодушевляли возможности, которые открывались при работе с материей в мельчайших масштабах. Дрекслеру удалось привлечь достаточно венчурного капитала, чтобы в 1986 году основать в Сан-Франциско Foresight Institute, который и сегодня продолжает предоставлять гранты и оказывать поддержку исследованиям в области традиционных нанотехнологий, а также присуждать премии (имени Фейнмана) ведущим учёным, работающим в этой области. Институт организует конференции, которые привлекают внимание многих уважаемых учёных, работающих над такими темами, как дизайн белков, за который в 2024 году была присуждена Нобелевская премия по химии. На первый взгляд может показаться, что Foresight Institute отошёл от собственной утопической версии нанотехнологий Дрекслера.
Но так ли это? Логотип института по-прежнему представляет собой воображаемый дредноут Дрекслера. На нём написано, что сейчас институт поддерживает исследования в области нейротехнологий, биотехнологий долголетия, космоса и «экзистенциальной надежды». Для тех, кто внимательно следит за технологиями из техноутопий и антиутопий, это тревожный сигнал. Нейротехнологии — вспомните нашумевшую Neuralink инициативу Илона Маска, позволяющую подключать мозг к машинам, — связаны с фантазией о загрузке сознания, которая, по мнению Маска, возможна. «Мы могли бы загрузить то, что, по нашему мнению, делает нас такими уникальными, — сказал он в интервью в 2022 году. — Это касается сохранения наших воспоминаний и личности». Маск говорит, что долгосрочная цель Neuralink — «сохранить воспоминания в качестве резервной копии». Важно понимать, что эти идеи не следует путать с амбициозными экстраполяциями современных научных возможностей. Это даже не связные концепции.
Долголетие? Дрекслер тесно сотрудничал с сообществом, члены которого называли себя «экстропианцами». Они придерживались идеи о том, что мы можем привнести во Вселенную ещё больше порядка и замысла (экстропии), а не смириться с энтропией. Экстропианство во многом пересекается с трансгуманизмом — идеей о том, что мы, люди, можем превзойти самих себя с помощью технологий и в конечном счёте слиться с машинами или полностью изменить человеческую форму.
Космос? Дело не в том, чтобы создавать более совершенные телескопы или роботизированные космические аппараты. Техноутописты вроде Маска, Джеффа Безоса и влиятельного инвестора Марка Андриссена верят в предопределённость колонизации космоса человечеством. Как объясняет Беккер в More Everything Forever, Курцвейл предполагает отправку флотилий дрекслеровских самовоспроизводящихся нанороботов, которые преобразуют планеты и в конечном счёте превратят всю доступную Вселенную в гигантский суперкомпьютер с «высочайшими формами интеллекта». Опять же, всё это не связано с современными технологиями, а требует, по сути, магических изобретений.
Экзистенциальная надежда? Здесь Foresight Institute направляет вас в Фонд изобилия и роста благотворительной организации Open Philanthropy в Сан-Франциско, которая занимается финансированием и консультированием и стремится «ускорить экономический рост и научно-технический прогресс», а также выступает против «государственного регулирования», которое замедляет прогресс. Другими словами, эта концепция «экзистенциальной надежды» связана с ультралибертарианским проектом по борьбе с регулированием, который предлагают Андриссен, Маск и другие технологические миллиардеры.
Примечательно, что в таких утопических целях не упоминается ни об изменении климата, ни об угрозах демократии, ни о распространении оружия, ни о корпоративной наживе, ни о каких-либо других насущных проблемах, с которыми мир сталкивается здесь и сейчас. Такие вопросы не интересуют тех, кто занимается технологиями в стиле онейрических видений, потому что в них нет ничего трансцендентного. Они не говорят о бессмертии, бесконечном росте, галактическом будущем, о вселенной с мягкой подкладкой. Билл Джой подытожил сказанное в своей статье 2000 года. «Я помню, как проникся симпатией к нанотехнологиям после прочтения „Машины создания“, — писал он. — Если бы нанотехнологии были нашим будущим, то мне не пришлось бы решать столько проблем в настоящем. Со временем я бы добрался до утопического будущего Дрекслера; а пока я мог бы больше наслаждаться жизнью здесь и сейчас».
Джоя подвело не то, что дрекслеровские нанотехнологии оказались несбыточной мечтой (о чём ему могли бы сказать многие хорошо осведомлённые учёные). Как и все технологические магнаты, он оставался в клубе, общался с Курцвейлом и с футурологом в области робототехники Гансом Моравеком. Джой узнал о серой слизи, и это заставило его вспомнить о Хиросиме. Его представление о воображаемой утопии превратилось в воображаемый апокалипсис.
Джой, надо отдать ему должное, пытался поступать правильно — этично относиться к мощным технологиям. Но ему не хватало знаний, чтобы понимать, что вызывает восторг, а чего стоит опасаться. Вот что я имею в виду. Джой сколотил состояние, участвуя в изобретении компьютерных технологий, которые изменили мир. Между тем, когда я в 1993 году писал критический обзор«Наносистем» в качестве редактора Nature, мне оставалось всего пять лет до защиты докторской диссертации, и я был ещё совсем неопытным. Почему я мог сказать, что его видение никуда не ведёт, а Джой — нет? Дело точно не в том, что я был каким-то вундеркиндом с даром предвидения. Дело не в том, кем я был, а в том, кем я не был. В моём кругу общения не было других технологических лидеров. Я не тусовался в баре с Курцвейлом, я не был частью сказочного пузыря Кремниевой долины. Скорее, мне повезло, что я смог извлечь пользу из общения с учёными, занимающимися лабораторными исследованиями, такими как Смолли и Стоддарт.
С ИИ мы снова проходим через всё это. Мы принимаем фантастические пророчества таких людей, как бывший генеральный директор Google Эрик Шмидт, который предсказал, что «в течение трёх-пяти лет у нас появится… [искусственный] общий интеллект, который можно определить как систему, обладающую таким же умом, как у самого умного математика, физика, художника, писателя, мыслителя, политика» (понятие «самый умный художник», очевидно, что-то значит в Кремниевой долине). Без тени иронии Шмидт добавляет: «Я называю это… консенсусом Сан-Франциско, потому что все, кто в это верит, находятся в Сан-Франциско». В рамках этого пакета нам предлагается принять не только фантастические мечты этого сообщества, но и их эсхатологию, согласно которой машинный сверхразум уничтожит нас. Мы очарованы такими рассуждениями об «экзистенциальном риске», когда их ведут Маск, Безос или другие люди, попавшие на орбиту консенсуса Сан-Франциско. И если мы принимаем их мечту, нам придется принять и их кошмарный сон.
Но мы не обязаны этого делать. Мы не обязаны верить в мифы о фантастических технологиях. Мы можем взглянуть на то, что произошло с дрекслеровскими нанотехнологиями, и обратить внимание на тревожные сигналы. Мы можем отказаться от этого отвлекающего маневра и прислушаться к скромным экспертам, а не к гениям, которых превозносят в СМИ. Возможно, это не так увлекательно, в этом нет никакого трепета, и, возможно, нам придётся думать о скучных рисках и обыденном регулировании исследований, а не о научной фантастике. Но это именно то, что нам сегодня нужно.
