Американский блогер российского происхождения Лекс Фридман записал подкаст с Сэмом Альтманом, главой OpenAI, ведущего разработчика больших языковых моделей ИИ. Речь шла о так называемом сильном ИИ, превосходящем возможности человеческого интеллекта. Говорят, у OpenAI такой уже есть, и именно поэтому главный ученый компании Илья Суцкевер с ноября прошлого года не появляется в офисе и в публичном пространстве. Альтман опроверг эти конспирологические теории. Однако заявил, что считает сильный ИИ благом, так как он резко ускорит темп научного и технологического прогресса.
Прошлый год стал для Сэма Альтмана очень богатым на события: разработка большой языковой модели GPT принесла огромный коммерческий успех, совет директоров взбунтовался и сначала выгнал его, а потом сдался и был почти полностью расформирован. В результате позиции нынешнего главы OpenAI лишь упрочились — Альтман стал почти неприкасаемой фигурой в Кремниевой долине — но вопросы к нему и к деятельности его компании еще остались.
В частности, во время расследования ситуации, приведшей к попытке смены власти в OpenAI, ходили слухи о проекте Q*, которым занимался один из отделов компании без ведома совета директоров. По мнению некоторых сотрудников, проект «Кью-Стар» мог стать прорывом в разработке так называемого сильного, или универсального ИИ. То есть, по определению OpenAI, превосходящего человека по большинству экономически значимых показателей.
В разговоре с Фридманом Альтман говорил об универсальном ИИ и своем стремлении разработать его с осторожностью. По его словам, это не финишная ленточка, а, скорее, постепенное развитие способностей модели ИИ. О воздействии GPT 3.5 глава OpenAI говорил скромно: большая языковая модель не изменила мир, всего лишь показала новые возможности, которые мы обретем в будущем, сообщает IE. Но все же появление ИИ со сверхчеловеческими возможностями несомненно пойдет на пользу человечеству, полагает он.
«Я считаю, что наиболее реальный экономический рост идет от научного и технологического прогресса, — заявил Альтман. — Я думаю, если система может значимо увеличить темпы научных открытий всего мира, это большое дело».
Прокомментировал Альтман и длительное отсутствие на рабочем месте и в публичном пространстве Ильи Суцкевера, главного специалиста по ИИ в OpenAI. Именно он инициировал процесс смещения босса, а потом внезапно изменил точку зрения и перешел на его сторону. Несмотря на то, что Суцкевер не был уволен после возвращения Альтмана на пост гендиректора, с ноября прошлого года он не появлялся в компании. Ходили слухи, что его поведение было вызвано «моментом Оппенгеймера»: якобы он наблюдал сильный ИИ в действии и скрылся из страха перед последствиями.
В интервью годичной давности Суцкевер действительно предрекал появление сильного ИИ в течение двух лет и называл этот инструмент опасным для человечества. Но Альтман заявил, что OpenAI не создавала никакого сильного ИИ, и никто, включая Суцкевера, не мог его видеть.
«Я очень уважаю Илью, — добавил Альтман. — Мне нечего больше сказать сейчас о его планах. Вопрос к нему, но я очень надеюсь, что мы сможем работать вместе до конца моей карьеры».
