Гари Маркус, известный когнитивист и исследователь в области искусственного интеллекта, выступил с тревожным прогнозом о будущем компании OpenAI. По его мнению, лидер индустрии ИИ может вскоре сделать резкий поворот в сторону массового наблюдения за пользователями и приблизить нас к антиутопическому миру романа Джорджа Оруэлла «1984», пишут СМИ
Выступая на семинаре в Стэнфордском центре искусственного интеллекта, ориентированного на человека, Маркус заявил: «Я предполагаю, что OpenAI станет самой оруэлловской компанией всех времен. Их будут подталкивать к тому, чтобы стать компанией-надсмотрщиком».
Причина такого исхода, по мнению Маркуса , проста — OpenAI нужно будет найти способ зарабатывать деньги. Стартап, начинавший свой путь как некоммерческая организация с альтруистическими целями, сегодня стала лицом бурно развивающейся индустрии и фактически превратилась в коммерческое предприятие.
Маркус отмечает: в 2023 году OpenAI активно продвигала идею универсального ИИ, способного решать любые задачи. Крупнейшие компании мира с энтузиазмом тестировали эти технологии. Однако к 2024 году настроения изменились: согласно многочисленным отчетам, технология оказалась недостаточно надежной для реального применения из-за «галлюцинаций» и сбоев в ее работе.
«В результате многие компании стали более осторожно подходить к внедрению ИИ», — добавляет исследователь. Это мнение совпадает с оценками других аналитиков, предупреждающих о том, что на рынке искусственного интеллекта может образоваться своего рода “пузырь”. Несмотря на шумиху и огромные инвестиции, до сих пор неясно, как современные модели смогут окупить вложенные в них средства и начать приносить прибыль.
Маркус подчеркивает: идея использования умных технологий для массовой слежки не нова. Многие крупные IT-компании уже сейчас зарабатывают на сборе и продаже данных пользователей. К примеру, социальные сети вроде X (бывший Twitter) продают информацию третьим лицам, среди которых могут быть и компании, сотрудничающие с государственными структурами.
Однако OpenAI, как лидер индустрии, имеет доступ к колоссальным объемам данных со всего интернета. В потенциале это позволит команде создать беспрецедентно мощную систему наблюдения, превосходящую все существующие аналоги.
Уже можно заметить несколько тревожных звоночков. Например, этим летом OpenAI приняла в свой совет директоров бывшего директора Агентства национальной безопасности США Пола Накасоне, чем вызвала бурю обсуждений в сообществе.
Гари Маркус когда-то надеялся, что OpenAI изменит свой курс. Но с тех пор он стал более скептически относиться в том числе к подходу Сэма Альтмана, особенно после того, как компания отбросила маску некоммерческой организации.
«За последние месяцы OpenAI окончательно сбросила маску, и я сильно сомневаюсь, что Альтман когда-либо вернется к изначальной миссии», — заявил исследователь. «Обещание инвесторам сделать бизнес прибыльным фактически означает, что прежние идеалы остались в прошлом».
