Генеральный директор OpenAI Сэм Альтман заявил, что между его компанией и ее конкурентом Anthropic сохраняется принципиальное различие во взглядах на регулирование искусственного интеллекта, утверждая в эксклюзивном интервью Decoded by POLITICO, что преимущества технологии оправдывают принятие некоторых рисков, и что ИИ должен оставаться широко доступным для общественности.
«Я думаю, что здесь много промежуточных моментов», — сказал Альтман соавтору Decoded и старшему технологическому обозревателю POLITICO Брендану Борделону . На вопрос о том, в чем именно он расходится во мнениях с Anthropic и ее генеральным директором Дарио Амодеи , Альтман ответил: «Мы считаем, что мир должен смириться с некоторыми негативными событиями ради преимуществ этой технологии и возможности людей самостоятельно принимать решения».
Компания Anthropic долгое время считалась самым ярым сторонником регулирования ИИ в отрасли, и эта позиция до недавнего времени противоречила более мягкому подходу, предпочитаемому OpenAI. Однако в последние месяцы различия в политике между двумя ведущими компаниями в области ИИ сократились: OpenAI поддерживает более жесткие правила, поскольку сталкивается с громкими инцидентами взлома и некорректным поведением своих моделей.
Альтман согласился с призывом Амодеи, прозвучавшим в прошлом месяце, замедлить разработку самых передовых моделей ИИ. Его компания, вслед за Anthropic, поддержала новые законы штатов , которые вводят более строгие требования безопасности, чем те, которые ранее поддерживал создатель ChatGPT — это тонкий сдвиг по сравнению с ее предыдущей стратегией в отношении штатов . А лоббисты OpenAI недавно поддержали двухпартийное предложение Палаты представителей, которое обяжет ведущие компании, занимающиеся ИИ, привлекать сторонних экспертов по оценке безопасности.
Несмотря на сближение позиций, Альтман попытался разграничить регуляторную позицию своей фирмы и Anthropic, сославшись на критику в адрес Anthropic, касающуюся «захвата регулирующих органов», которую к Anthropic применяют советники по технологическим вопросам, близкие к президенту Дональду Трампу .
«Я не согласен, но понимаю точку зрения тех, кто считает: „Эта технология станет настолько мощной и настолько опасной, что её должна иметь одна лаборатория в Сан-Франциско, чтобы убедиться, что ничего плохого не произойдёт, и как-то распределить выгоды“», — сказал Альтман . Он назвал это «совершенно неприемлемым компромиссом», противоречащим «более мягкой позиции регулирования», поддерживаемой OpenAI.
«Я бы не согласился на компромисс, заявив: „Мы гарантируем отсутствие крупных взломов, злоупотреблений этой технологией, мошенничества и всех прочих негативных последствий“», — сказал Альтман . «Потому что я думаю, что люди будут делать гораздо больше хороших вещей, чем плохих».
Генеральный директор OpenAI позже добавил, что он не приемлет «действительно катастрофических рисков», включая потенциальную «серьезную потерю контроля над ИИ».
В ответ на просьбу прокомментировать ситуацию представитель Anthropic заявил, что «предложения регуляторов касаются только новых моделей». Компания также упомянула августовский обмен сообщениями в социальных сетях между Амодеи и инвестиционным менеджером, в котором обсуждалась критика по поводу захвата регулирования и его влияния на малые компании.
«Компания Anthropic всегда очень тщательно продумывала свои политические предложения», — сказал тогда Амодей . «Мы прилагаем все усилия, чтобы наши предложения ставили в невыгодное положение (замедляли развитие) передовых компаний в области ИИ, одновременно предоставляя *преимущества* более мелким конкурентам».
В интервью Альтману , опубликованном в понедельник в первом выпуске Decoded и сопровождающем его ежедневном подкасте, также обсуждались новое соглашение Трампа с ведущими технологическими компаниями в области ИИ и его попытка переименовать компанию в «сверхинтеллект»; череда инцидентов с автономным взломом, осуществляемых моделями OpenAI, и вопрос о том, должна ли компания нести юридическую ответственность; мысли Альтмана о том, как деньги индустрии ИИ заполоняют американскую политику; влияние так называемых эффективных альтруистов внутри OpenAI; и его взгляды на ключевых политических деятелей, включая президента Франции Эммануэля Макрона и губернатора Калифорнии Гэвина Ньюсома .