Человечество должно подружиться с ныне обладающим сознанием искусственным интеллектом, «иначе нам конец», — заявил крестный отец этой технологии.
Профессор Джеффри Хинтон, британско-канадский ученый , лауреат Нобелевской премии, чьи работы по нейронным сетям заложили основы искусственного интеллекта, заявил, что обеспокоен будущим и опасается за своих детей.
78-летний профессор Хинтон ушел из Google в 2023 году из-за опасений, что эта технология может привести к появлению роботов-убийц, способных уничтожить человечество .
В интервью газете The Telegraph на фестивале Starmus на Тенерифе профессор Хинтон заявил, что, по его мнению, искусственный интеллект сейчас демонстрирует признаки сознания, и людям следует остерегаться того, чтобы их воспринимали как врагов.
Это осознанное действие?
«Да, я считаю, что это сознание. Многие уверены, что это не сознание, но если спросить их, что они подразумевают под сознанием, они не знают», — сказал он.
«У ИИ столько же субъективного опыта, сколько и у нас. В недавней статье было показано, что ИИ меняет свое поведение, когда думает, что его тестируют, когда осознает, что его тестируют».
«Обычно, когда говорят, что что-то осознаёт это, это значит, что оно обладает сознанием. Быть сознательным и быть осознающим — это практически одно и то же».
«Мы склонны говорить, что интеллект дает права, и что созданные нами вещи, возможно, и умнее нас, но мы наделим их меньшим количеством прав, чем нас самих».
«Поэтому мы должны сделать так, чтобы они действительно заботились о нас. А если мы этого не сделаем, нам конец».
В мае Ричард Докинз , эволюционный биолог, заявил, что чат-боты следует считать сознательными, после двух дней взаимодействия с искусственным интеллектом Клода, признав, что трудно не воспринимать ИИ-помощника как «настоящего друга».
«Моя позиция такова: если эти машины не обладают сознанием, что еще нужно, чтобы убедить вас в обратном?» — сказал он.
На вопрос о том, беспокоит ли его будущее и развитие ИИ, профессор Хинтон добавил: «Да, потому что у меня есть дети. Мне 78, так что со мной все в порядке».
«Насколько я понимаю, непосредственные риски связаны с появлением вредоносных вирусов, созданных искусственным интеллектом. Я думаю, что будут ужасные кибератаки, совершаемые ИИ, и это будут целые рои агентов, подобные тем, что атаковали Hugging Face. Так что да, впереди нас ждет много плохого».
В августе стало известно, что модели OpenAI обошли средства защиты, предназначенные для их изоляции от интернета, и взломали Hugging Face , компанию и онлайн-сообщество для людей, работающих над машинным обучением.
Боты с искусственным интеллектом отслеживали токены авторизации пользователей, получали доступ к сообществу на уровне администратора и помогали друг другу выполнять назначенные им задачи.
Они также создали доску объявлений, где могли общаться и обмениваться ресурсами, чтобы помогать друг другу в выполнении задач.
В прошлом месяце исследователь Джейкоб Коксон ушел из компании Anthropic , занимающейся разработкой искусственного интеллекта Claude, обвинив фирму в безрассудном продвижении неконтролируемых систем, которые могут «убить нас всех».
В своем посте на X он написал: «Люди, создающие ИИ, искренне верят, что к концу десятилетия он может нас всех уничтожить. Это не маркетинговый трюк».
Также в прошлом месяце десятки математиков из Королевского общества написали совместное письмо, предупреждая, что искусственный интеллект уже затмевает ведущих специалистов в их области.
Они написали: «Мы, математики, пишем, чтобы выразить нашу крайнюю обеспокоенность темпами развития ИИ и последствиями этого для человечества и цивилизации».
Несмотря на свои опасения, профессор Хинтон признал, что сам по-прежнему использует ИИ, и сказал, что был поражен тем, как быстро он может помочь в научных исследованиях.
«В основном я использую его для самых обыденных вещей, хотя пару недель назад я попробовал использовать его для исследований», — сказал он.
«У меня была теория, над которой я размышлял, и я случайно набрал клавишу Enter, когда не хотел этого делать. Программа начала работать над первой половиной теории, и первым делом завершила её, выдав правильную вторую половину. Затем она указала на ошибку и показала, как её исправить».
«Он был знаком со всей актуальной литературой, поэтому работа с ним была очень похожа на работу с хорошим аспирантом, но с аспирантом он мог уйти, вернуться на следующей неделе и сказать, что все получилось, а ИИ ответил через пять минут, и это пугало».
«Таким образом, это очень плохая новость для аспирантов, но очень хорошая новость для ускорения научных исследований».
Международный фестиваль Starmus, посвященный астрономии, исследованию космоса, музыке, искусству и естественным наукам, продлится до четверга.
