«Крестный отец» ИИ Джеффри Хинтон заявил, что некоторые опасности чат-ботов с искусственным интеллектом «довольно страшны»

Человек, которого многие считают крестным отцом искусственного интеллекта (ИИ), уволился с работы, предупредив о растущих опасностях, связанных с разработками в этой области.

Джеффри Хинтон, 75 лет, объявил о своем уходе из Google в заявлении для New York Times, заявив, что теперь он сожалеет о своей работе, пишет Би-би-си.

Он сказал Би-би-си, что некоторые опасности чат-ботов с искусственным интеллектом «довольно страшны».

«Прямо сейчас они не умнее нас, насколько я могу судить. Но я думаю, что скоро они станут такими».

Доктор Хинтон также признал, что его возраст повлиял на его решение покинуть технологический гигант, сказав BBC: «Мне 75, так что пора уходить на пенсию».

Новаторские исследования доктора Хинтона в области глубокого обучения и нейронных сетей проложили путь для современных систем искусственного интеллекта, таких как ChatGPT.

Но британско-канадский когнитивный психолог и компьютерный ученый сказал Би-би-си, что чат-бот может вскоре превзойти уровень информации, который хранится в человеческом мозгу.

«Прямо сейчас мы видим, что GPT-4 затмевает человека по объему общих знаний, которые у него есть, и затмевает их далеко. С точки зрения рассуждений, это не так хорошо, но уже делает. простое рассуждение.

«А учитывая темпы прогресса, мы ожидаем, что ситуация улучшится довольно быстро. Так что нам нужно беспокоиться об этом».

В статье в New York Times доктор Хинтон упомянул «плохих акторов», которые попытаются использовать ИИ для «плохих дел».

На просьбу Би-би-си рассказать об этом подробнее, он ответил: «Это всего лишь своего рода сценарий наихудшего случая, своего рода кошмарный сценарий.

«Вы можете представить, например, что какой-нибудь плохой актор решил дать роботам возможность создавать свои собственные подцели».

Ученый предупредил, что это в конечном итоге может «создать подцели, такие как «Мне нужно получить больше энергии»».

Он добавил: «Я пришел к выводу, что тот тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть.

«Мы биологические системы, а это цифровые системы. И большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира.

«И все эти копии могут учиться по отдельности, но мгновенно делиться своими знаниями. Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек что-то узнает, все автоматически это узнают. Вот почему эти чат-боты могут знать гораздо больше, чем любой другой человек».

Он подчеркнул, что не хочет критиковать Google и что технический гигант вел себя «очень ответственно».

«На самом деле я хочу сказать несколько хороших слов о Google. И они будут более достоверными, если я не работаю в Google».

В своем заявлении главный научный сотрудник Google Джефф Дин сказал: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».

Поделиться