Специалисты из Оксфордского университета и разработчики из компании Google написали научную работу, согласно которой искусственный интеллект GAN может уничтожить человечество, пишут СМИ.
Модель нейросети представляет собой две подмодели: генератор и дискриминатор. Первый пытается научиться обманывать второго. По словам исследователей, GAN является самой продвинутой разновидностью ИИ, потому что она может эффективно выбирать, как действовать, достигая высокой вероятности успеха.
В случае, если нейросеть будет наделена важной для человечества функцией, то однажды она начнет создавать обманные стратегии, нацеленные на выполнение своих задач. Это может нанести вред человечеству, считают специалисты.
«Если ты находишься в противостоянии с неким агентом, который способен перехитрить тебя на каждом шагу, то не стоит ждать от себя победы. Второй важный момент: такой алгоритм будет жаждать все большей и большей энергии», — пишут исследователи.
Разработчики полагают, что в будущем ИИ сможет поравняться и превзойти человека во всех смыслах, что позволит ему взять контроль над обществом.
