Исследователи Центра людей и машин Института развития человека Макса Планка заявили, что человечество не сможет управлять сверхразумными компьютерами с наличием искусственного интеллекта. Статья ученых опубликована в Journal of Artificial Intelligence Research, пишут СМИ.
По мнению специалистов, в мире уже существуют сверхразумные суперкомпьютеры. При этом они в автономном режиме выполняют поставленные им задачи.
Исследователи выяснили, что люди не смогут контролировать сверхразумный ИИ с помощью ограничивающих алгоритмов, которые запрещали бы компьютерам причинять вред человеку. Специалисты пришли к выводу, что в существующей парадигме вычислений создание сдерживающего алгоритма для ИИ не представляется возможным.
Глава группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка Мануэль Себриан также опасается того, что не все создатели таких высокотехнологичных машин понимают процесс их самообучения.
«Если развитие таких систем продолжится, то в какой-то момент они могут начать представлять реальную опасность для людей», — заключил Себриан.
