Ученые сделали вывод, что люди не смогут сдерживать сверхразумный компьютер

Исследователи Центра людей и машин Института развития человека Макса Планка заявили, что человечество не сможет управлять сверхразумными компьютерами с наличием искусственного интеллекта. Статья ученых опубликована в Journal of Artificial Intelligence Research, пишут СМИ.

По мнению специалистов, уже существуют сверхразумные суперкомпьютеры. При этом они в автономном режиме выполняют поставленные им задачи.

Исследователи выяснили, что люди не смогут контролировать сверхразумный ИИ с помощью ограничивающих алгоритмов, которые запрещали бы компьютерам причинять вред человеку. Специалисты пришли к выводу, что в существующей парадигме вычислений создание сдерживающего алгоритма для ИИ не представляется возможным.

Глава группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка Мануэль Себриан также опасается того, что не все создатели таких высокотехнологичных машин понимают процесс их самообучения.

«Если развитие таких систем продолжится, то в какой-то момент они могут начать представлять реальную опасность для людей», — заключил Себриан.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Поделиться