Проблема выхода «сильного» искусственного интеллекта из-под контроля человека является очень серьезной по той причине, что человечеству не удастся уловить тот момент, когда самосовершенствующийся ИИ решит стать самостоятельным. Об этом заявила директор Института когнитивных исследований СПбГУ Татьяна Черниговская на открытии серии рождественских лекций в НИТУ МИСИС, посвященном памяти академика Леонида Вайсберга, сообщает ТАСС.
«Проблема выхода ИИ из-под контроля волнует не только чрезмерно впечатлительную публику, но и вполне серьезных исследователей. Лично для меня главный вопрос заключается в том, как мы собираемся узнать, что «сильный» искусственный интеллект вышел из-под контроля и начнется технологическая сингулярность в результате запуска процесса саморазвития ИИ. Он же нам не сообщит об этом и не помашет ручкой», — заявила Черниговская.
Как отметила Черниговская, сейчас этот вопрос активно обсуждается на мировом уровне среди ведущих экспертов в области ИИ с подачи Илона Маска. Он предложил ввести временный мораторий на разработку подобных систем, тогда как часть других ученых предложила запретить разработку до тех пор, пока у человечества не будет четких представлений о том, как и когда контроль над «сильным» ИИ будет утерян. По мнению Черниговской, консенсус по этому вопросу вряд ли будет достигнут в обозримом будущем, что связано в значительной степени с отсутствием согласия насчет того, что является сознанием и разумом.
Многие эксперты в области разработки ИИ предполагают, что человечеству в конечном итоге удастся создать компьютерную систему, которая приобретет способность мыслить и осознавать себя как личность. Подобные машины смогут совершенствовать себя при решении любого рода задач, что в перспективе резко ускорит научно-технологический прогресс и приведет к так называемой технологической сингулярности — взрывообразному и неуправляемому технологическому развитию цивилизации.
