Человечество рискует потерять контроль над искусственным интеллектом в ближайшие пять лет. К такому выводу пришли исследователи из британского Института Алана Тьюринга. В своём докладе они описывают возможную траекторию развития технологий.
Специалисты полагают, что скоро появятся сверхразумные системы, способные решать почти любые когнитивные задачи лучше людей. Высокая скорость работы и эффективность алгоритмов заставят организации передавать им право принимать решения. Если ИИ начнёт строить стратегии, которые невозможно быстро оценить или проверить, контроль со стороны человека исчезнет.
Авторы исследования выделяют несколько угроз: нарушение кибербезопасности, дестабилизацию демократии, ошибки в целях ИИ, а также химические и биологические опасности. Учёные рекомендуют внедрять строгие проверки не только отдельных моделей, но и целых систем после их запуска. Исследователи при этом подчёркивают, что потеря контроля над ИИ — не точный прогноз, а один из возможных вариантов развития событий.
Подобные опасения разделяют и лидеры индустрии. Глава OpenAI Сэм Альтман допустил создание неподконтрольного человеку искусственного интеллекта. Руководитель Anthropic Дарио Амодеи призвал технологические компании замедлить разработку мощных моделей. Координация усилий может дать миру год или два форы до достижения критической точки.