Иошуа Бенджио стоял у истоков технологии глубокого обучения, но в последнее время изобретение все больше тревожит его. Алгоритмы усилят неравенство и обрушат демократии. А кое-где уже воплощается в жизнь антиутопия Джорджа Оруэлла, пишут СМИ.
Сфера искусственного интеллекта развивается бесконтрольно и ей катастрофически не хватает регулирования, считает один из создателей метода глубокого обучения Иошуа Бенджио.
«Появление все более мощных технологий приводит к концентрации власти и богатства в одних руках. Это вредит демократии, социальной справедливости и в целом благосостоянию большинства людей», — отметил канадский ученый в интервью Bloomberg.
Бенджио стоял у истоков нейросетей — ключевого элемента систем на базе глубокого обучения. По оценкам аналитиков, в последние годы именно это направление ИИ стало пользоваться наибольшей популярностью. Сейчас ИТ-гиганты, такие как Google, Amazon и Facebook, используют технологии для обучения алгоритмов. Нейросети лежат в основе большинства систем распознавания лиц и речи, а также многих инструментов для анализа данных и прогнозирования.
Наравне с Бенджио в разработке методики принимали участие французский ученый Ян Лекун и британец Джеффри Хинтон, которые сотрудничают с Facebook и Google. Канадский исследователь намеренно избегает крупных корпораций. Он возглавляет Монреальский институт изучения алгоритмов (Mila) и занимается разработками в канадском стартапе Element AI. По его мнению, крупные ИТ-корпорации используют методы машинного обучения не на пользу, а во вред человечеству.
С помощью ИИ они пытаются контролировать поведение людей и влиять на их мышление. Бенджио считает такую тактику недопустимой.
Канадский эксперт уверен: люди должны вернуть себе власть над персональными данными. Необходимо создать платформу, которая даст пользователям возможность распоряжаться личными сведениями или делегировать контроль некоммерческим организациям. Похожую точку зрения разделяют многие представители «старой школы», в том числе создатель Всемирной паутины Тим Бернерс-Ли.
Впрочем, злоупотребление персональными данными на западе пугает Бенджио меньше, чем внедрение ИИ для слежки за гражданами в Китае.
«Это воплощенный Большой брат из „1984“. Ситуация [в КНР] с каждым днем пугает все больше», — признал исследователь.
Повсеместные камеры слежения с поддержкой распознавания лиц вызывают у Бенджио наибольшую тревогу. «Использование лица для отслеживания перемещений нужно строго регулировать», — уверен разработчик нейросетей.
Ранее на Китай с критикой обрушился миллиардер Джордж Сорос. По его словам, ИИ-системы в руках Компартии представляют «смертельную угрозу». Рейтинг благонадежности не отвечает критериям открытого демократического общества. А алгоритмы в этих условиях становятся инструментом репрессий, уверен американский финансист.
