Компания Microsoft разработала программу, которая может отличать так называемые дипфейки — фотографии и видео в интернете, в которых лицо одного человека заменено на другого.
Программа анализирует снимки и определяет вероятность того, что эти изображения были отредактированы, пишет Би-би-си.
Компания заявляет, что тем самым она надеется помочь в борьбе с распространением дезинформации. Однако некоторые эксперты предупреждают, что такая программа может быстро устареть, учитывая то, какими темпами развиваются подобные технологии.
Но Microsoft предлагает и другое решение: к контенту, размещаемому в интернете, можно добавлять специальный секретный код, помогающий установить последующие манипуляции с изображением.
Как поменять лицо
Дипфейки распространились в начале 2018 года, когда один разработчик с помощью самого передового на тот момент искусственного интеллекта заменил лицо человека на фотографии на другое, при этом выражения обеих лиц полностью совпали.
Тогда для этого требовалось ввести в компьютер множество фотографий одного человека, а затем видеозаписи другого, чтобы правдоподобно заменить на экране лицо — так, чтобы совпали движения губ, выражение лица и прочие детали.
Но с тех пор процесс стал проще. Теперь многие могут пользоваться подобной технологией, количество необходимых для этого фотоснимков значительно сократилось.
Для некоторых приложений достаточно одного селфи, чтобы заменить на него лицо актера из голливудского ролика.
Но теперь многие опасаются, что подобная технология может быть использована в политических и иных целях, так как при ее помощи можно будет вставить в уста известных людей слова, которые они никогда не произносили, но на экране это будет выглядеть правдоподобно.
В этом году компания Facebook объявила, что запрещает использование дипфейков, которые способны обмануть пользователя, вложив в чьи-либо уста то, чего этот человек не говорил. Этому примеру последовали Twitter и TikTok.
Microsoft использует свою программу Video Authenticator, которая помогает определить, что фотография подверглась манипуляциям, даже если это незаметно простому человеку.
Среди прочего, компьютерная программа может заметить, что на фотографии лицо человека было приставлено к телу кого-то другого.
Microsoft протестировала свои технологии на примерно тысяче известных фейковых видео в интернете, а затем сравнила результаты с еще более обширным исследованием Facebook.
Нина Шик, автор книги о дипфейках, говорит, что пока видеодипфейки встречаются относительно редко, и большинство из них отличаются относительно плохим качеством, так как делается вручную. Тем не менее она приветствует инициативу Microsoft.
«Пока что в интернете получили распространение лишь порнографические видео женщин, выложенные там без их согласия. Но, судя по всему, фейковые видео и фото быстро распространятся в интернете в течение ближайших трех или пяти лет, и необходимо уже сейчас разработать методы борьбы с этим», — говорит она.
«Но по мере того, как совершенствуются технологии распознавания, совершенствуются и возможности манипулирования. Поэтому не будет такого, что Microsoft выпустит какую-нибудь одну программу, которая сможет выявлять все виды манипуляций», — считает Нина Шик.
«Отпечатки пальцев«
Microsoft признает, что проблема реальна.
В краткосрочной перспективе компания надеется, что уже разработанная ей программа способна выявить дипфейки, которые могут появиться в преддверии ноябрьских президентских выборов в США.
Microsoft не публикует свою программу, она предоставила ее лишь компании-посреднику, которая бесплатно предоставляет свой анализ агентствам новостей и политическим движениям.
Это делается для того, чтобы скрыть от злоумышленников компьютерный код, вычисляющий их действия.
В более долгосрочной перспективе Microsoft объединяется с Би-би-си и другими новостными организациями для реализации инициативы Project Origin, которая позволит маркировать онлайн-контент так, чтобы можно было автоматически выявлять манипуляции с материалами в интернете.
Microsoft намерен сделать это двухступенчатым процессом.
Первой стадией стало создание инструмента, позволяющего добавлять к публикациям в интернете цифровые «отпечатки пальцев» в виде сертификатов и хэш-функций, добавляемых к метаданным.
Вторая стадия — создание читающей программы, определяющей, изменились ли эти «отпечатки» из-за манипуляций с контентом.
Microsoft заявляет, что люди смогут пользоваться этой программой в виде обычного расширения браузера и смогут проверять, является ли сообщение оригинальным и кто его опубликовал.
