Пока Китай восстанавливается после последствий тайфуна «Нул», обрушившегося на страну в минувшие выходные, официальные лица остро осознают, что им, вероятно, предстоит столкнуться с дополнительной проблемой: опасно вводящими в заблуждение видеороликами, созданными с помощью искусственного интеллекта (ИИ). Об этом пишет Би-би-си.
Мощные штормы и наводнения последних нескольких месяцев привели к тому, что социальные сети заполонили фейковые видеоролики, в том числе изображения плавающих в паводковых водах тел, ложные описания сильных наводнений в районах, которые на самом деле не пострадали, и другие материалы с откровенно ложной информацией о мерах реагирования на чрезвычайные ситуации.
В некоторых районах видеоролики, содержащие ложную информацию об отключениях электроэнергии, побудили жителей в панике скупать предметы первой необходимости.
Другие видеоролики основаны на реальных событиях.
В начале июля наводнение в городе Хэнчжоу, провинция Гуанси, привело к побегу сотен змей с фермы по разведению этих животных. Затем были опубликованы фейковые фотографии, на которых изображены крокодилы, выпущенные в реку.
В и без того напряженной и опасной ситуации, включающей массовую эвакуацию и сложные спасательные операции, власти стремятся избежать паники. Теперь они опасаются, что технологии искусственного интеллекта, в которые Китай вкладывает миллиарды долларов, предоставляют простые и доступные инструменты, которые можно использовать для обмана населения.
«Многие из этих создателей контента используют новости о катастрофах, чтобы привлечь подписчиков, зная, что более сенсационный или преувеличенный контент соберет больше лайков и просмотров. Они намеренно фабрикуют информацию, чтобы привлечь внимание людей», — заявил Хуан Чжихуа, заместитель начальника отдела общественной безопасности в интернете Департамента полиции провинции Чжэцзян, китайским государственным СМИ.
В последние недели имели место аресты и наказания – от задержания в ожидании уголовного преследования до штрафов – за создание фальшивых отчетов и видеоконтента.
Однако эксперты предупреждают о надвигающемся беспрецедентном кризисе дезинформации.
В статье, опубликованной в газете Центральной партийной школы Коммунистической партии, профессор Чен Бин заявил: «Искусственный интеллект значительно снижает технические барьеры для создания ложной информации. Людям больше не требуются сложные технические навыки. Просто обратившись к инструментам ИИ, они могут быстро создавать убедительные тексты, изображения, аудио- и видеоматериалы… которые являются весьма реалистичными, но при этом полностью сфабрикованными, созданными в больших масштабах».
Профессор Гао Фупин из Восточно-Китайского университета политических наук и права заявил Би-би-си, что мотивы публикации подобного ложного контента варьируются от тех, кто делает это «для развлечения, не задумываясь о последствиях», до тех, кто хочет «привлечь трафик для личной выгоды» или тех, кто намеренно хочет «вызвать панику или социальные волнения».
«Некоторые пользователи считают, что онлайн-мир анонимен и не регулируется, или что их невозможно отследить», — сказал он.
Звучат призывы к тому, чтобы весь контент, созданный с помощью ИИ, был четко обозначен, но другие пользователи могут просто отредактировать материал, удалив эти пометки.
Профессор Сюй Сяоке из Пекинского педагогического университета сообщил Би-би-си, что также необходимы более активные усилия по проверке географического местоположения по временным меткам и проверке источников изображений.
«Тем не менее, я хотел бы также подчеркнуть, что технологии обнаружения все еще отстают от технологий генерации. Мы постоянно играем в кошки-мышки. Поэтому не следует предполагать, что одни только технологии могут идентифицировать контент, сгенерированный ИИ, одним нажатием кнопки», — предупредил он.
Китайское правительство активно внедряет искусственный интеллект в своем стремлении стать ведущей технологической сверхдержавой.
В 2017 году было объявлено, что искусственный интеллект станет «главной движущей силой» прогресса страны.
В компании, занимающиеся искусственным интеллектом, вливаются огромные суммы денег в поисках дополнительных инвестиций, что подпитывает внутреннюю конкуренцию. Государственное информационное агентство Синьхуа сообщает, что в стране насчитывается более 6000 «компаний, занимающихся искусственным интеллектом».
В таких условиях профессор Сюй считает, что Китаю необходимо создать «надежную информационную инфраструктуру». Это может включать в себя официальные правительственные системы раннего предупреждения и интерфейсы для реагирования на стихийные бедствия, к которым смогут получить доступ новостные организации.
Однако были случаи, когда официальные источники, включая контролируемые правительством СМИ, намеренно преуменьшали масштабы катастроф, что привело к некоторому недоверию общественности к этому региону.
В начале июля местных журналистов попросили «смягчить» формулировки при описании крупного прорыва в стене плотины Люлань близ Нанина, назвав его «отверстием» или «пробелом».
Власти, по всей видимости, пытались замять инцидент, представив его в менее тревожном свете, но последствия оказались смертельными. Прорыв воды через разрушенную плотину привел к гибели по меньшей мере 26 человек ниже по течению.
И это не единичный случай.
В 2021 году местные чиновники были арестованы по обвинению в сокрытии или занижении данных о 139 смертях в провинции Хэнань.
Подобные инциденты привели к вакууму доверия, что значительно облегчило злоумышленникам распространение фейкового контента.
Однако полиция призывает людей доверять аккредитованным источникам во время чрезвычайных ситуаций.
«При получении информации о стихийных бедствиях из неизвестного источника следует относиться к ней со скептицизмом и полагаться на официальные заявления», — сказал Гао Кай из Бюро общественной безопасности Нинбо.
Он также попытался заверить общественность, что распространители ложной информации будут пойманы, заявив, что «интернет — это не зона беззакония. Органы общественной безопасности будут и дальше наращивать усилия по борьбе с незаконной деятельностью в интернете».
«Мы создали специализированную целевую группу для тщательного мониторинга социальных сетей, особенно платформ для коротких видеороликов. Они будут оперативно расследовать и пресекать подобные случаи, применяя очень строгие меры».
Наказание может варьироваться от штрафа до семи лет лишения свободы, если последствия распространения дезинформации окажутся достаточно серьезными.
23 июля Управление по киберпространству Китая также объявило о начале общенациональной кампании по борьбе с фейковым контентом в интернете, связанным с наводнениями и другими стихийными бедствиями, поручив местным отделениям сосредоточиться на выявлении сфабрикованных данных, злонамеренного редактирования, постановочных сцен, неверно приписываемых исторических событий и лиц, выдающих себя за чиновников. Кроме того, оно призвало платформы социальных сетей усилить проверку публикуемого ими контента.
Профессор Гао считает, что «решение заключается в сочетании просвещения населения и правоохранительной деятельности», и говорит, что «необходимо освещать реальные случаи, когда люди были наказаны».
Он добавил, что «вред, причиняемый фейковым контентом, созданным с помощью ИИ, в конечном итоге является результатом того, как люди выбирают использовать эту технологию, а не самой технологии», и отметил, что существующих законов достаточно для решения этой проблемы.
Однако другие не столь уверены. Профессор Чен отметил, что «технологии искусственного интеллекта продолжают развиваться гораздо быстрее, чем правовые рамки. По мере возникновения новых правовых вопросов дезинформация об ИИ остается серьезной проблемой».
Юрист Питер Панг, работающий в Шанхае и Вашингтоне, говорит, что юристы по всему миру наблюдают резкий рост числа дел, связанных с этими вопросами.
Он считает, что компании, создающие приложения на основе искусственного интеллекта, и платформы, используемые для публикации фейковых видеороликов и других материалов, должны нести юридическую ответственность наряду с теми, кто распространяет дезинформацию.
«Первую линию защиты должны занять платформы, потому что именно они способствуют распространению информации. Именно они позволяют этому происходить», — сказал он Би-би-си.
Он привёл гипотетический пример человека, который сбивает пешехода, охваченного паникой из-за фейкового сообщения в социальных сетях.
«Создатель видео может сказать: „Вы сбили человека. Это ваша проблема. Я этого не делал“. Но давайте подумаем. Вы создали почву для реакции людей. Если вы вызвали эту панику, вы должны нести ответственность за последствия, которые возникли».
Профессор Сюй предупреждает, что «сгенерированная искусственным интеллектом дезинформация, вероятно, будет расти не только по объему, но и по скорости распространения».
В перспективе политические выборы, чрезвычайные ситуации в области здравоохранения, вооруженные конфликты, стихийные бедствия и проблемы, затрагивающие средства к существованию людей, скорее всего, станут зонами высокого риска для дезинформации, генерируемой искусственным интеллектом.
«Вместо того чтобы ждать, пока ложная информация распространится, прежде чем пытаться её сдержать, правительствам и платформам следует готовиться заранее».
