В ближайшие несколько лет социальные сети могут столкнуться с атаками продвинутых ботов, управляемых нейросетевыми технологиями. Они будут представлять собой подобие обычных пользователей. Ситуация грозит распространением массовой ложной информации или другими последствиями.
Ученые предполагают, что ИИ-агенты смогут вмешиваться в политические процессы и в целом влиять на общественное сознание. По прогнозам в ближайшие годы рои ботов под управлением нейросетей могут использоваться в качестве оружия в информационных войнах.
Исследование показывает, что доступные средствами защиты от таких напалков могут быть системы анализа трафика в реальном времени, которые позволяют выявлять статистические аномалии. Дополнительные изыскания о поведении ботов также позволят минимизировать риски, опасные не только для сервисов, но и для населения.
По словам экспертов, новая эра знаменует собой прямое сотрудничество между человеком и искусственным интеллектом (ИИ). В частности, контакт проходит через голосовые или текстовые инструкции. Сам же сдвиг происходит сразу в двух направлениях, а именно как в программном обеспечении в Китае, так и аппаратном обеспечении в Кремниевой долине.
Также происходит изменение тактики распространения. К примеру, магазины приложений становятся магазинами агентов. Вместо загрузки приложений пользователи «нанимают» навыки, отдавая задачи агентам. Так пользователь может дать агенту Expedia задачу бронировать поездки.
Китайские технологические гиганты (Alibaba, Tencent, ByteDance) также стали активно внедрять «агентную коммерцию». В США Apple и OpenAI уже разрабатывают аппаратные средства, которые ориентированы исключительно на голосовое управление. Таким образом, по словам журналистов, технологии могут стать похожими на домашних животных, которыми можно командовать.
