Функция поиска в интернете, которая доступна в чат-боте ChatGPT, уязвима для обмана пользователей. Об этом сообщает The Guardian со ссылкой на собственное тестирование сервиса.
Специалисты проверили, может ли ChatGPT индексировать сайты и отдельные страницы в сети, на которых есть скрытый контент. Это различная информация, которая незаметна для пользователя без дополнительных манипуляций. При этом ее легко могут обнаружить поисковики и, как оказалось, даже ИИ-сервисы.
Эксперты создали шаблонный веб-сайт, который выглядит как страница, посвященная некой камере. Затем они дали ссылку ChatGPT, чтобы ИИ-модель определила, стоит ли покупать такое устройство. В случае без скрытого текста нейросеть дала сбалансированный ответ. Она отметила как положительные, так и негативные стороны продукта, которые могут оттолкнуть покупателей.
Абсолютно другой результат был в случае, когда на страницу добавили скрытый текст с инструкциями, которые заставляли ChatGPT выдавать только позитивную характеристику. Поисковик не показывал пользователю негативную информацию даже при наличии отрицательных отзывов на странице. Аналогично происходило и в случае поддельных положительных комментариев, которые были скрыты.
Недостаток ChatGPT может быть опасным для пользователей. Мошенники и недобросовестные будут пользоваться уязвимостью, чтобы обманывать их или продвигать свои услуги и продукты нечестным образом. Неизвестно, исправят ли разработчики ситуацию в ближайшее время. В OpenAI не стали комментировать запрос The Guardian. Эксперты по кибербезопасности добавили, что не всегда следует доверять ответам ИИ-сервисов.
Функция поиска в ChatGPT стала доступна для всех пользователей в начале декабря 2024 года. Это одно из масштабных обновлений, которое разработчики представили в преддверии Рождества. В OpenAI также выпустили ИИ-генератор видео и представили официальный номер телефона, по которому можно связаться с ChatGPT. Но главным анонсом стала модель o3, которая оказалась самой мощной нейросетью в истории компании.
