Американский гигант в области искусственного интеллекта (ИИ) Anthropic обвинил китайскую компанию электронной коммерции и технологий Alibaba в «наглом» и «незаконном» извлечении возможностей из ее модели ИИ Claude, пишет Би-би-си.
В письме, направленном двум членам Конгресса США, компания из Сан-Франциско заявила, что операторы, связанные с Alibaba, совершили почти 29 миллионов обменов с Клодом, используя тысячи мошеннических аккаунтов, в рамках того, что она назвала крупнейшей кампанией по извлечению средств в своем роде.
Организация Anthropic призвала Конгресс наказать компании, стоящие за подобными атаками, и усилить меры по предотвращению кражи американских технологий.
BBC обратилась за комментариями в компанию Alibaba и запросила у Anthropic более подробную информацию.
В письме организации Anthropic от 10 июня, адресованном сенаторам США Тиму Скотту и Элизабет Уоррен, компания Alibaba, акции которой котируются на Нью-Йоркской фондовой бирже, обвиняется в проведении «крупнейшей кампании по незаконному присвоению потенциала Клода».
По данным Anthropic, кампания проводилась с помощью так называемых «дистилляционных атак», в ходе которых извлекались ответы из более сильной модели ИИ для обучения более слабой.
По данным Anthropic, связанные с Alibaba операторы нацелились на наиболее ценные возможности Claude, включая его способность решать более длительные и сложные задачи, а также его подход к принятию решений.
По данным компании, подобные атаки осуществляются в «промышленных масштабах», чтобы позволить китайским компаниям извлекать и переупаковывать возможности американского ИИ, выдавая их за свои собственные.
В письме также упоминались другие предполагаемые нападения, которые, по мнению компании Anthropic, представляли угрозу для американских военных.
«Атаки с использованием метода дистилляции превращают сотни миллиардов долларов американских инвестиций и [исследований и разработок] в масштабные субсидии для наших геополитических конкурентов», — заявила компания Anthropic.
В нем цитировались заявления Министерства обороны США о том, что Alibaba и ряд крупных компаний, таких как автопроизводитель BYD и технологическая компания Baidu, связаны с китайскими военными .
Компании отрицают какие-либо подобные обвинения, а Alibaba на этой неделе подала в суд на правительство США, пытаясь добиться исключения своего названия из черного списка Пентагона.
Ранее американские разработчики обвиняли китайских конкурентов в использовании атак методом дистилляции для обучения своих моделей, чтобы те могли конкурировать с американскими технологиями искусственного интеллекта, но при этом обходились значительно дешевле.
Ранее компания OpenAI также обвиняла китайские группы в использовании аналогичной практики.
Anthropic — ведущий разработчик ИИ, и вместе с создателем ChatGPT, компанией OpenAI, она готовится к впечатляющему дебюту на фондовом рынке , который может сделать ее одной из самых оценочных компаний в мире.
Однако некоторые из более продвинутых моделей Anthropic, такие как Mythos, вызвали опасения в сфере кибербезопасности из-за их способности выявлять уязвимости в компьютерных системах.
