Anthropic заявила, что за последние восемь месяцев выявила несколько масштабных схем, в которых китайские ИИ-компании использовали Claude для получения данных и воспроизведения возможностей модели. В числе компаний, чью активность обнаружила Anthropic, названы Alibaba, Moonshot, DeepSeek и Xiaomi, пишет Reuters.
Крупнейшую атаку Anthropic связала с Alibaba. По данным компании, с мая по июль через более чем 3500 аккаунтов было проведено свыше 151 млн транзакций с Claude, а в пиковые дни их число достигало почти 3 млн. Полученные ответы, предположительно, использовались для обучения и улучшения модели Qwen.
Речь идет о так называемой дистилляции — методе, при котором более компактную модель обучают на результатах работы более крупной системы. Такой подход позволяет получить часть ее возможностей без сопоставимых затрат на разработку и обучение.
Anthropic также заявила, что Moonshot и DeepSeek могли использовать Claude для обработки реальных диалогов пользователей своих чат-ботов. Ответы модели предположительно собирались в качестве обучающих данных. В компании считают, что подобные схемы позволяют ИИ-разработчикам быстрее улучшать собственные модели за счет чужой инфраструктуры.
По словам Anthropic, злоупотребления платформой становятся все сложнее: ИИ используют уже не только для отдельных запросов, но и в многоагентных системах, способных самостоятельно выполнять большие цепочки задач. Компания заявила, что пресекла выявленные активности и продолжает отслеживать попытки массового извлечения данных и возможностей Claude.
Ранее пользователи платной версии Claude столкнулись с проблемой: токены начали расходоваться, даже когда они не пользовались сервисом. Anthropic связала часть атак с вредоносным ПО, которое крадет пароли и данные авторизации.
