Anthropic заявила, что операторы, связанные с Alibaba, провели крупнейшую известную кампанию по дистилляции модели ИИ против своего чат-бота Claude в письме от 10 июня лидерам Комитета по банковским делам Сената. Компания утверждала, что операторы, связанные с Alibaba и ее лабораторией Qwen AI, сгенерировали более 28,8 миллиона взаимодействий с Claude в период с 22 апреля по 5 июня, используя почти 25 000 поддельных аккаунтов. Anthropic представила усилия по дистилляции как вопрос национальной безопасности, который может ускорить развитие военных и кибернетических AI-возможностей Китая. Письмо появилось на фоне усиления усилий Вашингтона по защите лидерства США в области ИИ с помощью расширенных кибербезопасных инициатив и экспортного контроля.
Anthropic утверждает, что 28,8 миллиона взаимодействий с Claude использовались в кампании по дистилляции
В письме от 10 июня председателю Комитета Сената по банковским делам, жилищному и городскому развитию Тиму Скотту и старшему члену Элизабет Уоррен Anthropic утверждала, что поддельные аккаунты не представляли реальных, органических пользователей. Компания заявила, что операции были нацелены на возможности Claude в области агентного рассуждения, программной инженерии и долгосрочного планирования, что позволяло конкурентам воспроизводить продвинутое поведение модели без затрат на обучение передовой системы ИИ.
«Помимо масштаба, эта кампания поражала своим наглым характером», — написала Anthropic. «Alibaba зарегистрирована на Нью-Йоркской фондовой бирже, ведет бизнес-операции в Соединенных Штатах и подотчетна американским инвесторам и регуляторам».
Anthropic заявила, что кампания вышла за рамки проблем интеллектуальной собственности, представив крупномасштабную дистилляцию модели как вопрос национальной безопасности. «Когда лаборатории КНР дистиллируют эти возможности из американских моделей, они получают доход от американских инвестиций, не неся затрат или рисков, связанных с обучением передовых моделей ИИ», — написала Anthropic. «Это переворачивает экономическую логику, лежащую в основе американского лидерства в области ИИ, превращая исследования и разработки, вычислительные мощности и другие американские инвестиции стоимостью в миллиарды долларов в субсидию для наших конкурентов».
Письмо развивает заявления Anthropic от февраля о том, что китайские разработчики ИИ DeepSeek, Moonshot AI и MiniMax сгенерировали более 16 миллионов взаимодействий с Claude, используя примерно 24 000 поддельных аккаунтов.
Anthropic призывает Конгресс расширить экспортный контроль и обмен разведданными
Anthropic призвала законодателей расширить обмен разведданными между разработчиками передовых ИИ и правительством США, уточнить антимонопольные правила, чтобы позволить компаниям ИИ обмениваться информацией об атаках дистилляции, усилить экспортный контроль на передовые чипы и вычислительные мощности для ИИ, закрыть лазейки, позволяющие китайским компаниям получать доступ к зарубежным центрам обработки данных, и ввести штрафы для компаний, ответственных за крупномасштабное извлечение моделей.
Представитель Anthropic сообщил Decrypt: «Мы считаем, что борьба с угрозой незаконной дистилляции требует скоординированных действий правительства и промышленности, и мы продолжим работать с Конгрессом и администрацией для поддержания лидерства Америки в области ИИ».
Письмо появилось, когда законодатели рассматривают законопроекты, направленные против несанкционированного доступа к передовым моделям ИИ США. Ранее в этом месяце президент Дональд Трамп подписал указ, расширяющий инициативы в области кибербезопасности на основе ИИ, после того как отложил эту меру из-за опасений, что она может ослабить конкурентную позицию Америки по отношению к Китаю.
Дебаты в индустрии по поводу практик дистилляции моделей ИИ усиливаются
Заявления вызвали критику со стороны наблюдателей, которые утверждали, что компании ИИ используют аналогичные методы при обучении своих собственных систем. Anthropic возразила, что обычная дистилляция является легитимным методом для создания меньших и более дешевых моделей, в то время как несанкционированное извлечение возможностей передовых моделей через мошеннический доступ нарушает ее условия обслуживания.
В апреле Илон Маск дал показания в федеральном суде, что xAI «частично» использовала модели OpenAI при обучении Grok, подчеркивая, что дистилляция является устоявшейся отраслевой практикой — даже несмотря на то, что компании спорят о том, где заканчивается легитимное обучение модели и начинается несанкционированное извлечение.
FAQ
Что утверждала Anthropic в своем письме от 10 июня в Конгресс?
Anthropic утверждала, что операторы, связанные с Alibaba, провели крупнейшую известную кампанию по дистилляции модели ИИ против своего чат-бота Claude, сгенерировав более 28,8 миллиона взаимодействий в период с 22 апреля по 5 июня, используя почти 25 000 поддельных аккаунтов.
Почему Anthropic считает дистилляцию моделей ИИ вопросом национальной безопасности?
Anthropic представила крупномасштабную дистилляцию моделей как вопрос национальной безопасности, поскольку она может ускорить развитие военных и кибернетических AI-возможностей Китая, одновременно сужая технологическое лидерство Соединенных Штатов. Компания заявила, что дистилляция позволяет конкурентам получать доход от американских инвестиций, не неся затрат на обучение передовых моделей ИИ.
Какие изменения в политике рекомендует Anthropic Конгрессу?
Anthropic призвала законодателей расширить обмен разведданными между разработчиками ИИ и правительством США, уточнить антимонопольные правила, чтобы разрешить обмен информацией об атаках дистилляции, усилить экспортный контроль на передовые чипы ИИ, закрыть лазейки, позволяющие китайским компаниям получать доступ к зарубежным центрам обработки данных, и ввести штрафы для компаний, ответственных за крупномасштабное извлечение моделей.
