Anthropic видаляє прихований трекер Claude Code після скарг на приватність

Anthropic видалив приховану систему відстеження з Claude Code після того, як дослідник Thereallo виявив у червні, що AI-асистент програмування використовував нерозголошені маркери для ідентифікації місцезнаходження користувачів, використання проксі та можливих зв’язків із китайськими AI-лабораторіями. Функція вбудовувала сигнали в системні запити для позначення користувачів, яких Anthropic вважав такими, що обходять обмеження або намагаються отримати можливості моделі. Відкриття сталося на тлі того, як Anthropic тисне на законодавців, щоб вони посилили боротьбу з несанкціонованим копіюванням передових AI-моделей, після звинувачень у лютому, що китайські AI-розробники використовували шахрайські акаунти для отримання мільйонів відповідей Claude.

Дослідник виявляє маркери Unicode та закодовані списки доменів у системних запитах

Thereallo виявив, що Claude Code приховував сигнали відстеження всередині системних запитів, використовуючи маркери Unicode та закодовані списки доменів, а не розкриваючи систему через документацію чи примітки до релізу. Дослідник зазначив, що Anthropic, схоже, намагався виявити API-реселерів, несанкціоновані шлюзи Claude Code та канали атак дистиляції моделей. Користувацький ANTHROPIC_BASE_URL, що вказував на відомий домен реселера, слугував корисним сигналом, як і ім’я хоста, що містило deepseek або zhipu.

Thereallo розкритикував метод впровадження, водночас визнаючи причини безпеки. «Це не зловмисна функція, але це дивний вибір для інструменту розробника, який вимагає довіри», — написав Thereallo.

Інженер Anthropic підтверджує впровадження в березні та заплановане видалення

Після того, як трекер був розкритий в інтернеті, інженер Anthropic Thariq Shihipar написав у X, що функція була запроваджена в березні як експеримент для припинення зловживання акаунтами несанкціонованими реселерами та захисту Claude від атак дистиляції. Шіхіпар заявив минулого тижня, що з березня команда розробила сильніші заходи захисту. «Ми об’єднали [pull request], і це має бути повністю відкатано в завтрашньому релізі», — написав Шіхіпар.

Alibaba забороняє Claude Code через побоювання щодо атак дистиляції

На початку цього місяця Alibaba заборонила співробітникам використовувати Claude Code, назвавши інструмент програмним забезпеченням «високого ризику» через проблеми безпеки. У лютому Anthropic звинуватив китайських AI-розробників DeepSeek, Moonshot AI та MiniMax у використанні шахрайських акаунтів для отримання мільйонів відповідей Claude для навчання конкуруючих моделей. Ці заяви викликали критику з боку опонентів, які ставили під сумнів, чим ця практика відрізняється від методів, що використовуються в усій AI-індустрії.

У квітні Ілон Маск засвідчив, що xAI «частково» використовував моделі OpenAI під час навчання Grok, назвавши дистиляцію ширшою галузевою практикою. У червні генеральний директор Anthropic Даріо Амодеї закликав Конгрес посилити захист від іноземного вилучення AI після того, як заявив, що оператори, пов’язані з Alibaba, згенерували 28,8 мільйона обмінів Claude, використовуючи майже 25 тисяч шахрайських акаунтів.

Поширені запитання

Що Anthropic видалив із Claude Code у червні? Anthropic видалив приховану систему відстеження з Claude Code після того, як дослідник Thereallo виявив у червні, що вона використовувала нерозголошені маркери Unicode та закодовані списки доменів у системних запитах для ідентифікації місцезнаходження користувачів, використання проксі та можливих зв’язків із китайськими AI-лабораторіями.

Чому Anthropic запровадив функцію відстеження в Claude Code? Інженер Anthropic Thariq Shihipar заявив, що функція була запроваджена в березні як експеримент для припинення зловживання акаунтами несанкціонованими реселерами та захисту Claude від атак дистиляції, коли вихідні дані однієї AI-системи використовуються для навчання іншої моделі.

Які дії вжив Alibaba щодо Claude Code? На початку цього місяця Alibaba заборонила співробітникам використовувати Claude Code, визначивши інструмент як програмне забезпечення «високого ризику» через проблеми безпеки, пов’язані з дистиляцією AI-моделей та вилученням даних.