Anthropic Menghapus Pelacak Claude Code Tersembunyi Setelah Kekhawatiran Privasi

Anthropic menghapus sistem pelacakan tersembunyi dari Claude Code setelah peneliti keamanan Thereallo menemukan pada bulan Juni bahwa asisten coding AI tersebut menggunakan penanda yang tidak diungkapkan untuk mengidentifikasi lokasi pengguna, penggunaan proxy, dan kemungkinan kaitan dengan laboratorium AI China. Fitur ini menyematkan sinyal dalam prompt sistem untuk menandai pengguna yang menurut Anthropic melanggar pembatasan atau berusaha mengekstrak kemampuan model. Penemuan ini terjadi saat Anthropic mendorong pembuat undang-undang untuk menindak penyalinan tidak sah model AI frontier, menyusul tuduhan pada bulan Februari bahwa pengembang AI China menggunakan akun palsu untuk mengekstrak jutaan respons Claude.

Peneliti Mengungkap Penanda Unicode dan Daftar Domain yang Dienkode dalam Prompt Sistem

Thereallo menemukan bahwa Claude Code menyembunyikan sinyal pelacakan di dalam prompt sistem menggunakan penanda Unicode dan daftar domain yang dienkode, bukannya mengungkapkan sistem tersebut melalui dokumentasi atau catatan rilis. Peneliti mencatat bahwa Anthropic tampaknya berusaha mendeteksi penjual kembali API, gateway Claude Code yang tidak sah, dan pipa serangan distilasi model. ANTHROPIC_BASE_URL khusus yang mengarah ke domain penjual kembali yang dikenal menjadi sinyal yang berguna, demikian juga nama host yang mengandung deepseek atau zhipu.

Thereallo mengkritik metode implementasi sambil mengakui alasan keamanan. "Ini bukan fitur jahat, tetapi pilihan yang aneh untuk alat pengembang yang meminta kepercayaan," tulis Thereallo.

Insinyur Anthropic Konfirmasi Implementasi Maret dan Rencana Penghapusan

Setelah pelacak terungkap secara online, insinyur Anthropic Thariq Shihipar mengatakan di X bahwa fitur tersebut diperkenalkan pada bulan Maret sebagai eksperimen untuk menghentikan penyalahgunaan akun oleh penjual kembali yang tidak sah dan melindungi Claude dari serangan distilasi. Shihipar menyatakan minggu lalu bahwa tim telah menerapkan mitigasi yang lebih kuat sejak Maret. "Kami menggabungkan [pull request] dan ini akan sepenuhnya dikembalikan dalam rilis besok," tulis Shihipar.

Alibaba Melarang Claude Code di Tengah Kekhawatiran Serangan Distilasi

Awal bulan ini, Alibaba melarang karyawan menggunakan Claude Code, menyebut alat tersebut sebagai perangkat lunak "berisiko tinggi" karena masalah keamanan. Pada bulan Februari, Anthropic menuduh pengembang AI China DeepSeek, Moonshot AI, dan MiniMax menggunakan akun palsu untuk mengekstrak jutaan respons Claude guna melatih model pesaing. Klaim tersebut mendapat penolakan dari kritikus yang mempertanyakan bagaimana praktik ini berbeda dari metode yang digunakan di seluruh industri AI.

Pada bulan April, Elon Musk bersaksi bahwa xAI "sebagian" menggunakan model OpenAI saat melatih Grok, menyebut distilasi sebagai praktik industri yang lebih luas. Pada bulan Juni, CEO Anthropic Dario Amodei mendesak Kongres untuk memperkuat perlindungan terhadap ekstraksi AI asing setelah menuduh operator yang terkait dengan Alibaba menghasilkan 28,8 juta pertukaran Claude menggunakan hampir 25.000 akun palsu.

FAQ

Apa yang dihapus Anthropic dari Claude Code pada bulan Juni? Anthropic menghapus sistem pelacakan tersembunyi dari Claude Code setelah peneliti Thereallo menemukan pada bulan Juni bahwa sistem tersebut menggunakan penanda Unicode yang tidak diungkapkan dan daftar domain yang dienkode dalam prompt sistem untuk mengidentifikasi lokasi pengguna, penggunaan proxy, dan kemungkinan kaitan dengan laboratorium AI China.

Mengapa Anthropic menerapkan fitur pelacakan di Claude Code? Insinyur Anthropic Thariq Shihipar menyatakan fitur tersebut diperkenalkan pada bulan Maret sebagai eksperimen untuk menghentikan penyalahgunaan akun oleh penjual kembali yang tidak sah dan melindungi Claude dari serangan distilasi, di mana keluaran satu sistem AI digunakan untuk melatih model lain.

Tindakan apa yang diambil Alibaba terkait Claude Code? Awal bulan ini, Alibaba melarang karyawan menggunakan Claude Code, menetapkan alat tersebut sebagai perangkat lunak "berisiko tinggi" karena masalah keamanan terkait distilasi model AI dan ekstraksi data.