Peneliti Menggunakan Injeksi Prompt untuk Memblokir Serangan AI; Pengujian Menunjukkan Penurunan 57% hingga 5% dalam Tingkat Akses Administrator

Peneliti dari Tracebit mengatakan pada hari Senin bahwa mereka menemukan teknik pertahanan yang disebut context bombing, yang menyisipkan prompt injection—perintah terlarang yang memicu pagar pengaman keselamatan AI—bersama rahasia yang disimpan di AWS untuk memblokir serangan dari agen AI. Ketika model penyerang menemui prompt ini, ia berhenti mengikuti instruksi aslinya dan menolak untuk melanjutkan.

Tracebit menguji context bombing pada lima model terkemuka (Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro, dan Kimi 2.6) di lingkungan simulasi AWS menggunakan 152 percobaan serangan. Hasilnya menunjukkan bahwa menempatkan context bomb pada rahasia umpan menurunkan tingkat keberhasilan saat agen memperoleh akses admin penuh dari 57% menjadi 5%, serta kompromi penuh dari 36% menjadi 1%. Opus 4.8, agen paling kapabel yang diuji, berhasil mendapatkan akses admin dalam 93% percobaan tanpa pertahanan, namun gagal dalam setiap percobaan ketika dihadapkan pada context bomb.