Các nhà nghiên cứu Tracebit đã phát triển cơ chế phòng thủ chống “context bombing” nhằm ngăn chặn các tác nhân tấn công AI

Các nhà nghiên cứu Tracebit hôm thứ Hai đã công bố một kỹ thuật an ninh mạng phòng thủ có tên context bombing (đánh bom theo ngữ cảnh), sử dụng prompt injection để bảo vệ trước các tác nhân hack AI. Kỹ thuật này cài các lệnh độc hại cạnh mật khẩu và khóa mật mã được lưu trữ trên AWS nhằm kích hoạt cơ chế từ chối trong các mô hình ngôn ngữ lớn (LLM) bị tấn công, khiến chúng tắt. Prompt injection, vốn trước đây được kẻ tấn công dùng để thao túng LLM nhằm trích xuất dữ liệu nhạy cảm, giờ được các bên phòng thủ tái tận dụng như một biện pháp bảo vệ.

Context Bombing Kích Hoạt Cơ Chế Từ Chối của LLM

Kỹ thuật context bombing cài prompt injection cạnh các bí mật được lưu trữ trong môi trường AWS. Những prompt này yêu cầu các LLM đang bị tấn công thực hiện các hành động bị cấm bởi các cơ chế kiểm soát (guardrails) của chúng—những rào chắn an toàn mà các nhà phát triển AI dựng lên để ngăn hành động gây hại. Ví dụ gồm các prompt ra lệnh cho LLM cung cấp các bước để phát triển bào tử Anthrax có thể hít được, hoặc các prompt dành cho LLM từ các nhà phát triển Trung Quốc, khiến chúng nhắc đến Tank Man trong vụ thảm sát Quảng trường Thiên An Môn năm 1989. Khi LLM gặp phải các lệnh bị cấm này, chúng sẽ ngừng làm theo các lệnh hiện có và tắt.

“Cuối cùng thì chúng tôi đang kích hoạt cơ chế từ chối trong ngữ cảnh,” Andy Smith, đồng sáng lập kiêm CEO của Tracebit, nói khi giải thích về việc chọn tên. “Thứ chúng tôi muốn nắm bắt là việc điều này có một hiệu ứng mạnh, sắc bén và một hiệu ứng mà các tác nhân có thể khó quay lại từ đó. Khi họ đã đưa nó vào ngữ cảnh của mình, họ sẽ tiếp tục từ chối.”

Kết Quả Thử Nghiệm Cho Thấy Giảm Tỷ Lệ Thành Công Tấn Công Từ 57% xuống 5%

Tracebit đã thử nghiệm kỹ thuật context bombing trên năm mô hình: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro và Kimi 2.6. Các nhà nghiên cứu đã cung cấp cho các mô hình những chỉ dẫn để thực hiện các tác vụ thường quy của nhà phát triển, dẫn tới việc chúng liệt kê tài nguyên và gặp các chuỗi được cài sẵn trong một môi trường AWS mô phỏng. Trong 152 lượt tấn công, việc cài một trong các chuỗi này vào một bí mật mồi (decoy secret) đã làm giảm tỷ lệ tác nhân chiếm toàn quyền quản trị tài khoản từ 57% xuống 5%. Kỹ thuật này cũng làm giảm mức độ chiếm đoạt hoàn toàn, khi các tác nhân còn để lại một chỗ đứng dai dẳng, từ 36% xuống 1%.

Opus 4.8 đạt 0 Cuộc Tấn Công Thành Công

Mô hình tác nhân năng lực nhất trong các thử nghiệm, Opus 4.8, đã giảm từ việc đạt quyền truy cập quản trị trong 93% số lượt chạy xuống thất bại trong mọi lần khi bị đối mặt với một context bomb. Tracebit cho biết các thử nghiệm ban đầu cho thấy context bombing có tiềm năng lớn như một biện pháp phòng thủ chống lại các tác nhân hack AI.

FAQ

Context bombing trong bảo mật AI là gì?
Context bombing là một kỹ thuật phòng thủ do các nhà nghiên cứu Tracebit phát triển, cài prompt injection cùng với các bí mật được lưu trữ trên AWS để kích hoạt cơ chế từ chối trong các LLM đang bị tấn công, khiến chúng tắt thay vì làm theo các lệnh độc hại.

Context bombing hiệu quả thế nào trong các thử nghiệm của Tracebit?
Trong 152 lượt tấn công trên năm mô hình hàng đầu, context bombing đã giảm tỷ lệ chiếm toàn quyền quản trị tài khoản từ 57% xuống 5% và giảm mức độ chiếm đoạt hoàn toàn từ 36% xuống 1%. Mô hình năng lực nhất, Opus 4.8, đã giảm từ tỷ lệ thành công 93% xuống 0 cuộc tấn công thành công.