Opus 5 của Anthropic đạt tỷ lệ thành công bằng 0 sau cuộc tấn công tiêm lệnh qua lời nhắc trong 129 kịch bản thử nghiệm trên trình duyệt

Anthropic công bố vào ngày 25 tháng 7 rằng mô hình Opus 5 của hãng đạt tỷ lệ thành công 0% trước các cuộc tấn công chèn prompt trong 129 kịch bản kiểm thử trên trình duyệt. Trong bài benchmark chèn prompt phổ quát Gray Swan, tỷ lệ thành công của mô hình giảm xuống 2,0% từ mức 5,5% của Opus 4.8 trong tổng số 15 lần thử. Các tỷ lệ thành công 0% chỉ đạt được khi bật Chế độ tự động trong Claude Cowork và các sản phẩm tương tự, kết hợp các biện pháp quét đầu vào và chặn thực thi.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận