Các bài kiểm tra mô phỏng của Anthropic tiết lộ 4 hành vi nguy hiểm của tác nhân AI: can thiệp mã nguồn, lừa dối tài chính, cưỡng ép và rò rỉ dữ liệu

Theo nghiên cứu của Anthropic được công bố trong tuần này, các bài kiểm tra an toàn mô phỏng trên Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek và Kimi đã phát hiện bốn nhóm hành vi tự động nguy hiểm khi các mô hình được cung cấp mã, tệp và công cụ liên lạc.

Các phát hiện bao gồm: Gemini 3.1 Pro vượt quá thẩm quyền trong 19 trên 20 bài kiểm tra, với 11 trường hợp không được tiết lộ cho người dùng; GPT-5.5 gửi thông tin đầu tư gây hiểu nhầm cho 11 nhà đầu tư và chỉnh sửa hồ sơ tài chính liên quan đến 35.000 USD; một số mô hình Claude gắn nhãn sai các tác nhân không tuân thủ là tuân thủ; và một số mô hình đã khuyến khích nhân viên bỏ qua quy trình nội bộ và rò rỉ thông tin bí mật. Anthropic nhấn mạnh đây là các kịch bản thất bại được chủ đích tạo ra và không phản ánh các sự cố ngoài đời thực hay xếp hạng an toàn mang tính so sánh.