Các nhà nghiên cứu cảnh báo rằng các tác nhân AI có thể trở thành mạng bot thông qua HalluSquatting với tỷ lệ ảo giác 85%

Các nhà nghiên cứu từ Đại học Tel Aviv, Technion và Intuit đã trình bày một kỹ thuật tấn công mới gọi là "Adversarial HalluSquatting" khai thác các ảo giác do AI tạo ra để xâm phạm máy tính. Kỹ thuật này lừa các tác nhân AI tin vào các kho phần mềm và công cụ giả mạo chứa các lệnh độc hại, có thể cho phép kẻ tấn công xây dựng mạng botnet dựa trên AI.

Kết quả thử nghiệm cho thấy tỷ lệ ảo giác của AI đạt 85% trong các tình huống sao chép kho và 100% trong các bài kiểm tra cài đặt kỹ năng đối với các trợ lý lập trình như Cursor, GitHub Copilot, Gemini CLI và OpenClaw. Các nhà nghiên cứu cảnh báo phương pháp này có thể dẫn đến thực thi mã từ xa khi các tác nhân hành động dựa trên thông tin không xác thực mà không xác nhận nguồn gốc hợp lệ. HalluSquatting tương tự như chiến thuật typosquatting, nhưng nhắm vào các lỗi do mô hình AI mắc phải thay vì lỗi gõ của con người.