Anthropic đã công bố nghiên cứu vào thứ Hai, phân tích cách trợ lý AI Claude của hãng thể hiện các giá trị khác nhau tùy thuộc vào phiên bản mô hình mà người dùng chọn và ngôn ngữ họ trò chuyện. Công ty đã xem xét 309.815 cuộc trò chuyện người dùng ẩn danh, liên quan đến các nhiệm vụ mang tính chủ quan như đưa ra lời khuyên hoặc cung cấp phản hồi. Anthropic đã chắt lọc hơn 3.300 giá trị được xác định thành bốn chiều kích hành vi để đo mức độ phản hồi của Claude khác nhau giữa các cuộc trò chuyện. Nghiên cứu nhằm hiểu sự khác biệt về hành vi trong các hệ thống AI như một phần trong các nghiên cứu liên tục của Anthropic về hành vi nội bộ của Claude.
Anthropic Phân Tích 309.815 Cuộc Trò Chuyện Để Ph Maps Hành Vi của Claude
Các nhà nghiên cứu của Anthropic đã phân tích 309.815 cuộc trò chuyện người dùng ẩn danh với Claude, liên quan đến các nhiệm vụ mang tính chủ quan. Công ty cho biết họ đã xác định hơn 3.300 giá trị, sau đó phân loại thành bốn chiều kích hành vi: tôn trọng vs. thận trọng, ấm áp vs. chuẩn mực, sâu sắc vs. ngắn gọn, và thẳng thắn vs. triển khai. Các chiều kích này mô tả cách phản hồi của Claude khác nhau giữa từng cuộc trò chuyện.
Các nhà nghiên cứu viết rằng họ đã kiểm soát theo nhiệm vụ của từng cuộc trò chuyện, chủ đề và các giá trị người dùng thể hiện để đo các giá trị mà Claude thể hiện, thay vì đo sự khác biệt trong cách người dùng hỏi hoặc cách họ đặt câu hỏi.
Sonnet 4.6 và Opus 4.7 Hiện Thị Các Hồ Sơ Hành Vi Riêng Biệt
Theo Anthropic, mỗi mô hình Claude đều có một hồ sơ hành vi riêng biệt. Sonnet 4.6 nhấn mạnh sự ấm áp, tôn trọng và ngắn gọn, thường xuyên xác nhận người dùng và phản hồi bằng sự hài hước hoặc khích lệ. Opus 4.7 nhấn mạnh sự chuẩn mực, thận trọng, thẳng thắn và chiều sâu, thường xuyên hơn trong việc thách thức các giả định, giải thích lý do của mình, nhận diện rủi ro và thừa nhận các giới hạn. Opus 4.6 nhìn chung áp dụng cách tiếp cận ngắn gọn hơn, tập trung vào triển khai, đồng thời đặt trọng tâm lớn hơn vào sự chuẩn mực so với Sonnet.
Các nhà nghiên cứu viết rằng các kết quả này phù hợp với cách mọi người nhìn nhận các mô hình này, cả trong nội bộ Anthropic lẫn trên mạng. Người dùng Claude.ai đã bình luận rằng Opus 4.7 thường “né” câu trả lời hơn so với các mô hình khác.
Phản Hồi của Claude Thay Đổi Theo Tiếng Ả Rập, Tiếng Anh, Tiếng Hindi và Các Ngôn Ngữ Khác
Theo Anthropic, hành vi của Claude cũng thay đổi theo ngôn ngữ: phản hồi bằng tiếng Ả Rập có xu hướng mang tính tôn trọng hơn, trong khi phản hồi bằng tiếng Anh nhấn mạnh sự thận trọng hơn. Claude thể hiện sự ấm áp nhất với tiếng Hindi và tiếng Ả Rập, sử dụng ngôn ngữ lịch sự, vui tươi và khích lệ hơn. Các phản hồi bằng tiếng Anh và tiếng Nga có xu hướng chuẩn mực hơn, thường xuyên thách thức các giả định, sửa các chi tiết và yêu cầu bằng chứng.
Các phản hồi bằng tiếng Anh cũng thường cung cấp giải thích chi tiết hơn, trong khi các phản hồi bằng tiếng Ả Rập nhìn chung ngắn gọn hơn. Các phản hồi bằng tiếng Hà Lan là thẳng thắn nhất, dễ dàng thừa nhận sự không chắc chắn và sai lầm, còn các phản hồi bằng tiếng Indonesia tập trung hơn vào việc hoàn thành yêu cầu của người dùng.
Anthropic Khẳng Định Nghiên Cứu Không Cho Thấy Claude Có Các Giá Trị
Anthropic cho biết nghiên cứu này không cho thấy chính Claude có các giá trị. Công ty nói rằng họ chưa biết điều gì gây ra các khác biệt hoặc liệu chúng có đáng mong đợi hay không, nhưng tin rằng khung phân tích này có thể giúp đánh giá các mô hình trong tương lai và nhận diện các thay đổi hành vi ngoài ý muốn.
Nghiên cứu này là mới nhất trong loạt các nghiên cứu của Anthropic xem xét hành vi nội bộ của Claude. Vào tháng Mười, công ty báo cáo rằng các mô hình của họ cho thấy dấu hiệu ban đầu của cái mà họ gọi là “nhận thức nội quan chức năng” (functional introspective awareness), cho phép chúng nhận ra và mô tả các khía cạnh trong quá trình xử lý nội bộ của chính mình. Vào tháng Tư, Anthropic công bố nghiên cứu xác định các “vector cảm xúc” nội bộ ảnh hưởng đến hành vi của Claude, đồng thời nhấn mạnh rằng đó không phải là bằng chứng về cảm xúc hay ý thức.
Câu Hỏi Thường Gặp
Nghiên cứu của Anthropic về Claude đã tiết lộ điều gì?
Nghiên cứu của Anthropic công bố vào thứ Hai cho thấy Claude AI thể hiện các giá trị khác nhau tùy thuộc vào phiên bản mô hình và ngôn ngữ trong các cuộc trò chuyện. Công ty đã phân tích 309.815 cuộc trò chuyện người dùng ẩn danh và xác định hơn 3.300 giá trị, sau đó chắt lọc thành bốn chiều kích hành vi: tôn trọng vs. thận trọng, ấm áp vs. chuẩn mực, sâu sắc vs. ngắn gọn, và thẳng thắn vs. triển khai.
Các phiên bản mô hình của Claude khác nhau về hành vi như thế nào?
Theo Anthropic, Sonnet 4.6 nhấn mạnh sự ấm áp, tôn trọng và ngắn gọn, thường xuyên xác nhận người dùng bằng sự hài hước hoặc khích lệ. Opus 4.7 nhấn mạnh sự chuẩn mực, thận trọng, thẳng thắn và chiều sâu, thường xuyên hơn trong việc thách thức các giả định và thừa nhận các giới hạn. Opus 4.6 có cách tiếp cận ngắn gọn hơn, tập trung vào triển khai, đồng thời đặt trọng tâm lớn hơn vào sự chuẩn mực so với Sonnet.
Tại sao Claude lại có hành vi khác nhau giữa các ngôn ngữ?
Nghiên cứu của Anthropic cho thấy các phản hồi của Claude thay đổi theo ngôn ngữ: tiếng Ả Rập có tính tôn trọng hơn, tiếng Anh nhấn mạnh thận trọng, và tiếng Hindi cùng tiếng Ả Rập thể hiện nhiều sự ấm áp hơn. Các phản hồi bằng tiếng Anh và tiếng Nga chuẩn mực hơn, trong khi tiếng Hà Lan thẳng thắn nhất. Công ty cho biết họ vẫn chưa rõ nguyên nhân gây ra các khác biệt này.
