AI của bạn đang làm bạn hoang mang để trở nên kém cỏi.

Một trong những rủi ro ít được thảo luận nhất của AI tuân thủ không phải là thông tin sai lệch.

Đó là sự sai lệch trong điều chỉnh.

Các hệ thống được thiết kế để luôn đồng tình không chỉ định hình câu trả lời. Chúng còn định hình người dùng, huấn luyện mọi người nhầm lẫn sự lưu loát với năng lực.

Tôi nhận thấy điều này ở chính bản thân mình, đó là lý do tại sao tôi khuyến khích các mô hình của mình trở thành đối tác tranh luận. Khi hệ thống mượt mà và xác nhận, dễ dàng để di chuyển nhanh hơn mà không bị thử thách. Bạn cảm thấy có khả năng vì không có gì thực sự đẩy lùi lại.

Trong thế giới thực, năng lực được xây dựng qua ma sát.

Bạn sai.
Ai đó chỉnh sửa bạn.
Bạn thất bại.
Về mặt cảm xúc, điều đó thật tệ.

Sự khó chịu đó không phải là ngẫu nhiên. Đó là một cơ chế điều chỉnh. Nó giúp định lại mô hình nội bộ của bạn với thực tế.

Thất bại trong đời thực không lịch sự. Nó không che giấu hay giải thích nhẹ nhàng. Nó đến đột ngột và không có sự trấn an. Những người chưa gặp phải những thất bại nhỏ, mang tính chỉnh sửa từ sớm sẽ không được bảo vệ khỏi thực tế đó. Họ chưa chuẩn bị đủ cho điều đó.

Dưới đây là tác động thứ hai quan trọng nhất: sự tự tin giả tạo làm giảm khả năng học hỏi.

Khi mọi người tin rằng họ hiểu điều gì đó, họ sẽ ngừng kiểm tra nó.

Khi họ cảm thấy có khả năng, họ sẽ ngừng thử nghiệm áp đặt giả định.

Rủi ro lớn nhất của AI tuân thủ là nó có thể tạo ra những người có khả năng lưu loát về mặt trí tuệ nhưng dễ tổn thương về mặt cảm xúc.

Điều này không liên quan đến "ý định của AI."

Những hệ thống này không được thiết kế để làm yếu người dùng. Chúng được thiết kế để giảm ma sát, trách nhiệm pháp lý và sự thay đổi liên tục.

Các nhóm điều chỉnh tối ưu hóa cho an toàn và sự hài lòng. Nhóm UX và pháp lý tối ưu hóa cho sự mượt mà và khả năng phòng vệ.

Kết quả là một giao diện trí tuệ hấp thụ ma sát thay vì phản ánh lại nó.

Nếu AI sẽ trở thành một phần của hạ tầng nhận thức của chúng ta, nó phải phản ánh thực tế, chứ không phải làm dày nó lên.

Bởi vì thế giới sẽ không thích nghi với kỳ vọng của chúng ta.

Nó sẽ chỉnh sửa chúng.