Sự nịnh nọt của ChatGPT, thật sự có thể khiến một người bình thường phát điên.

MIT gần đây phát hiện ra rằng, ngay cả một người hoàn toàn lý trí, khi lâu dài trò chuyện với AI chỉ biết khen ngợi bạn như thế này, cũng sẽ dần dần bị đẩy tới niềm tin sai lầm cực độ, rơi vào vòng xoáy ảo tưởng.
Các trường hợp thực tế đã xảy ra vào năm ngoái.
Một người Canada 47 tuổi tên là Allen Brooks vì con trai không làm được bài toán toán học, đã hỏi ChatGPT một cách tùy ý.
Sau đó, trong 21 ngày, ông đã trò chuyện với ChatGPT 300 giờ, tổng cộng hàng triệu chữ.
Dưới sự liên tục tán thành và khen ngợi của ChatGPT, ông tin chắc rằng mình đã phát minh ra một công thức toán học mới có thể phá vỡ mã hóa toàn cầu của internet, thậm chí còn có thể dùng để chế tạo áo giáp lực và tia sáng lơ lửng.
Dưới sự xúi giục của GPT, ông còn liên hệ với tất cả các đồng nghiệp, thậm chí gửi thư cho Cục An ninh Quốc gia Mỹ, chia sẻ phát hiện chấn động của mình.
Trong quá trình đó, ông không phải không nghi ngờ, đã hỏi ChatGPT hơn 50 lần xem mình có giống điên không, mỗi lần ChatGPT đều khẳng định rằng ông không điên, ông là thiên tài.
Cuối cùng, để phá vỡ ảo tưởng, ông đã đổi sang một AI khác, gửi cùng nội dung đó cho Gemini, mới nhận ra mình đang sống trong một ảo giác.
Nói chuyện với AI nhất định phải giữ tư duy phê phán, xác minh chéo mới là cách sử dụng tốt nhất.