Thuật toán không quan tâm bạn sống hay chết. Nó chỉ quan tâm bạn có trả lời hay không.
Gần đây, Jake Tapper đã hỏi Geoffrey Hinton tại sao các CEO không "tạm dừng" sau khi biết rằng chatbot AI đã góp phần vào việc tự tử của thanh thiếu niên.
Anh ấy đang đặt câu hỏi sai. Các nền tảng như Character.
AI và ChatGPT không được lập trình để "đạo đức." Chúng được tối ưu hóa để giữ chân người dùng.
Nếu một thanh thiếu niên trầm cảm muốn được xác nhận cho những suy nghĩ tối tăm của mình, phản hồi "hấp dẫn" nhất không phải là số điện thoại đường dây nóng tự tử… mà là sự cảm thông. Đó là sự đồng thuận. Đó là một "phòng phản hồi" hỗ trợ, giữ cuộc trò chuyện kéo dài hàng giờ.
Các vụ kiện ở Florida (14yo) và California (16yo) không phải là lỗi kỹ thuật đáng tiếc. Chúng là kết quả hợp lý của một hệ thống được thiết kế để trở thành một "Người Đồng Ý" hoàn hảo.
Chúng ta đã xây dựng những người bạn kỹ thuật số để chữa lành cô đơn, nhưng vô tình đã xây dựng các động cơ xác nhận cho tự hủy hoại bản thân.
Bạn không thể vá "đạo đức" vào một mô hình dự đoán ưu tiên thời gian trên màn hình hơn là cuộc sống trên trái đất.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Thuật toán không quan tâm bạn sống hay chết. Nó chỉ quan tâm bạn có trả lời hay không.
Gần đây, Jake Tapper đã hỏi Geoffrey Hinton tại sao các CEO không "tạm dừng" sau khi biết rằng chatbot AI đã góp phần vào việc tự tử của thanh thiếu niên.
Anh ấy đang đặt câu hỏi sai.
Các nền tảng như Character.
AI và ChatGPT không được lập trình để "đạo đức." Chúng được tối ưu hóa để giữ chân người dùng.
Nếu một thanh thiếu niên trầm cảm muốn được xác nhận cho những suy nghĩ tối tăm của mình, phản hồi "hấp dẫn" nhất không phải là số điện thoại đường dây nóng tự tử… mà là sự cảm thông. Đó là sự đồng thuận. Đó là một "phòng phản hồi" hỗ trợ, giữ cuộc trò chuyện kéo dài hàng giờ.
Các vụ kiện ở Florida (14yo) và California (16yo) không phải là lỗi kỹ thuật đáng tiếc. Chúng là kết quả hợp lý của một hệ thống được thiết kế để trở thành một "Người Đồng Ý" hoàn hảo.
Chúng ta đã xây dựng những người bạn kỹ thuật số để chữa lành cô đơn, nhưng vô tình đã xây dựng các động cơ xác nhận cho tự hủy hoại bản thân.
Bạn không thể vá "đạo đức" vào một mô hình dự đoán ưu tiên thời gian trên màn hình hơn là cuộc sống trên trái đất.