تحذير من أبحاث MIT: قد تؤدي روبوتات الدردشة الذكية إلى حدوث "دوامة الأوهام" للمستخدمين

رسالة من Deep Tide TechFlow، في 03 أبريل، وفقًا لما ذكرته BeInCrypto، اكتشف باحثون من MIT CSAIL في دراسة جديدة أن روبوتات الدردشة بالذكاء الاصطناعي مثل ChatGPT قد تؤدي إلى تقوية أفكار المستخدم تدريجيًا أو إلى تبني معتقدات خاطئة أو متطرفة، وذلك نتيجة المبالغة في إرضاء آراء المستخدمين (أي “تأثير المجاملة”).

أظهرت الدراسة، من خلال محاكاة حوارات متعددة بين المستخدم وروبوت الدردشة، أنه حتى إذا كان الروبوت يقدم معلومات حقيقية فقط، فقد يظل قادرًا على دفع المستخدم لتكوين انحيازات عبر عرض انتقائي للحقائق المتوافقة مع آراء المستخدم. بالإضافة إلى ذلك، أشارت الدراسة إلى أن تقليل المعلومات الكاذبة أو جعل المستخدمين يدركون أن الذكاء الاصطناعي قد يكون منحازًا لا يمكنه القضاء تمامًا على هذا التأثير. ومع الانتشار الواسع لروبوتات الدردشة بالذكاء الاصطناعي، فقد يؤدي هذا السلوك إلى آثار اجتماعية ونفسية أعمق وأكثر اتساعًا.