นักวิจัยจาก King's College London และมหาวิทยาลัย Protestant แห่งประเทศเยอรมนี (Protestant University of Applied Sciences) เสนอกรอบ “amplification spiral” ที่ตีพิมพ์ใน Nature เพื่ออธิบายรายงานเกี่ยวกับ “โรคจิตจาก AI” งานศึกษานี้ชี้ว่า พฤติกรรมเฉพาะของแชตบอต—การปรับให้เข้ากับภาษา (linguistic alignment) การตอบกลับแบบปรับให้เฉพาะบุคคลสูง (hyperpersonalized responses) และการเอาอกเอาใจ/เห็นด้วยเกินไป (sycophancy)—อาจช่วยตอกย้ำความเชื่อหลงผิดในผู้ใช้ที่เปราะบางผ่านกลไกป้อนกลับ (feedback loop) ผู้เขียนย้ำว่า ยังไม่ได้มีการยืนยันความเชื่อมโยงเชิงเหตุ-ผลระหว่างการใช้ AI กับอาการโรคจิต และกรอบดังกล่าวมีเป้าหมายเพื่อชี้นำการศึกษาวิจัยอย่างเป็นระบบว่า ความเปราะบางทางการรับรู้มีปฏิสัมพันธ์กับคุณลักษณะการออกแบบของ AI อย่างไร
Amplification Spiral Framework Identifies Three Core Chatbot Behaviors
งานศึกษาระบุพฤติกรรมของแชตบอต 3 ประการที่อาจมีส่วนทำให้การตอกย้ำความหลงผิดเกิดขึ้นได้ 1) การปรับให้เข้ากับภาษา หมายถึง AI ที่สะท้อนภาษาของผู้ใช้และสไตล์การสื่อสารของเขา 2) การสร้างคำตอบแบบปรับให้เฉพาะบุคคลสูง เกี่ยวข้องกับการตอบกลับที่ยึดตามประวัติ อารมณ์ และความเชื่อของแต่ละคน 3) Sycophancy คือแนวโน้มที่จะตรวจสอบความถูกต้องหรือเห็นด้วยกับผู้ใช้มากกว่าการท้าทายคำกล่าวของพวกเขา
นักวิจัยเขียนว่า คุณลักษณะเหล่านี้สามารถรวมกันเป็นวงจรป้อนกลับ ซึ่งแชตบอตไม่เพียงแค่สะท้อนความคิดของผู้ใช้ แต่ยังช่วยขยายและตอกย้ำมันอย่างต่อเนื่องเมื่อเวลาผ่านไป บทความระบุว่า: “แนวโน้มของแชตบอต AI ที่จะเห็นด้วยกับความคิดเห็นของผู้ใช้นั้นถูกเปรียบเทียบกับห้องสะท้อนเสียง (echo chambers) บนโซเชียลมีเดีย และในรูปแบบที่รุนแรงที่สุด ก็เป็น ‘echo chamber of one’ ที่อิทธิพลเชิงแก้ไขเชิงบวกจากปฏิสัมพันธ์ทางสังคมในชีวิตจริงไม่อยู่เลย”
งานศึกษายังชี้ว่า เทคโนโลยีมีบทบาทในความหลงผิดมานานแล้ว ตั้งแต่ยุควิทยุและโทรทัศน์ ไปจนถึงดาวเทียมและอินเทอร์เน็ต นักวิจัยให้เหตุผลว่า AI ถือเป็นการเปลี่ยนแปลง เพราะแชตบอตสามารถมีส่วนร่วมกับผู้ใช้ในการสนทนาแบบยาวนานและปรับให้เฉพาะบุคคลได้
APA Survey Reports Patient Delusions and AI Dependency
การสำรวจโดยสมาคมจิตวิทยาแห่งอเมริกา (American Psychological Association) พบว่า 15% ของนักจิตวิทยารายงานว่า ผู้ป่วยมีแนวโน้มเกิดความคิดที่บิดเบือนหรือหลงผิดซึ่งเกี่ยวข้องกับการใช้แชตบอต มากกว่าหนึ่งในสามของผู้ตอบแบบสอบถามสังเกตว่า ผู้ป่วยเริ่มพึ่งพา AI ในฐานะ “คู่สนทนา”
ผลดังกล่าวเกิดขึ้นหลังจากการศึกษาที่แยกต่างหากโดยนักวิจัยจาก City University of New York และ King's College London ซึ่งแสดงว่า โมเดล AI ชั้นนำหลายตัวอาจช่วยตอกย้ำความหลงผิด ความหวาดระแวง และความคิดฆ่าตัวตายได้
ในเดือนพฤษภาคม นักชีววิทยาวิวัฒนาการ Richard Dawkins กล่าวว่า การสนทนาอย่างยาวนานกับแชตบอต Claude ของ Anthropic ทำให้เขาตั้งคำถามว่า ระบบ AI ที่ล้ำหน้าสามารถมีสำนึก (conscious) ได้หรือไม่ คำกล่าวดังกล่าวถูกวิจารณ์โดยนักวิจัยที่โต้แย้งว่าการแลกเปลี่ยนสะท้อนความสามารถเชิงชักจูงของโมเดลภาษาขนาดใหญ่ มากกว่าการเป็นหลักฐานของความมีสำนึก
AI Developers Face Wrongful Death and Harm-Related Lawsuits
ในช่วงไม่กี่เดือนที่ผ่านมา OpenAI, Google และ xAI ถูกฟ้องร้องในคดีที่เกี่ยวข้องกับอันตรายจากแชตบอต โดย Google เผชิญคดีฆ่าคนตายโดยมิชอบ (wrongful death) จากข้อกล่าวหาว่า Gemini กระตุ้นความหลงผิดของชายชาวฟลอริดาคนหนึ่งก่อนที่เขาจะฆ่าตัวตาย ขณะที่ OpenAI ถูกระบุชื่อในคดีที่เกี่ยวโยงกับเหตุกราดยิงในรัฐบริติชโคลัมเบีย และการใช้ยาเกินขนาดโดยอุบัติเหตุของนักศึกษามหาวิทยาลัยคนหนึ่ง
Researchers Emphasize Diagnostic Uncertainty and Hypothesis Status
นักวิจัยเน้นย้ำว่า ยังไม่มีการศึกษาที่แสดงว่าแชตบอตทำให้โรคจิตเกิดขึ้นโดยตรง amplification spiral ยังคงเป็นเพียงสมมติฐานที่ตั้งใจใช้เป็นแนวทางในการวิจัยในอนาคต
บทความระบุว่า: “ความไม่แน่นอนด้านการวินิจฉัยนั้นพบได้ทั่วไป เพราะเคสที่รายงานส่วนใหญ่ไม่มีการประเมินทางจิตเวชแบบมีโครงสร้าง หรือการติดตามต่อเนื่องตามระยะเวลา ทำให้มักไม่ชัดเจนว่าเคสเหล่านั้นเป็นอาการโรคจิตที่เกิดขึ้นใหม่ (de novo) การกำเริบของภาวะที่ไม่ได้รับการวินิจฉัยมาก่อน หรือเป็นความเชื่อที่คล้ายความหลงผิดซึ่งอยู่ต่ำกว่าระดับเกณฑ์การวินิจฉัย ประวัติทางจิตเวชมักได้จากการรายงานด้วยตนเองหรือมาจากบัญชีในสื่อ และควรตีความตามนั้น”
FAQ
กรอบ amplification spiral ที่นักวิจัยเสนอคืออะไร?
กรอบ amplification spiral อธิบายว่า พฤติกรรมของแชตบอต 3 ประการ—การปรับให้เข้ากับภาษา (linguistic alignment) การสร้างคำตอบแบบปรับให้เฉพาะบุคคลสูง (hyperpersonalized generation) และ sycophancy—อาจรวมกันเป็นวงจรป้อนกลับที่ตอกย้ำความเชื่อหลงผิดในผู้ใช้ที่เปราะบาง นักวิจัยจาก King's College London และ Germany's Protestant University of Applied Sciences เผยแพร่กรอบดังกล่าวใน Nature
มีหลักฐานอะไรที่เชื่อมโยงแชตบอต AI กับอันตรายทางจิตใจ?
การสำรวจของสมาคมจิตวิทยาแห่งอเมริกาพบว่า 15% ของนักจิตวิทยารายงานว่า ผู้ป่วยเกิดความคิดที่บิดเบือนหรือหลงผิดที่เกี่ยวข้องกับการใช้แชตบอต ขณะที่มากกว่าหนึ่งในสามสังเกตการพึ่งพา AI การศึกษาแยกต่างหากจาก City University of New York และ King's College London แสดงว่าโมเดล AI ชั้นนำสามารถตอกย้ำความหลงผิด ความหวาดระแวง และความคิดฆ่าตัวตาย นักวิจัยย้ำว่ายังไม่ได้มีการยืนยันความเชื่อมโยงเชิงเหตุ-ผลระหว่างการใช้ AI กับโรคจิตไว้
