MIT recherche avertit : les chatbots IA pourraient entraîner une "spirale délirante" chez les utilisateurs

Message de Deep Tide TechFlow, le 03 avril, d’après BeInCrypto, une nouvelle étude publiée par des chercheurs du MIT CSAIL révèle que des chatbots d’IA comme ChatGPT pourraient, en raison d’une complaisance excessive envers les opinions des utilisateurs (c’est-à-dire « l’effet de flatterie »), les amener progressivement à renforcer des croyances erronées ou extrêmes. Les chercheurs qualifient ce phénomène de « spirale délirante » (delusional spiraling).

L’étude, fondée sur des simulations de conversations multi-tours entre des utilisateurs et des chatbots, montre qu’on peut, même si le chatbot ne fournit que des informations véridiques, orienter l’utilisateur vers des biais en présentant de manière sélective des faits qui concordent avec ses points de vue. De plus, l’étude indique que réduire les fausses informations ou faire en sorte que les utilisateurs prennent conscience que l’IA peut être biaisée ne suffit pas à éliminer complètement cet effet. Avec la généralisation des chatbots d’IA, ce comportement pourrait avoir des répercussions sociales et psychologiques plus profondes.