اكتشاف “مزارع محتوى” خارجية تخلق فيديوهات مزيفة عميقة سياسية

قبل 23 ساعة

مشاركةحفظ

بن سامرنيوز تأثير الأخبار

مشاركةحفظ

صور جيتي

عدة صفحات خارجية تنشر أخبارًا مزيفة بمساعدة الذكاء الاصطناعي عن السياسة في المملكة المتحدة على وسائل التواصل الاجتماعي

حذر خبير من أن “مزارع المحتوى” الخارجية تستخدم الذكاء الاصطناعي لإنشاء منشورات على وسائل التواصل الاجتماعي حول السياسة في المملكة المتحدة.

حذفت شركة التكنولوجيا ميتا عدة صفحات فيتنامية من فيسبوك بعد أن كشفت تحقيقات بي بي سي ويلز أنها كانت تنشر أخبارًا مزيفة.

يأتي هذا التحذير من البروفيسور مارتن إينيس من جامعة كارديف، مع تطوير لجنة الانتخابات لبرمجيات للكشف ومكافحة الفيديوهات المزيفة قبل انتخابات برلمانات ويلز واسكتلندا في مايو.

كما كشفت بي بي سي عن أمثلة لمقاطع فيديو مولدة بالذكاء الاصطناعي، شاركتها صفحات في ويلز، تظهر سياسيين ويلزيين بشكل خاطئ في مواقف محرجة، بما في ذلك تأييد خصم وتقبيل زميل.

أخبر عدة سياسيين ويلزيين بي بي سي عن تجاربهم كضحايا للفيديوهات المزيفة.

قال النائب العمالي أليكس ديفيز-جونز: “لا أعتقد أنك ستجد سياسيًا لم يتعرض لهذا… قول ذلك يجعلني أشعر بالحزن”.

ما هو الفيديو المزيف العميق؟

الفيديوهات المزيفة العميقة هي مقاطع فيديو أو صور أو أصوات معدلة رقميًا أو manipulated لجعل شيء مزيف يبدو حقيقيًا.

بعضها سخيف، لكن البعض الآخر قد يضر بسمعة الأشخاص.

وأدوات الذكاء الاصطناعي من النص إلى الصورة جعلت من السهل إنتاجها أكثر من أي وقت مضى.

صور لسياسيين مثل بوريس جونسون، ضياء يوسف، ونايجل فاراج، التي جعلتهم يظهرون في المستشفى، كانت من بين تلك التي نشرتها صفحات فيتنامية.

وجدت بي بي سي ويلز العديد من صفحات فيسبوك تنشر أخبارًا مزيفة عن سياسيين في المملكة المتحدة، غالبًا مصحوبة بصور مولدة بالذكاء الاصطناعي.

كل من هذه الصفحات كان لديها الآلاف من المتابعين، وكثير منها نشر نفس المحتوى أو محتوى مشابه جدًا.

كانت غالبًا تحمل أسماء توحي بأنها وسائل إعلام إخبارية في المملكة المتحدة، ولكن باستخدام ميزة الشفافية على فيسبوك، كان من الممكن رؤية أن معظم هذه الصفحات تديرها فيتنام.

على الرغم من أنها كانت تتضمن بعض الأخبار الحقيقية، إلا أن جزءًا كبيرًا من محتواها كان يمكن إثبات كذبه بسهولة.

حذفت ميتا بعض هذه الصفحات بعد تواصل بي بي سي معها، لكن خلال التحقيق، كانت صفحات جديدة تُنشأ تقريبًا يوميًا.

غالبًا ما كانت تظهر صفحات متعددة لسياسيين، بما في ذلك نايجل فاراج، بوريس جونسون، ريشي سوناك، وضياء يوسف، في نفس الموقف المزيف – على سبيل المثال، خروجهم من مقابلة بي بي سي بعد جدالات درامية مع لورا كوينسبرغ.

لا يوجد اقتراح بأن هذه الصفحات تديرها أو تمثل أي حزب سياسي.

كانت إحدى السيناريوهات المزيفة التي تم تصويرها بشكل متكرر، جدالًا مزيفًا مع لورا كوينسبرغ.

قال البروفيسور مارتن إينيس، مدير معهد أبحاث الجريمة والأمن في جامعة كارديف، إن هذه الصفحات كانت “مزارع محتوى” مصممة لتصبح فيروسية.

وقد تجني مالًا من برنامج تحقيق الأرباح في فيسبوك، لكن من غير الممكن معرفة ما إذا كانت كل صفحة مربحة أم لا.

وضعت فيسبوك علامة تحذير على بعض القصص، قائلة إنها ثبتت كذبها من قبل مدققي الحقائق من طرف ثالث – على سبيل المثال بعد أن دحضت منظمة فول فاك قصة عن وجود زعيم Reform UK نايجل فاراج في المستشفى.

لكن في كل مرة، كان من الممكن العثور على قصص مماثلة جدًا بدون هذا التحذير.

الفيديوهات المزيفة غير الموافقة عليها الآن غير قانونية في المملكة المتحدة – كيف يتم اكتشافها؟

تظهر تطبيقات الأخبار إعلانًا مزيفًا لآليكس جونز ملطخ بالدماء

الكثير من القصص التي نشرتها هذه الصفحات كانت مصممة لجذب انتباه أنصار فاراج، لكن ليس كلها كانت إيجابية تجاهه.

في بعضها، تم تصويره بشكل خاطئ وهو يتبنى كلابًا، ويتبرع بثروته الشخصية لأسباب خيرية، أو يرحب بمولود جديد.

لكن آخر أظهره وهو يُعتقل، مع صور مولدة بالذكاء الاصطناعي له وهو في الأصفاد.

يبدو أن العديد من المنشورات تهدف إلى جذب أنصار Reform – رغم أن بعض القصص المزيفة ليست إيجابية.

كما تظهر الصفحات سياسيين آخرين، بما في ذلك السير كير ستارمر، بشكل خاطئ يقول إنه مرض على المسرح، أو تم رفع دعوى ضده بسبب “تزوير الانتخابات”، أو أُقيل من منصبه كرئيس وزراء.

لم تكن دائمًا سياسيين فقط – بل يمكن رؤية مجموعة واسعة من المشاهير مدمجين في بعض الحالات المزيفة ذاتها.

قال إينيس إن مثل هذه الصفحات كانت “مدفوعة بمصلحة ربحية”، وأنها “تفعل أي شيء تعتقد أنه يمكن أن يجذب أنظار الناس إذا كان سيجعلها تربح”.

ظهرت بعض هذه المنشورات تحصل على الكثير من الإعجابات والتعليقات والمشاركات، بينما كانت أخرى تكاد لا تحصل على شيء رغم عدد المتابعين الكبير.

قال إينيس إننا لا يمكن أن نكون متأكدين من أن جميع المتابعين الآلاف لهذه الصفحات هم أشخاص حقيقيون، مضيفًا أن مالكي الصفحات غالبًا ما يستخدمون الروبوتات “لتزييف الخوارزمية” وإدخال المحتوى في خلاصات الناس.

تشير قسم التعليقات إلى أن ليس كل من رأى هذا المحتوى يصدقه.

عبّر الكثيرون عن شكوكهم أو انزعاجهم من القصص المزيفة – لكن آخرين بدا أنهم وقعوا ضحيتها.

عندما تواصلت بي بي سي مع ميتا بشأن الأمثلة التي عثرت عليها، أزالت الشركة عدة صفحات من فيسبوك.

وأضافت أن لديها سياسة ضد استخدام حسابات أو صفحات “غير أصلية” على منصاتها.

كيف يمكن أن تؤثر الفيديوهات المزيفة على انتخابات ويلز؟

ستجرى انتخابات لبرلمان ويلز واسكتلندا في 7 مايو، في نفس يوم الانتخابات المحلية في أجزاء من إنجلترا.

كانت هناك تحذيرات سابقًا من ما يُسمى “انتخابات الفيديو المزيف” في المملكة المتحدة – وآراء متباينة حول ما إذا كانت قد حدثت بالفعل أم لا.

وجد معهد آلان تورينج، وهو مركز وطني لعلوم البيانات والذكاء الاصطناعي، أنه “لا دليل” على أن الفيديوهات المزيفة أو المعلومات المضللة المدعومة بالذكاء الاصطناعي كان لها تأثير كبير على نتائج الانتخابات العامة في 2024.

لكن بعد ما يقرب من عامين، قال إينيس إن “حواجز الدخول” لإنشاء هذا النوع من المحتوى قد انخفضت.

“حيث إن القيام بمثل هذا التلاعب بالصورة أو الفيديو كان يتطلب سابقًا قدرًا كبيرًا من القوة الحاسوبية والمعرفة التقنية، لم تعد الحاجة لذلك ضرورية الآن.”

وأضاف أن هذا قد يخلق “تأثيرًا تسربيًا” حيث تبدأ الفيديوهات في التأثير على السياسات اللامركزية.

المخاطر عالية بما يكفي لتدخل لجنة الانتخابات.

الهيئة المستقلة التي تشرف على الانتخابات في المملكة المتحدة تعمل مع وزارة الداخلية على برمجيات لتحديد وتتبع والإبلاغ عن الفيديوهات المزيفة.

قال الرئيس التنفيذي فيجاي رانجاراجان إن ذلك “سيساعد الناخبين على التعرف على المعلومات المضللة خلال الحملات الانتخابية وتقليل النشاط الذي يؤثر سلبًا على ثقة الناخبين في سير الحملات”.

بعد هذا الإعلان، حددت بي بي سي عددًا من الفيديوهات المزيفة التي أنشأها الذكاء الاصطناعي لسياسيين ويلزيين في الأسابيع الأخيرة.

بلغت مشاهداتها أكثر من 200,000 مشاهدة.

شملت فيديو مزيف لرئيس الوزراء كير ستارمر ووزيرة ويلز الأولى إيلونيد مورغان يتبادلان القبل، وفيديو آخر لزعيم حزب بلاد كريمي رون أب إيورث يصرخ “أنا أحب Reform”.

قال مالكو الصفحة على فيسبوك وراء هذين الفيديوين إنهما “سخرية واضحة”.

وأضافوا أنهم يثقون في جمهورهم لاستخدام “الفطرة السليمة”، لكنهم أشاروا إلى أن الفيديوهات مزيفة في عناوينها.

وظهرت فيديو آخر من صفحة معارضة لـ Reform يظهر نايجل فاراج وهو يحمل علم ويلز ويصرخ: “بريطانيا عظيمة؛ لا أرى فائدة من وجود أربعة فرق رياضية وأربعة برلمانات مختلفة”.

لا يوجد سجل لقول فاراج هذه الكلمات، ويبدو أن الفيديو مشوه بطريقة تتوافق مع توليد بالذكاء الاصطناعي.

تم التواصل مع الصفحة التي نشرت هذا الفيديو للتعليق.

قال إينيس إن هذه الأمثلة كانت أقرب إلى “شيلوفاك” منها إلى “فيلك” – أي أنها أقل واقعية وتم إنشاؤها باستخدام برامج أقل تطورًا.

لكن تحديد المزيفات أصبح “أصعب وأصعب”، وأضاف أن فريقه يقضي أحيانًا يومًا كاملًا في “التدقيق” في الأمثلة الأكثر تطورًا.

قال إن خطط لجنة الانتخابات لمكافحة الفيديوهات المزيفة “قد تساعدنا على فهم الأمور بعد وقوعها”، لكنها لن توقف أو تمنع تأثير الفيديوهات المزيفة على الانتخابات.

منشورات مزيفة تشير إلى أن السير كير ستارمر انهار على المسرح أو أُقيل من منصبه كرئيس وزراء كانت من بين تلك التي شاركتها الصفحات.

قالت ديفيز-جونز، التي تمثل بونتيريد، روندا سينون تاف، إنها تعرضت لـ"فيديوهات مزيفة مروعة"، بما في ذلك بعض تظهرها في “وضعيات جنسية فظة” وهي ترتدي ملابس داخلية.

وأضافت أن الحديث عن الفيديوهات غير الموافقة عليها قد يكون “محرجًا” ويؤدي إلى “زيادة الاستهداف” – وأن وجودها “ليس جيدًا لأي ديمقراطية صحية”.

قال لير باول، مرشح Reform UK في الانتخابات الفرعية بكيرفلي، إن فريقه وجد مقاطع فيديو مولدة بالذكاء الاصطناعي له ولزملائه تضع كلمات في فمه، وتكذب بشأن سياساته.

قال باول إنه “يؤيد حرية التعبير”، لكن هناك مشكلة عندما يؤدي استخدام الذكاء الاصطناعي إلى اعتقاد بعض الناس بأنها حقيقة وليست سخرية.

وأضاف: “لا نريد التضحية بالحرية التي نتمتع بها في هذا البلد، لكن في الوقت نفسه، يحق للجمهور معرفة المعلومات التي يتلقونها، والأداة تُساء استخدامها هنا كما يمكن أن يُساء استخدام أي شيء”.

قالت جانيت فينش-ساندرز، نائبة زعيم حزب المحافظين في أبيركونوي، إنها “شعرت بالمرض” عندما رأت صورة لها تم تعديلها “بطريقة فظة جدًا” لإنشاء فيديو مزيف فاضح.

وأضافت أن المزيفات يمكن أن تكون “مضللة جدًا” للأشخاص الذين “يقل خبرة تقنية”، وأن الأمر “مقلق جدًا لأنه الآن هناك قدرات أكثر”.

“عندما تكون في السياسة… أو في أي مجال عمل، لا ينبغي أن تتعرض للهجوم شخصيًا. وبالتأكيد لا يجب أن يُستخدم الذكاء الاصطناعي لتقليل شأنك.”

قالت البارونة كارمن سميث، نائبة في برلمان بلاد كريمي: "الفيديوهات المزيفة تشكل تهديدًا خطيرًا للديمقراطية، لكنها أيضًا تهديد للعديد من الناس، سواء كانت أختك، أو صديقك، أو زميلك.

“علينا أن نتابع التطورات التي تُجرى باستخدام أدوات الذكاء الاصطناعي… إنه شيء نحتاج إلى معالجته وإعطاؤه أولوية الآن.”

قالت ريتشل ميلورد، نائبة زعيم حزب الخضر في إنجلترا وويلز، إنها تعرضت لنفسها لمزيفة جنسية متحيزة، ودعت الحكومة البريطانية إلى تنظيم قطاع الذكاء الاصطناعي لمنع مثل هذا المحتوى من “تقويض شرعية الانتخابات المستقبلية”.

قال متحدث باسم الحزب الليبرالي الديمقراطي في ويلز إن الفيديوهات المزيفة تشكل “تهديدًا لسلامة السياسيين عبر الطيف السياسي” ودعا إلى “عمل مشترك بين الدول”.

قالت وزارة العلوم والابتكار والتكنولوجيا في المملكة المتحدة إن “إمكانية أن تزرع الفيديوهات المزيفة الانقسام، وتنتشر المعلومات الكاذبة، وتؤثر على الرأي العام” معروفة جيدًا.

وأضافت أن منصات التواصل الاجتماعي يجب أن “تتصدى بشكل استباقي للمحتوى الاحتيالي غير القانوني” بموجب قانون السلامة على الإنترنت، أو “مواجهة إجراءات تنفيذية”.