باول، بيسنت يحذّران البنوك من مخاطر أمنية ناتجة عن ذكاء Anthropic الاصطناعي Mythos: بلومبرغ

باختصار

• أفاد Bloomberg بأن مسؤولين أمريكيين حذروا البنوك الكبرى من مخاطر الأمن السيبراني المرتبطة بنموذج الذكاء الاصطناعي Mythos التابع لـ Anthropic.
• يُفترض أن النظام يمكنه تحديد الثغرات في أنظمة التشغيل والمتصفحات واستغلالها.
• لدى Anthropic وصول محدود إلى النموذج بينما تقوم بتقييم المخاطر الأمنية المحتملة.

يُقال إن وزير الخزانة الأمريكي سكوت بيسنت ورئيس مجلس الاحتياطي الفيدرالي جيروم باول عقدا اجتماعًا مع الرؤساء التنفيذيين لبنوك وول ستريت في وقت سابق من هذا الأسبوع لتحذيرهم من مخاطر الأمن السيبراني المرتبطة بنموذج جديد للذكاء الاصطناعي من Anthropic. ووفقًا لتقرير صادر عن Bloomberg، ضم الاجتماع مسؤولين تنفيذيين من Citigroup وBank of America وWells Fargo وMorgan Stanley وGoldman Sachs. ناقش المسؤولون نموذج الذكاء الاصطناعي الجديد من Anthropic Mythos، الذي أثار مؤخرًا قلقًا واسعًا بشأن قدراته المتقدمة الظاهرة في مجال الأمن السيبراني. عقد المسؤولون الاجتماع لضمان فهم البنوك للمخاطر التي تفرضها الأنظمة القادرة على تحديد ثغرات البرامج واستغلالها عبر أنظمة التشغيل ومتصفحات الويب، ولتشجيع المؤسسات على تعزيز دفاعاتها ضد هجمات إلكترونية قد تساعدها أدوات الذكاء الاصطناعي، تستهدف البنية التحتية المالية.

حذّر باحثون أمنيون من أن الأدوات القادرة على اكتشاف الثغرات تلقائيًا قد تعجّل في كلٍّ من أعمال الأمن الدفاعي والاختراقات الضارة إذا سُيء استخدامها.  ظهر نموذج Mythos من Anthropic لأول مرة على الإنترنت في مارس بعد تسريب مواد أولية حول النظام على الإنترنت، ما كشف—بحسب ما وصفته الشركة—عن أكثر نماذج الذكاء الاصطناعي قدراتًا لديها حتى الآن. وفي الاختبارات، يُفترض أن النظام عثر على آلاف ثغرات البرامج غير المعروفة سابقًا، بما في ذلك ثغرات يوم الصفر (zero-day) عبر أنظمة التشغيل والمتصفحات الرئيسية. قال باحثو Anthropic في تقرير صدر في وقت سابق من هذا الأسبوع إن قدرات اكتشاف الثغرات لدى Mythos Preview لم تكن مُدرّبة عمدًا، بل ظهرت بدلًا من ذلك من تحسينات أوسع في البرمجة والاستدلال والاستقلالية ضمن النموذج.

"إن التحسينات نفسها التي تجعل النموذج أكثر فاعلية بشكل كبير في إصلاح الثغرات تجعلُه أيضًا أكثر فاعلية بشكل كبير في استغلالها"؛ كتبت الشركة. وبسبب تلك القدرات، فرضت Anthropic تقييدًا على وصول النموذج ضمن مجموعة صغيرة من منظمات الأمن السيبراني. "نظرًا لقوة قدراته، فنحن نتعامل معه بوعي فيما يتعلق بموعد وكيفية إصداره" قالت Anthropic في بيان. "كما هو متبع على نطاق الصناعة، نعمل مع مجموعة صغيرة من عملاء الوصول المبكر لاختبار النموذج. ونعتبر هذا النموذج قفزة نوعية وأقوى ما بنيناه حتى الآن." ولمعالجة هذا الخطر، تقوم Anthropic باختبار Mythos عبر مشروع Project Glasswing، وهو تعاون مع شركات تقنية وأمن سيبراني كبرى يستخدم النموذج لتحديد الثغرات وإصلاحها في البرامج الحيوية قبل أن يتمكن المهاجمون من استغلالها. "Project Glasswing هو نقطة انطلاق. لا يمكن لأي منظمة واحدة أن تحل مشكلات الأمن السيبراني بمفردها" قالت الشركة في بيان. "لدى مطوري الذكاء الاصطناعي في Frontier، وشركات البرمجيات الأخرى، وباحثي الأمن، ومطوري البرمجيات مفتوحة المصدر، والحكومات حول العالم جميع أدوار أساسية يجب أن تؤديها." لم ترد Anthropic فورًا على طلب Decrypt للتعليق.