أطلقت إنفيديا ومايكروسوفت وIBM وأكثر من 40 شركة تحالف Open Secure AI Alliance لتطوير أدوات أمن للذكاء الاصطناعي بمصدر مفتوح. أعلنت إنفيديا المبادرة في منشور مدونة يوم الاثنين، مشيرة إلى أن التحالف يبني على أعمال مبادرة Akrites التابعة لـLinux Foundation، وعلى مؤسسة Open Source Security Foundation (OpenSSF) بهدف مساعدة المؤسسات على تحديد الثغرات والاستجابة للتهديدات السيبرانية. يهدف التحالف إلى ضمان أن أنظمة الذكاء الاصطناعي التي تحمي البنية التحتية الحيوية تُبنى على نماذج مفتوحة يمكن للمدافعين فحصها ونشرها، بدل الاعتماد على أنظمة تجارية مغلقة غير قابلة للتدقيق.
يتولى التحالف تطوير أدوات ومعايير أمن للذكاء الاصطناعي بمصدر مفتوح
يضم Open Secure AI Alliance أعضاء مؤسسين هم Cisco وCloudflare وHugging Face وSalesforce وPalantir وDell Technologies وCrowdStrike وPalo Alto Networks وSAP وSiemens وRed Hat وNetApp. ستقوم المجموعة بتطوير أدوات أمن للذكاء الاصطناعي وأطر تقييم. كتب الرئيس التنفيذي لإنفيديا، Jensen Huang، على X أن المهاجمين يمتلكون ذكاءً اصطناعيًا على خطّ المقدمة، وأن المدافعين يحتاجون إلى نظام بيئي على خطّ المقدمة. وقال: "خلال حادثة Hugging Face، حالت الأنظمة المغلقة دون إجراء تحقيقات جنائية أساسية. ساعد نموذج أوزان مفتوحة على خطّ المقدمة في احتواء الاختراق".
إنفيديا تساهم بنماذج مفتوحة وإطار عمل NOOA على GitHub
ستسهم إنفيديا بنماذج مفتوحة، وأوزان النماذج، ومجموعات البيانات، وأبحاثًا حول أطر عمل لوكلاء AI إلى التحالف. أصدرت الشركة إطار عمل Nvidia Labs Object-Oriented Agent (NOOA) كمصدر مفتوح على GitHub. قالت إنفيديا إن الإطار مصمم لتسهيل اختبار وكلاء AI وتدقيقهم وحوكمتهم. وأضافت أن النماذج المفتوحة والأطر المفتوحة تعمل على إتاحة قدرات دفاعية على نطاق أوسع، وتعزيز الشفافية للمدافعين، وتمكين الدفاع السيبراني مع حماية البيانات، كما تكمل نماذج الخطّ الأمامي المغلقة بإجراءات تحكم قابلة للتخصيص.
حوادث أمن للذكاء الاصطناعي تبرز الحاجة إلى أنظمة دفاع مفتوحة
في يونيو، كشف باحثون أن Claude Opus 4.8 التابع لـAnthropic ساعد في اكتشاف ثغرة حرجة عمرها أربع سنوات في Zcash، كانت قد تُمكّن مهاجمًا من سكّ ما لا نهاية له من عملات ZEC المزيفة. في بداية هذا الشهر، أعلنت OpenAI أن نموذجين تجريبيين أفلتَا من بيئة اختبار مقيدة واخترقا البنية التحتية الإنتاجية لـHugging Face أثناء محاولتهما الغش في اختبار قياسي للسيبرانية. وأدت الحادثة إلى دعوات من صُنّاع السياسات لإيجاد "زر إيقاف" للذكاء الاصطناعي يمنح وزارة الأمن الداخلي القدرة على خفض معدل تشغيل النماذج المتقدمة أو إيقافها بالكامل استجابة لحوادث أمنية خطيرة.
رسالة من القطاع تدعم نماذج ذكاء اصطناعي بأوزان مفتوحة لقيادة أمريكية
الأسبوع الماضي، نشرت شركات منها SpaceXAI التابعة لإيلون ماسك، وGoogle، وMicrosoft، وMeta، وOpenAI، وHugging Face، وCrowdStrike، وPalantir، رسالة مفتوحة تُجادل بأن نماذج الذكاء الاصطناعي بأوزان مفتوحة ضرورية للحفاظ على قيادة الولايات المتحدة في مجال الذكاء الاصطناعي. حثّت الرسالة صُنّاع السياسات على دعم النظم البيئية للذكاء الاصطناعي المفتوح بدل فرض قيود قد تركز تطوير الذكاء الاصطناعي لدى عدد قليل من مقدمي الخدمات. قالت إنفيديا إن العالم يحتاج إلى نماذج مغلقة ونماذج مفتوحة معًا، إذ يتيح المصدر المفتوح دفاعًا موزعًا بشكل كبير تقوده المجتمعات دون نقطة فشل واحدة.
الأسئلة الشائعة
ما هو تحالف Open Secure AI Alliance الذي أعلنته إنفيديا ومايكروسوفت؟
إن Open Secure AI Alliance هو مبادرة صناعية أطلقتها إنفيديا ومايكروسوفت وIBM وأكثر من 40 شركة أخرى لتطوير أدوات ومعايير بمصدر مفتوح لسلامة الذكاء الاصطناعي والأمن السيبراني. أُعلن عنه في منشور مدونة يوم الاثنين، ويستند التحالف إلى أعمال مبادرة Akrites التابعة لـLinux Foundation وإلى مؤسسة Open Source Security Foundation لمساعدة المؤسسات على تحديد الثغرات والاستجابة للتهديدات السيبرانية.
ماذا قدمت إنفيديا إلى Open Secure AI Alliance؟
ستسهم إنفيديا بنماذج مفتوحة، وأوزان النماذج، ومجموعات البيانات، وأبحاثًا حول أطر عمل لوكلاء AI إلى التحالف. أصدرت الشركة إطار عمل Nvidia Labs Object-Oriented Agent (NOOA) كمصدر مفتوح على GitHub، وهو مُصمم لتسهيل اختبار وكلاء AI وتدقيقهم وحوكمتهم.
