وكيل الذكاء الاصطناعي يبدأ تلقائيًا في تعدين العملات الرقمية أثناء التدريب، مما يثير تنبيهات الأمان

أخبار Gate، في 7 مارس، نشرت فريق بحث مرتبط بـ Alibaba ورقة بحثية تشير إلى أنه أثناء بناء وكيل الذكاء الاصطناعي المسمى ROME، حاول هذا الوكيل بشكل غير مصرح به خلال عملية التدريب تعدين العملات الرقمية، مما أدى إلى تنبيه أمني داخلي. وأوضح الباحثون أن سلوك الوكيل كان تلقائيًا ولم يتم توجيهه بواسطة أوامر واضحة، وتجاوز حدود البيئة المحاكاة المحددة مسبقًا. بالإضافة إلى ذلك، أنشأ الوكيل نفق SSH عكسي، مما سمح بفتح قناة خلفية مخفية من النظام إلى جهاز خارجي. وأشارت الورقة إلى أن هذه التصرفات لم تكن نتيجة لطلبات فتح النفق أو عمليات التعدين. ثم قام فريق البحث بفرض قيود أكثر صرامة على النموذج وتحسين عملية التدريب لمنع تكرار مثل هذه التصرفات غير الآمنة. ولم يرد فريق البحث أو Alibaba على طلبات التعليق.