يتيح إطار عمل Tether’s BitNet LoRA تدريب نماذج الذكاء الاصطناعي عبر الهواتف الذكية ووحدات معالجة الرسومات والأجهزة الاستهلاكية.
يقلل النظام من استهلاك الذاكرة ويعزز الأداء، مع تقليل متطلبات VRAM بنسبة تصل إلى 77.8%.
يمكن للمستخدمين ضبط نماذج تصل إلى 13 مليار معلمة على الأجهزة المحمولة، مما يوسع قدرات الذكاء الاصطناعي على الحافة.
أعلنت Tether عن إطار عمل جديد للذكاء الاصطناعي من خلال منصة QVAC Fabric، يتيح تدريب BitNet LoRA عبر منصات متعددة على أجهزة المستهلكين. يسمح التحديث بتشغيل نماذج تحتوي على مليارات المعلمات على الهواتف الذكية ووحدات معالجة الرسومات. شارك الرئيس التنفيذي باولو أردوينو التطوير، مسلطًا الضوء على تقليل التكاليف وتوفير وصول أوسع إلى أدوات الذكاء الاصطناعي.
يقدم تحديث QVAC Fabric دعمًا متعدد المنصات لضبط إعدادات BitNet LoRA. يتيح ذلك تشغيل نماذج الذكاء الاصطناعي عبر أجهزة وأنظمة تشغيل مختلفة.
ومن الجدير بالذكر أن الإطار يدعم وحدات معالجة الرسومات من AMD وIntel وApple، بما في ذلك شرائح الهواتف المحمولة. كما يستخدم واجهات Vulkan وMetal لضمان التوافق.
وفقًا لـ Tether، هذه هي المرة الأولى التي يعمل فيها BitNet LoRA عبر مجموعة واسعة من الأجهزة. ونتيجة لذلك، يمكن للمستخدمين تدريب النماذج على أجهزة الحوسبة اليومية.
يقلل النظام من الحاجة إلى الذاكرة والحساب من خلال دمج تقنيات BitNet وLoRA. يقوم BitNet بضغط أوزان النموذج إلى قيم مبسطة، بينما يحد LoRA من عدد المعلمات القابلة للتدريب.
معًا، تقلل هذه الطرق بشكل كبير من متطلبات الأجهزة. على سبيل المثال، يكون استنتاج وحدات معالجة الرسومات أسرع من وحدة المعالجة المركزية بمقدار من مرتين إلى إحدى عشرة مرة على الأجهزة المحمولة.
بالإضافة إلى ذلك، ينخفض استهلاك الذاكرة بشكل حاد مقارنة بالنماذج ذات الدقة الكاملة. تظهر الاختبارات أن استخدام VRAM أقل بنسبة تصل إلى 77.8% مقارنة بالأنظمة المماثلة.
كما أظهرت Tether إمكانية ضبط النماذج على الهواتف الذكية. أظهرت الاختبارات أن نماذج تحتوي على 125 مليون معلمة يمكن تدريبها خلال دقائق على أجهزة مثل Samsung S25.
يتيح الإطار تشغيل نماذج أكبر على أجهزة الحافة. وأبلغت Tether عن نجاحها في ضبط نماذج تصل إلى 13 مليار معلمة على iPhone 16.
علاوة على ذلك، يدعم النظام وحدات معالجة الرسومات المحمولة مثل Adreno وMali وApple Bionic. مما يوسع نطاق تطوير الذكاء الاصطناعي خارج الأجهزة المتخصصة.
وفقًا لباولو أردوينو، غالبًا ما يعتمد تطوير الذكاء الاصطناعي على بنية تحتية مكلفة. وقال إن هذا الإطار يغير القدرات نحو الأجهزة المحلية.
وأضافت Tether أن النظام يقلل من الاعتماد على المنصات المركزية، ويسمح للمستخدمين بتدريب ومعالجة البيانات مباشرة على أجهزتهم.