AMD MI355X يحقق استدلال GLM 5.2 بنصف تكلفة NVIDIA B200

وفقاً لـ Wafer، وهي شركة ناشئة متخصصة في تحسين الاستدلال، حققت رقاقات AMD MI355X التي تشغل أحدث نموذج مفتوح المصدر GLM 5.2 تكاليف استدلال تعادل تقريباً نصف تكلفة شريحة NVIDIA الرائدة B200، مع تقديم ما يقرب من 80% من الأداء. أظهر الاختبار إنتاجية إجمالية للعقدة الواحدة بلغت 2,626 رمزاً في الثانية، بينما بلغت إنتاجية الدفق الواحد 213 رمزاً في الثانية. استفاد التحسين من تقنيات برمجية تشمل تكميم النموذج، واختيار محرك الاستدلال، وإصلاحات التوافق مع ROCm، بدلاً من الأجهزة المخصصة.

أكد تقرير منفصل من SemiAnalysis نتائج مماثلة، مستشهداً بتكاليف استدلال AMD MI355X البالغة 0.22 دولار لكل مليون رمز في السيناريوهات التفاعلية، وهي أقل من 0.30 دولار لـ NVIDIA B200. ومع ذلك، لا تزال ميزة AMD قائمة بشكل أساسي في نشر العقدة الواحدة؛ بينما تحتفظ NVIDIA بفارق كبير في الأنظمة الموزعة متعددة العقد والتطبيقات على مستوى المؤسسات.