معدل إنتاج يقارب 3× لـ GLM-5.2 على وحدات AMD مع ProsGrow Managed Inference

بالنسبة إلى فريق يبني مساعداً ذكياً خاصاً، تصبح قدرة GPU ذات قيمة عندما تتحول إلى عمل منجز. فقد يولّد النموذج الرموز بسرعة، ومع ذلك يقضي وقتاً طويلاً في معالجة سياق طويل، أو استرجاع حالة محادثة سابقة، أو الانتظار بين مراحل سير عمل الوكيل الذكي.

شكّل هذا التمييز محور دراستنا لـ GLM-5.2. اختبرنا مقدار المخرجات الإضافية التي تستطيع وحدات AMD MI325X الثماني نفسها تقديمها عبر تحسين طريقة تعامل نظام خدمة الاستدلال مع السياق القابل لإعادة الاستخدام. وظلت نسخة أوزان النموذج ودقته العددية كما هما.

معدل مخرجات يقارب ثلاثة أمثال السابق

في تجربتنا بتاريخ 6 أكتوبر، ارتفع معدل إنتاج المخرجات المقاس من 3.03 إلى 9.05 رمز في الثانية لكل GPU. وعلى مستوى الخادم ذي الوحدات الثماني، بلغ ذلك 24.22 إلى 72.43 رمز مخرجات في الثانية، أي 2.99× مقارنة بإعدادنا المحلي الأساسي.

تُظهر قياسات أول رمز جانباً آخر من النتيجة: أصبحت فترات الانتظار الطويلة في هذا العبء أقصر بكثير. ولم يتغير وسيط سرعة التفاعل أثناء تدفق الرموز إلا بنسبة 2.1%، لذا ينبغي فهم تحسن معدل الإنتاج بوصفه نتيجة لعبء خدمة الاستدلال كاملاً، وليس ادعاءً بأن كل رمز وُلّد أسرع بثلاث مرات.

ارتفع وسيط زمن الطلب الكامل من 6.73 إلى 7.92 ثانية مع تغير مزيج الاستجابات المكتملة. لذلك لم يعن ارتفاع معدل الإنتاج الإجمالي تحسن جميع مقاييس التأخير.

حافظ على فائدة السياق لمدة أطول

غالباً ما تعود تدفقات عمل الوكلاء الذكية إلى مواد عالجتها سابقاً. ويمكن للاحتفاظ بهذا العمل تقليل الحاجة إلى معالجة السياق نفسه مجدداً، خصوصاً عندما تتنافس محادثات متعددة على الذاكرة.

ركز نهجنا على تنسيق إعادة استخدام السياق عبر موارد ذاكرة الخادم. استخدمنا ذاكرة المضيف المتاحة إلى جانب ذاكرة GPU، وضبطنا سياسة الخدمة، وفحصنا سلوك الإعداد تحت عبء الاختبار الكامل. وأظهرت عدادات الخادم ارتفاع إعادة استخدام الذاكرة المخبأة إجمالاً من 83.4% إلى 96.6%.

الاستنتاج التجاري عملي: ينبغي لتقييم بيئة التشغيل فحص سلوك الذاكرة والسياق إلى جانب القدرة الحسابية لـ GPU. فقد تتوفر قدرة إضافية في خادم قائم قبل أن يصبح شراء وحدات أخرى الخطوة التالية. ويعتمد مقدارها على حركة التطبيق ومتطلبات الاستجابة.

المقارنة مع المرجع المنشور

بلغ قياسنا 9.05 رمز/ثانية/GPU، وهو أيضاً 2.19× قيمة 4.14 رمز/ثانية/GPU في مرجع InferenceX لـ GLM-5.2 بتاريخ 25 سبتمبر 2026، الصف 443210، لثماني وحدات MI325X عند تزامن أربعة طلبات. وكان وسيط سرعة التفاعل أثناء تدفق الرموز أقل بنسبة 3.6% من ذلك المرجع. هذه مقارنة بنقطة منشورة تاريخية؛ وتمنع اختلافات هوية بيئة التشغيل وظروف الاختبار ادعاء إعادة إنتاج النتيجة بدقة. التشغيل المرجعي المنشور

ما الذي تدعمه النتيجة

قبل تشغيل اختبار الأداء، أجابت فحوص منفصلة باستخدام التحقق الفعلي إجابة صحيحة عن 125 من 128 سؤالاً رياضياً في حالتي السياق القصير والطويل، دون أن تتحول أي إجابة صحيحة في خط الأساس إلى إجابة خاطئة. تدعم هذه الفحوص الإعداد المختبَر؛ وتحتاج تدفقات عمل العملاء إلى تقييم الجودة الخاص بها.

تأتي نتيجة الأداء من زوج واحد من اختبارات AgentX المتتابعة، مدة كل منها ساعة، باستخدام محاكاة قبول التوليد التخميني. كانت بعض الاستجابات أقصر من المطلوب، ومر التشغيلان بمزيجين مختلفين من الاستجابات مع اختلافات صغيرة في أطوال المدخلات. احتُفظ بجميع الاستجابات المكتملة. تنطبق النتيجة على GLM-5.2 FP8 عند تزامن أربعة طلبات، وليست ضماناً لقدرة الإنتاج أو تكلفته.

هل تخطط لاستضافة GLM خاصة أو تقيّم بنية وحدات AMD مخصصة؟ تستطيع ProsGrow مساعدتك على تقييم نموذجك وعبء عملك وأهداف الاستجابة، وتحديد تغييرات الخدمة التي تستحق الاختبار قبل توسيع القدرة. ناقش مشروعاً تجريبياً