عندما يعمل شخص مع مساعد ذكي، تكون وتيرة الاستجابة مهمة. فقد يسهّل تدفق النص بسرعة أكبر متابعة شرح، أو فحص شيفرة مولّدة، أو تحديد السؤال التالي.
في دراستنا لـ DeepSeek V4.1 Flash خلال أكتوبر، قاست ProsGrow وسيطاً لسرعة التفاعل أثناء فك الترميز يبلغ 492.6 رمز/ثانية/مستخدم على أربع وحدات MI325X. وبلغت النتيجة المرجعية لـ H200 المنشورة عبر InferenceX، والمطابقة من حيث أربع وحدات معالجة وجلسة واحدة، 332.2. كانت نتيجتنا أعلى بنسبة 48.3%.
هذه نتيجة اختبار ما زالت قيد التقييم؛ فتقييم الجودة المحلي لهذا الإعداد لم يكتمل بعد. وهي تدعو إلى تقييم AMD لأعباء DeepSeek التفاعلية، مع بقاء التأهيل للإنتاج غير مكتمل.
الأرقام وراء العنوان
| المقياس | النتيجة المرجعية المنشورة لـ H200 | ProsGrow على MI325X | الفرق |
|---|---|---|---|
| وسيط سرعة التفاعل أثناء فك الترميز، رمز/ثانية/مستخدم | 332.2 | 492.6 | +48.3% |
| معدل إنتاج المخرجات، رمز/ثانية/GPU | 37.45 | 42.83 | +14.4% |
DeepSeek V4.1 Flash؛ أربع وحدات معالجة مخصصة للنموذج؛ جلسة متزامنة واحدة. مرجع H200: 21 سبتمبر 2026. قياس ProsGrow: 20 أكتوبر 2026.
تقيس سرعة التفاعل أثناء فك الترميز وتيرة توليد الرموز بعد بدء الاستجابة. ويقيس معدل إنتاج المخرجات ما يُقدَّم عبر نافذة طلبات الاختبار، بما يشمل فترات التوقف بين الجولات. لذلك تصف نسبة 48.3% في العنوان سرعة تدفق الرموز، وليس انتهاء استجابة كاملة أو مهمة أعمال بسرعة أعلى بنسبة 48.3%.
تحسن المقياسان مقارنة بالمرجع المختار، ولكن بمقدارين مختلفين.
خيار تشغيل على AMD يستحق الاختبار
بالنسبة إلى الفرق التي تخطط لمساعدي برمجة خاصين أو أدوات مستندات أو تطبيقات محادثة، توسع هذه النتائج نطاق خيارات البنية التحتية الجديرة بالتقييم. فقد يغيّر النموذج وعبء العمل وبرمجيات خدمة الاستدلال الأداء المتاح من بيئة وحدات معالجة الرسومات بشكل ملموس.
تكمن الفرصة التجارية في اختيار البنية التحتية وفق التجربة التي يحتاجها تطبيقك. فقد تختلف اختيارات خدمة محسّنة لعدد قليل من الجلسات الحساسة للتأخير عن اختيارات خدمة مصممة لطلبات متزامنة كثيرة.
لا ينبغي تعميم نتيجة الجلسة الواحدة على مستويات التزامن المختلفة. فقد ظلت الإعدادات التي اختبرناها عند ثماني جلسات خلف النتائج المرجعية المنشورة المقابلة لـ H200. تدعم النتيجة قرار تشغيل موجهاً لعبء محدد، ولا تعني تفوق نوع واحد من وحدات المعالجة في جميع أعباء العمل.
ما الذي غيّرته ProsGrow
دمجنا وقيّمنا تحسينات في منظومة خدمة الاستدلال العامة vLLM ROCm تقلل الأعباء الإضافية أثناء التوليد. وركز عمل ProsGrow على اختيار إعداد ملائم، ومقارنته بتشغيلات ضابطة محلية، وقياسه باستخدام عبء مسجّل لتفاعلات الوكلاء الذكية.
يأتي التنفيذ الأساسي من مجتمع مشروع vLLM الأصلي. ويتطلب تحويل هذه القدرة إلى خيار تشغيل فهم المواضع التي تفيد فيها، والأجهزة القادرة على دعمها، وخطوات التحقق التي ما زالت مطلوبة.
هذا هو العمل وراء العنوان: ربط قدرة برمجية بعبء عمل محدد، ثم قياس النتيجة.
ملاحظات القياس
تأتي أرقام H200 من تشغيل منشور على InferenceX، احتفظنا به بوصفه الصف 442749 في لقطة 19 أكتوبر. هذه مقارنة بمرجع تاريخي على مضيف وإعداد برمجي مختلفين، وليست اختباراً متزامناً يعزل أثر الأجهزة وحدها أو إدخالاً محدّثاً في لوحة الترتيب.
تستخدم نتيجتنا المحلية تشغيل AgentX مجدولاً لمدة ساعة مع محاكاة قبول التوليد التخميني. ويتبع وسيط سرعة التفاعل أثناء فك الترميز تعريف الاختبار المؤرشف، وهو مقلوب زمن التأخير بين الرموز. ولا ينبغي استخدامه بدلاً من زمن ظهور أول رمز أو الزمن الكلي لإنجاز المهمة. يوجد تشغيل أداء رسمي واحد لهذا الإعداد، دون فاصل ثقة.
يُعد تقييم الجودة المحلي الذي لم يكتمل بعد خطوة مطلوبة قبل التأهيل للإنتاج. كما يلزم اختبار صحة النتائج الخاصة بالتطبيق، والأداء مع التحقق الفعلي، ومستوى التزامن المستهدف.
قيّم DeepSeek على AMD وفق عبء عملك
تساعد ProsGrow الفرق على استكشاف الاستدلال الخاص وبيئات وحدات AMD المخصصة. يمكننا البدء بطلبات التطبيق وأهداف زمن الاستجابة المهمة لك، ثم تقييم إعداد وفق هذه المتطلبات.