بالنسبة إلى فريق يبني خدمة ذكاء اصطناعي خاصة، تُعد القدرة المفيدة سؤالاً تجارياً: ما حجم العمل الذي تستطيع بيئة التشغيل معالجته، وكم سينتظر المستخدمون الاستجابة عندما يزداد الطلب؟
في دراستنا لـ DeepSeek V4.1 Flash خلال أكتوبر، حقق إعداد محدّث لخدمة الاستدلال معدل إنتاج مخرجات لكل GPU أعلى بنسبة 60.1% من مرجع InferenceX لـ MI325X بتاريخ 22 سبتمبر، مع تخصيص وحدتي المعالجة نفسه و32 جلسة اختبار متزامنة. وبالمقارنة مع خط أساسنا على الجهاز نفسه، بلغ التحسن 60.8%.
ظل تخصيص الأجهزة كما هو. وكانت الفرصة في طريقة استخدام برمجيات خدمة الاستدلال لهذه الأجهزة.
النتيجة: مخرجات أكثر من وحدات المعالجة المخصصة نفسها
| الإعداد | معدل إنتاج المخرجات، رمز/ثانية/GPU |
|---|---|
| مرجع InferenceX المنشور لـ MI325X | 227.8 |
| خط أساس ProsGrow المحلي | 226.7 |
| إعداد ProsGrow المحسّن | 364.6 |
DeepSeek V4.1 Flash؛ وحدتا معالجة مخصصتان لنسخة نموذج واحدة؛ 32 جلسة متزامنة تعتمد على سجلات تفاعل. يعود المرجع العام إلى 22 سبتمبر 2026؛ أما قياسات ProsGrow المحلية فمن 20 أكتوبر.
أظهرت المقارنة المحلية أيضاً تغيراً كبيراً في بدء الاستجابات. فقد انخفض متوسط زمن ظهور أول رمز من 4.70 إلى 1.09 ثانية، أي بانخفاض 76.8%. وأكمل التشغيل المحسّن 2,785 طلباً في مرحلة القياس، مقابل 1,896 في التشغيل الأساسي، خلال الاختبار الممتد ساعة.
تصف هذه المقاييس فوائد مختلفة: قدرة أكبر على إنتاج المخرجات، وانتظاراً أقل قبل بدء التوليد، وطلبات أكثر معالجة. والطلبات المكتملة هي طلبات اختبار، وليست عدداً لمهام العملاء المنجزة.
ما الذي يعنيه ذلك لقدرة الذكاء الاصطناعي الخاص
قد يعود المساعد إلى المستندات والتعليمات وسجل المحادثة نفسه عبر جولات كثيرة. وإذا أعادت منظومة الاستدلال معالجة عمل يمكنها إعادة استخدامه، فإن قدرة GPU المتاحة تنجز عملاً مفيداً أقل للتطبيق.
تشير نتيجتنا إلى خطوة عملية قبل توسيع بيئة الاستدلال: قياس النظام الحالي بحركة طلبات ممثلة للواقع، وتقييم إعدادات خدمته. وبالنسبة إلى أعباء العمل ذات أنماط إعادة الاستخدام المشابهة، قد توفر التغييرات البرمجية قدرة إضافية ضمن تخصيص GPU نفسه.
هذه قدرة إضافية محتملة تستحق البحث. ويتطلب تحويلها إلى تقدير للتكلفة لكل طلب معرفة سعر الاستضافة الفعلي، ونسبة الاستغلال، وموارد المعالج المركزي والذاكرة، وأهداف جودة التطبيق. لم نقس وفورات تكاليف العملاء في هذه الدراسة.
كيف توصلنا إلى التحسن
جمعت ProsGrow بين تحديث منظومة خدمة الاستدلال مفتوحة المصدر وتحسين إعادة استخدام السياق المؤهل عبر جولات الوكيل الذكي. حددنا خط أساس محلياً، وقيّمنا إعدادات مرشحة، وقارنّا تشغيلات اختبار كاملة.
يبني هذا العمل على DeepSeek ومنظومة vLLM ROCm. وكانت مساهمتنا تحديد فرصة التحسين في بيئة التشغيل، ودمج الإعداد، وقياس سلوكه على MI325X. وتعكس المكاسب المحلية البالغة 60.8% الأثر المشترك لتحديث البرمجيات والإعدادات.
يمتد هذا العمل من النهج المتمحور حول عبء العمل في دراستنا السابقة لزمن استجابة DeepSeek. تلك الدراسة وقياسات أكتوبر هذه تجربتان منفصلتان، ولا ينبغي جمع نسب التحسن فيهما.
ملاحظات القياس
هذه نتائج هندسية محلية لـ ProsGrow باستخدام بروتوكول InferenceX AgentX المؤرشف: سجلات تفاعلات وكلاء مسجّلة، وتشغيلات مجدولة لمدة ساعة، ومحاكاة قبول التوليد التخميني. تضبط المحاكاة أحد شروط اختبار الأداء؛ أما استجابات الإنتاج فتحتاج إلى تحقق فعلي وتقييم منفصل. ويحسب معدل الإنتاج المخرجات المولّدة خلال نافذة الطلبات المرصودة، بما في ذلك فترات التوقف في السجل.
يقارن العنوان قياسنا بـ تشغيل مرجعي عام مؤرّخ احتفظنا به بوصفه الصف 442868 في لقطة 19 أكتوبر. ولا يمثل ذلك ادعاءً بتحديث ترتيب InferenceX. وتوفر المقارنة المحلية قبل التغيير وبعده مقارنة على الجهاز نفسه. لكل إعداد محلي مذكور هنا تشغيل رسمي واحد، دون فاصل ثقة.
استخدم فحص جودة صغير ومنفصل تخصيصاً مختلفاً لوحدات المعالجة ومستوى تزامن مختلفاً. وهو لا يثبت جودة هذا الإعداد ذي الوحدتين و32 جلسة. وتظل جودة مهام العملاء وأزمنة الاستجابة في الخدمة الفعلية جزءاً من التأهيل للإنتاج.
اكتشف القدرة المتاحة في بيئة التشغيل لديك
تستطيع ProsGrow مساعدتك على تقييم استضافة DeepSeek الخاصة وفق مزيج طلباتك وحركة الاستخدام وأهداف زمن الاستجابة وميزانية البنية التحتية. ابدأ بخط أساس مقاس، ثم اختبر مقدار القدرة التي يمكن استعادتها بالإعداد المناسب لخدمة الاستدلال.