تصميم نظام خدمة ذكاء اصطناعي مستدام

يحدد النظام الهندسي المحيط بنموذج الذكاء الاصطناعي بشكل متزايد ما إذا كان يمكن تقديم ذكائه بشكل موثوق واقتصادي وعلى نطاق واسع.

الميزة التنافسية التالية في الذكاء الاصطناعي للمؤسسات لها علاقة أقل بالنموذج الذي تختاره وأكثر بما تبنيه حوله.

هذا تحول مهم. على مدى السنوات العديدة الماضية، تركز الكثير من محادثات الذكاء الاصطناعي على قدرة النموذج: نماذج أكبر، استدلال أفضل، نوافذ سياق أوسع، درجات معيارية أعلى. كانت هذه التطورات استثنائية.

بشكل متزايد، تعتمد الإجابة على نظام الخدمة - النظام الهندسي المحيط بالنموذج، بما في ذلك القرارات المتعلقة بالبنية، وإدارة الذاكرة، والجدولة، والتحسين التي تحدد مدى كفاءة تحويل ذكاء النموذج إلى قدرة إنتاجية.

بالنسبة للمديرين التنفيذيين التقنيين، يغير ذلك وجهة استثمار الذكاء الاصطناعي - وما يجب أن يطلبوه من البنية التي تدعمه.

هل يجب البدء بعبء العمل أم بالنموذج؟

يوجد فقط الحل المناسب لمشكلة العمل.

يحتوي المساعد الموجه للعملاء والمحسن للاستجابات السريعة على متطلبات مختلفة جوهريًا عن خط أنابيب معالجة المستندات الذي يمكن تشغيله طوال الليل. قد يستخدم تطبيق المعرفة الداخلية ومنصة خدمة العملاء عالية الحجم نفس النموذج الأساسي ولكنهما يتطلبان بنيات خدمة مختلفة جدًا.

يحدد عبء العمل القيود. ويجب أن تحدد القيود البنية.

يبدو هذا بسيطًا، لكنه يتعارض مع الطريقة التي اتبعتها العديد من المنظمات في عمليات نشر الذكاء الاصطناعي المبكرة. خلال إثبات المفهوم، تهيمن دقة النموذج بشكل طبيعي على النقاش. يقدم الإنتاج قيودًا أسهل بكثير للتجاهل عندما يشارك عدد قليل فقط من المستخدمين: زمن الاستجابة، التزامن، ضغط الذاكرة، استخدام وحدة معالجة الرسوميات (GPU)، تكلفة البنية التحتية، وحركة المرور غير المتوقعة.

النموذج الذي ينتج إجابات أفضل بشكل هامشي ليس بالضرورة الخيار الأفضل للإنتاج إذا ضاعف تكاليف الاستدلال أو لم يتمكن من تلبية متطلبات زمن الاستجابة للتطبيق. لا يحتاج كل عبء عمل إلى سيارة فيراري. أحيانًا يكون القرار الهندسي الأكثر ذكاءً هو النموذج الذي يقدم الأداء الذي تحتاجه الشركة بالضبط دون دفع ثمن قدرة لا تحتاجها.

يجب أن يكون الهدف هو نشر الذكاء المناسب بالتكلفة المناسبة لعبء العمل. وهذا يجعل بنية الخدمة أكثر من مجرد اهتمام هندسي. يصبح قرارًا استثماريًا: أين يتم الإنفاق على الحوسبة، وأين يتم التحسين، وأين لا تستحق القدرة الإضافية للنموذج التكلفة ببساطة.

لماذا هندسة النظام لا النموذج؟

بمجرد وصول الذكاء الاصطناعي إلى الإنتاج، تبدأ القرارات الهندسية التي تبدو معزولة في التأثير على بعضها البعض. تؤثر بنية الخدمة على استخدام الذاكرة. تؤثر إدارة الذاكرة على التزامن. يشكل التزامن التجميع والجدولة، وتؤثر الجدولة على استخدام وحدة معالجة الرسوميات (GPU) وزمن الاستجابة.

عندها فقط يمكن لتقنيات مثل التكميم (quantization)، أو فك التشفير التخميني (speculative decoding)، أو آليات الانتباه المحسنة (optimized attention mechanisms) أن تقدم قيمتها الكاملة. هذه الترابطية مهمة لأن المنظمات يمكن أن تنفق أكثر بكثير على البنية التحتية دون حل القيد الذي يحد من الأداء.

ذاكرة وحدة معالجة الرسوميات (GPU) مثال جيد. أثناء الاستدلال، تظل أوزان النموذج ثابتة، لكن ذاكرة التخزين المؤقت للمفتاح والقيمة (KV cache) تنمو مع الطلبات النشطة وطول السياق. مع زيادة التزامن، يمكن أن ينفد النظام من ذاكرة وحدة معالجة الرسوميات (GPU) القابلة للاستخدام حتى عندما تكون سعة الحوسبة لا تزال متاحة. قد يؤدي إضافة المزيد من الحوسبة دون فهم هذا الاختناق ببساطة إلى جعل نظام غير فعال أكثر تكلفة.

الدرس المستفاد لقادة التكنولوجيا أوسع من إدارة الذاكرة: قِس قبل أن تحسّن. حدد القيد المهيمن. عالجه. قِس النتيجة. ثم حدد ما إذا كان هناك اختناق آخر قد ظهر. كرر.

لا تفكر في تقنيات التحسين كبطاقات بوكيمون: الهدف ليس جمعها كلها. الهدف هو تطبيق التقنية التي تزيل القيد الأكثر تأثيرًا مع الحفاظ على متطلبات العمل للتطبيق.

بالنسبة لقادة التكنولوجيا، يتطلب ذلك سؤال حوكمة مختلفًا. بدلًا من السؤال عن قدرات الذكاء الاصطناعي التي يمكن للمنظمة نشرها، اسأل عن القيود التي تقف بين قدرة مثبتة وقيمة تجارية مستدامة.

لماذا البناء للتغيير لا للمعايير الحالية؟

ربما يكون السبب الأكثر أهمية للاستثمار في نظام الخدمة هو أن النموذج الرائد اليوم لن يكون كذلك غدًا على الأرجح. ستتحسن النماذج. ستتطور الأجهزة. ستظهر تقنيات تحسين جديدة. يجب أن تجعل البنية المحيطة بها هذه التغييرات أسهل في الاستيعاب، لا أن تجبر المؤسسة على إعادة بناء منصة الذكاء الاصطناعي الخاصة بها في كل مرة يتقدم فيها التكنولوجيا.

وهذا يجعل القدرة على التكيف نتيجة متزايدة الأهمية لاستراتيجية الذكاء الاصطناعي.

تكتسب المنظمات التي تبني أنظمة خدمة حول متطلبات عبء العمل، وأهداف مستوى الخدمة الواضحة، والاقتصاديات الإنتاجية القابلة للقياس، القدرة على تقييم النماذج والبنية التحتية الجديدة مقابل ما تحتاجه الشركة بالفعل. يمكن أن يصبح تغيير النموذج قرار تقييم وتكوين بدلًا من إعادة ضبط معمارية.

لقد استكشف باحثو EXL هذه التحديات الإنتاجية بعمق أكبر في سلسلة EXL Engineering the Harness. وتفحص كيف تعمل بنية الخدمة، وإدارة الذاكرة، والجدولة، وتحسين الاستدلال معًا لجعل الذكاء الاصطناعي للمؤسسات أكثر كفاءة وقابلية للتوسع واستدامة اقتصادية.

بشكل متزايد، تتمتع المؤسسات بإمكانية الوصول إلى العديد من النماذج نفسها. يأتي التمايز المستدام من مدى فعالية المنظمة في تحويل هذا الذكاء إلى نتائج تجارية.

يوفر النموذج الذكاء. ويحدد نظام الخدمة ما إذا كانت المؤسسة تستطيع تقديم النتائج بشكل موثوق واقتصادي وعلى نطاق واسع.

تم إنتاج هذا المحتوى بواسطة EXL. ولم يكتبه فريق التحرير في MIT Technology Review.