نشرت لينكدإن Apache Celeborn كمنصة خلط عن بعد مشتركة عبر غالبية أعباء عمل Apache Spark وApache Flink لديها، مما فصل تخزين البيانات المؤقتة عن البنية التحتية للحوسبة. خفض هذا النشر إخفاقات جلب الخلط اليومية من حوالي 750 إلى 20، وقلل تكاليف الحوسبة بنسبة 10%، وحسّن أوقات تشغيل التطبيقات بنسبة 14%، مقارنةً بتطبيق Magnet السابق.
انخفضت إخفاقات جلب الخلط اليومية من حوالي 750 إلى 20 (المصدر: منشور مدونة لينكدإن).
تنفذ منصة بيانات لينكدإن غير المتصلة بالإنترنت أكثر من 300,000 مهمة Spark يوميًا عبر آلاف العقد الإنتاجية، وتستهلك حوالي 200 بيتابايت-ساعة من الحوسبة. مع اتجاه الشركة نحو بنية Flink موحدة للمعالجة في الوقت الفعلي والتاريخية، تُدخل عمليات التعبئة الخلفية واسعة النطاق أعباء عمل خلط إضافية. ينقل الخلط البيانات المؤقتة بين مراحل المعالجة، مما قد يجهد الشبكات والأقراص وأوقات تشغيل التطبيقات.
عالجت لينكدإن سابقًا أوجه القصور في قراءة الخلط باستخدام Magnet، وهو تطبيقها للخلط القائم على الدفع الذي ساهمت به في Apache Spark 3.2. يجمع Magnet كتل الخلط حسب قسم المُخفِض في ملفات أكبر، مما يقلل من عمليات القراءة العشوائية للقرص. ومع ذلك، ظل تخزين الخلط ضمن مجموعة الحوسبة، حيث تشاركت خدمات الخلط الخارجية موارد وحدة المعالجة المركزية والذاكرة وإدخال/إخراج القرص والشبكة مع أعباء عمل الحوسبة.
مع Apache Celeborn، تدفع مهام التعيين البيانات المؤقتة إلى عمال مخصصين، يقومون بتجميع وتخزين الأقسام بشكل مستقل عن منفذي الحوسبة. تجلب المُخفِضات البيانات مباشرة من هؤلاء العمال، مما يسمح لتخزين الخلط بالتوسع بشكل مستقل عن الحوسبة ويقلل الاعتماد على دورات حياة المنفذ. على عكس Magnet، الذي يستخدم خدمات خلط خارجية مدمجة داخل مجموعة حوسبة Spark، يعمل Celeborn كخدمة خلط منفصلة مع عمال مخصصين ومستوى تحكم مكرر. يقلل هذا الفصل من تنافس الموارد بين أعباء عمل الحوسبة والخلط.
بنية Celeborn في لينكدإن (المصدر: منشور مدونة لينكدإن).
أوضح أرافيند باتنام، مهندس برمجيات في لينكدإن، قائلاً: "تتطلب تشغيله بشكل موثوق عبر آلاف العقد ومئات الآلاف من التطبيقات اليومية هندسة كبيرة تتجاوز المشروع الأصلي."
يستخدم النشر مستوى تحكم قائم على Raft بخمس عقد موزعة عبر مناطق التوفر، مع توفير Apache Ratis لنسخ البيانات الوصفية واختيار القائد وتجاوز الفشل. أدخلت لينكدإن أيضًا نسخًا مدركًا للشبكة ودمجت Celeborn مع منصة صحة المضيف الخاصة بها لإلغاء أولوية العمال الذين يقتربون من الصيانة واستبعاد العمال المتدهورين. ساهمت هذه التغييرات في خفض إخفاقات المهام بمقدار 20 ضعفًا أثناء انقطاعات البنية التحتية مقارنةً بـ Magnet.
عززت لينكدإن تحسين مستوى البيانات بنقل تخزين الخلط إلى أقراص NVMe SSD، مما قلل المدة الإجمالية للخلط بنسبة 40%. أدى استخدام ضغط Zstandard بدلاً من LZ4 إلى تقليل أسطول عمال الخلط المطلوب بنسبة 35% تقريبًا. كما زودت الشركة العمال بواجهات شبكة بسرعة 100 جيجابت في الثانية وحسّنت وقت اختيار الفتحة بمقدار ستة أضعاف من خلال تحسينات JVM ومستوى البيانات. عبر الأسطول، انخفضت تكلفة الخلط بنسبة 90% تقريبًا لكل مهمة، بينما انخفضت نسبة وقت تشغيل المنفذ الذي يقضيه في انتظار عمليات الخلط بنسبة تتراوح بين 10 و15% من ذروتها.
تعالج منصة Flink المتقاربة مئات الملايين من الأحداث في الساعة في عمليات التعبئة الخلفية التاريخية، وتكمل أعباء العمل التي تستغرق عدة أيام في ساعات قليلة. تستخدم آلاف خطوط الأنابيب الآن حسابات Flink الموحدة للمعالجة شبه الفورية والتصحيحات التاريخية، لتحل محل تطبيقات Spark المتوازية. تستكشف لينكدإن التخزين المؤقت والترقيات الأسرع للمشاريع الأصلية مع الاستمرار في المساهمة في Celeborn.
أسئلة شائعة
ما هو Apache Celeborn؟
Apache Celeborn هو منصة خلط عن بعد مشتركة تستخدمها لينكدإن لفصل تخزين البيانات المؤقتة عن البنية التحتية للحوسبة في أعباء عمل Apache Spark وApache Flink.
ما هي أبرز التحسينات التي حققها Celeborn في لينكدإن؟
خفض Celeborn إخفاقات جلب الخلط اليومية من حوالي 750 إلى 20، وقلل تكاليف الحوسبة بنسبة 10%، وحسّن أوقات تشغيل التطبيقات بنسبة 14%. كما ساهم في خفض إخفاقات المهام بمقدار 20 ضعفًا أثناء انقطاعات البنية التحتية.
ما هي التقنيات التي استخدمتها لينكدإن لتحسين أداء Celeborn؟
استخدمت لينكدإن أقراص NVMe SSD لتخزين الخلط، وضغط Zstandard، وواجهات شبكة بسرعة 100 جيجابت في الثانية، بالإضافة إلى تحسينات JVM ومستوى البيانات.




