لا يحتاج مطورو البرمجيات إلى المزيد من تقارير الأخطاء المولدة بالذكاء الاصطناعي؛ بل يحتاجون إلى إصلاحات. في المبادرة التجريبية Codename MDASH، قامت GitHub ومايكروسوفت بتحويل آلاف النتائج الأولية للذكاء الاصطناعي إلى 99 تقريراً خاصاً ومدققاً مع إصلاحات مقترحة لستة مشاريع مفتوحة المصدر واسعة الاستخدام. وقد قام المطورون بالفعل بإصلاح أكثر من نصف هذه الثغرات.
لقد جعل الذكاء الاصطناعي اكتشاف الثغرات المحتملة سريعاً ورخيصاً. لكن إصلاحها لا يزال يتطلب حكماً بشرياً، وفي المصادر المفتوحة، يقع هذا العمل على عاتق المطورين. يعاني العديد منهم بالفعل من فيض من النتائج الأمنية المولدة بالذكاء الاصطناعي، بما في ذلك التقارير المكررة وتلك التي لا تمثل ثغرات أمنية على الإطلاق. لا يساعدهم مسح أولي آخر. يجب على أي شخص يوجه نموذجاً جديداً نحو مشروع أن يسأل مطوريه أولاً وأن يأتي بإصلاحات، وليس مجرد نتائج.
لا ينبغي للذكاء الاصطناعي أن يزيد من عبء عمل المطورين. لذلك، وبالتعاون مع المطورين، أطلقت GitHub ومايكروسوفت مبادرة تجريبية معاً: هل يمكن للذكاء الاصطناعي أن يساعد المطورين في شحن الإصلاحات بدلاً من تقديم المزيد من النتائج لهم؟
تستخدم GitHub ومايكروسوفت Codename MDASH، وهو نظام المسح المتعدد النماذج والوكيل من مايكروسوفت، لاكتشاف وإصلاح الثغرات الأمنية في البرمجيات مفتوحة المصدر واسعة الاستخدام، مما يعزز الأساس الذي بني عليه الكثير من شيفرات العالم.
كيف عملت مبادرة Codename MDASH؟
كان للمبادرة التجريبية هدفان: إرسال النتائج المهمة فقط، وعدم إرسال نتيجة غير مؤكدة إلى المطور أبداً. وإليك كيفية عملها:
- الاكتشاف: قام Codename MDASH، وهو نظام ذكاء اصطناعي من Microsoft Security، بمسح كل مشروع باستخدام نموذج MAI Cyber من مايكروسوفت واقترح إصلاحات لما اكتشفه.
- التصفية: قام وكيل فرز بالذكاء الاصطناعي من GitHub Security Lab، مبني على مهارات Copilot المخصصة، بإزالة التكرارات، والتحقق من الصلاحية، والتركيز على الأخطاء عالية التأثير، بحيث لا يضطر المطورون أبداً إلى مراجعة نتائج المسح الأولية.
- التبليغ الخاص: وصلت التقارير إلى المطورين عبر نظام الإبلاغ الخاص بالثغرات الأمنية في GitHub، مع إثبات للمفهوم وإصلاح مقترح.
- الإصلاح: قرر المطورون ما يجب إصلاحه، وكيفية إصلاحه، ومتى. بقيت التقارير والإصلاحات على GitHub، حيث يعمل المطورون بالفعل.
كانت النتيجة أن Codename MDASH، باستخدام نموذج MAI Cyber من مايكروسوفت، أشار إلى آلاف المشكلات المحتملة عبر المشاريع الستة. وبعد الفرز بالذكاء الاصطناعي والمراجعة اليدوية من قبل سبعة باحثين من Microsoft FORGE Lab، تلقى المطورون 99 تقريراً خاصاً. وحتى 15 نوفمبر، كانوا قد أصلحوا 55 منها، و14 من تلك الإصلاحات كانت قد صدرت بالفعل في إصدار.
ما هي الدروس المستفادة من التجربة؟
تأتي هذه الدروس مما أصلحته المشاريع الستة وما اختار مطوروها مشاركته. المشاريع الستة هي عينة صغيرة، لذا يجب قراءتها كدروس مبكرة.
- الإصلاحات أهم من النتائج: الإصلاح هو ما يقضي فيه المطورون وقتهم. لذلك، وصل كل تقرير مدققاً بالفعل، مع إصلاح مقترح للمراجعة والتكييف والدمج. بدأ المطورون من تصحيح محدد النطاق جيداً، وليس من نتيجة أولية.
تم شحن الإصلاحات الأولى بعد حوالي أسبوع من المسح الأولي. أصلح مطورو Caddy جميع التقارير الـ 22 التي تلقوها في أسبوع أو أقل. استخدم المطورون الإصلاحات المقترحة، بعضها كما هي وبعضها مع تغييرات.
كان مطورو AutoGPT قد شحنوا مؤخراً فحصاً جديداً، وكان معطلاً. وصل التقرير بعد ثلاثة أيام وأشار إلى السطر الصحيح. لقد قاموا بتوسيع الإصلاح أكثر من التصحيح المقترح، وكتبوه في غضون يوم واحد، وكان في الإنتاج بعد أقل من أسبوع.
يقول أحد مطوري Netty: "إصلاحها هو الجزء الصعب، وهذا يعتمد على المطورين."
- Codename MDASH، مع مراجعة الباحثين، قدم للمطورين نتائج عالية الجودة مع إصلاحات: حصل المطورون على قائمة قصيرة، وليس فيضاً. قال مطورو Express إن التقارير قللت من الضوضاء. وقال أحد مطوري Caddy: "تمكن Codename MDASH من العثور على أخطاء أمنية غير معروفة وغامضة في مشروعنا بتقارير موجزة، وسد فجوات من بعض التقارير السابقة التي لم تكن قد لوحظت." بالنسبة لـ FastMCP، تجاوز المسح ما قدمته لهم ماسحات الذكاء الاصطناعي من قبل. تلقى ImageMagick، الذي يديره فريق مكون من شخصين، 22 تقريراً.
قام الذكاء الاصطناعي بالاكتشاف، وقام الباحثون بالتدقيق، وبقي المطورون مسؤولين.
بدا أحد تقارير ImageMagick وكأنه نوع من المشكلات التي رآها المطورون من قبل. أظهر ملخصه أنه ليس كذلك وأشار إلى أسطر الشيفرة الدقيقة. تمكنوا من دفع إصلاح في 15 دقيقة.
يقول أحد مطوري ImageMagick: "عادةً، يستغرق الإشعار الأمني منا حوالي 30 دقيقة إلى ساعة واحدة في المتوسط للقراءة والفهم وإجراء إصلاح. إنه فرق كبير."
- لا يزال المصدر المفتوح يعاني من فجوات يجب سدها: نجحت المبادرة التجريبية لأن الأشخاص قاموا بعمل دقيق في كل خطوة، وهذا العمل لا يتوسع بعد. قضى سبعة باحثين حوالي يومين لكل مشروع في التحقق من النتائج يدوياً. وفي الوقت نفسه، لا تزال التقارير منخفضة الجودة تصل إلى المطورين يومياً.
بالنسبة للمصادر المفتوحة، يجب تسليم الإصلاحات عبر الإبلاغ الخاص بالثغرات الأمنية (PVR). يحتاج المطورون إلى تشغيل اختبارات CI/CD على الفروع الخاصة للتحقق من تلك الإصلاحات. ولسد الفجوة بين المدافعين والمهاجمين، يحتاج المطورون إلى الوصول إلى نماذج قادرة على الأمن السيبراني للتحقق من إثبات المفهوم، قبل وبعد الإصلاح.
يقول أحد مطوري FastMCP: "قدم مسح Codename MDASH رؤى فريدة حول أمان مشروعنا تتجاوز ما قدمته لنا ماسحات الذكاء الاصطناعي في الماضي."
لماذا يهم هذا؟
إذا كنت مطوراً، فإن هذا النهج يغير تكلفة التقرير الأمني عليك. التقرير الخاص والمدقق الذي يأتي مع إصلاح مقترح يستغرق وقتاً أقل منك. لا ينبغي أن تضطر إلى فرز مخرجات الماسح الضوئي. هذه هي وظيفة المرسل.
إذا كنت تستخدم الذكاء الاصطناعي لاكتشاف الثغرات في المصادر المفتوحة، فإن ملاحظات المطورين تشير إلى هذا المعيار:
- تحقق من كل نتيجة قبل إرسالها، مقابل ما يعرفه المشروع بالفعل ومقابل نموذج التهديد وسياسة الأمان الخاصة به.
- أبلغ عنها بشكل خاص.
- قم بتضمين إصلاح مقترح. دع المطورين يحددون الوتيرة.
يقول أحد مطوري AutoGPT: "أصبحت الميزات أسهل وأسهل في الشحن، ولكن في المستقبل، من المحتمل أن يعتمد الحفاظ على البرمجيات على من يهتم بما يكفي لإدارة الأمن."
يقول أحد مطوري Express: "Codename MDASH مفيد جداً في تقليل ضوضاء تقارير الثغرات الأمنية."
ماذا يمكنك أن تفعل اليوم؟
إذا كنت تدير أي مشروع مفتوح المصدر، قم بتشغيل الإبلاغ الخاص بالثغرات الأمنية حتى يتمكن الباحثون من الإبلاغ عن المشكلات الأمنية لك دون جعلها عامة. إذا كان مشروعك على GitHub، قم بتشغيل ميزات الأمان الأساسية في حوالي دقيقتين باستخدام gh-secure.
إذا كنت تعتمد على المصادر المفتوحة، قم بتشغيل تنبيهات Dependabot حتى تعرف متى تحتاج تبعية تستخدمها إلى تحديث أمني.
إذا كنت ترسل تقارير ثغرات أمنية مولدة بالذكاء الاصطناعي إلى مشاريع مفتوحة المصدر، فالتزم بالمعيار المذكور أعلاه قبل إرسالها.
يمكن للمستودعات التي تستخدم أمان شيفرة GitHub استخدام الإصلاح التلقائي الوكيلي للمساعدة في معالجة تنبيهاتها تلقائياً باستخدام Copilot.
ماذا سيحدث بعد ذلك؟
الإصلاحات، حيث يعمل المطورون بالفعل. تقوم GitHub بدمج هذه الدروس في الإبلاغ الخاص بالثغرات الأمنية والإشعارات الأمنية، حيث تستثمر GitHub Security Lab بالفعل لتقليل عبء التقارير منخفضة الجودة على المطورين.
MAI Cyber 2. أعلنت مايكروسوفت اليوم عن MAI Cyber 2. وقد تم تشغيل مبادرة Codename MDASH التجريبية على نموذج MAI Cyber السابق. ستواصل GitHub ومايكروسوفت العمل معاً للمساعدة في تأمين المصادر المفتوحة.
سد الفجوات، بدءاً من صندوق GitHub Secure Open Source Fund. نعمل مع مايكروسوفت لتوسيع نطاق مراجعة الباحثين دون التهاون. ستقدم GitHub لكل مشروع من المشاريع الخريجة مسحاً أمنياً بالذكاء الاصطناعي، مع تدقيق النتائج قبل الإبلاغ عنها بشكل خاص. يحصل الخريجون أيضاً على GitHub Copilot Max. وسنقدم هذا الدعم في الدورات المستقبلية للصندوق.
يستفيد الجميع في المراحل النهائية من هذا النظام. عندما ينشر مطور إشعاراً أمنياً على GitHub ويتم مراجعته لقاعدة بيانات GitHub Advisory Database، يمكن لـ Dependabot تنبيه المستودعات التي تعتمد على تلك الحزمة. هذه هي الفكرة وراء صندوق GitHub Secure Open Source Fund: 216 مشروعاً حتى الآن، مع أكثر من 300 مطور يقومون بإصلاح أكثر من 4000 ثغرة أمنية في برمجيات تم تنزيلها أكثر من 20 مليار مرة شهرياً.
شكراً لكم
إلى مطوري AutoGPT وCaddy وExpress وFastMCP وImageMagick وNetty: شكراً لكم على وقتكم وثقتكم وملاحظاتكم. شكراً أيضاً لفريق Codename MDASH في Microsoft Security، وفريق MAI Cyber، وباحثي Microsoft FORGE Lab، وGitHub Security Lab.
يقوم المطورون بالإصلاح. وظيفتنا هي التأكد من أنهم لا يفعلون ذلك بمفردهم.
حول صندوق GitHub Secure Open Source Fund
جميع المشاريع الستة في هذه المبادرة التجريبية هي من خريجي صندوق GitHub Secure Open Source Fund، الذي يمنح كل مشروع 10,000 دولار من خلال GitHub Sponsors، بالإضافة إلى تدريب أمني ومجتمع خريجين داعم.
يمول صندوق GitHub Secure Open Source Fund، المدعوم من GitHub Sponsors، مشاريع المصادر المفتوحة التي تدعم سلسلة التوريد الرقمية، وتحفز الابتكار، وتعتبر حاسمة لمكدس الذكاء الاصطناعي. هل تريد أن تساعد شركتك في تأمين المصادر المفتوحة التي تعتمد عليها؟ كن شريك تمويل من خلال صفحة الصندوق. تعرف على المزيد حول الصندوق أو تقدم بطلب.
من خلال الصندوق، يتلقى المطورون تدريباً أمنياً وائتمانات Azure من Microsoft for Startups. هذا الدعم يتوافق مع برنامج الأمن الأوروبي من مايكروسوفت ومبادرتها للمستقبل الآمن، التي مبدؤها الأمن فوق كل شيء. معظم المنظمات هي في المراحل النهائية بنفس الطريقة. إذا كانت برمجياتك تعتمد على المصادر المفتوحة، فافعل الشيء نفسه: ادعم المطورين الذين تعتمد عليهم.
جرّب الأداة: فاحص الفروقات بين النصوص




