ذكرت الشركة أنها راقبت استخدام معاينة النموذج المتعلق بالأمن السيبراني في حركة المرور الحية.
وأضافت الشركة في منشور مدونة أعلنت فيه عن الإصدار أن Mistral تعدّل حواجز الحماية الخاصة بالنموذج وستستمر في تحديثها خلال الأشهر القادمة.
هل تصل تحديثات الحماية إلى النسخ التي تم تنزيلها؟
وعند سؤاله عن مراحل الهجوم التي ساعد فيها النموذج بشكل كبير في حركة المعاينة، لم يذكر ستوك أيًا منها. وقال إن أهم المكاسب كانت في العمل الدفاعي مثل تحديد الثغرات الأمنية في البرمجيات وإعادة إنتاجها ومعالجتها.
أشارت Hugging Face، التي تستضيف الأوزان، في منشور إطلاقها الخاص إلى أن الأوزان المفتوحة تضع سياسة الاستخدام والنشر تحت سيطرة المستخدم.
في يوليو، أفاد معهد أمن الذكاء الاصطناعي في المملكة المتحدة بأن النماذج الرائدة مفتوحة الأوزان تأخرت عن النماذج المغلقة المتقدمة بأربعة إلى سبعة أشهر في مهام الأمن السيبراني.
يستخدم المهاجمون بالفعل أدوات الذكاء الاصطناعي مفتوحة المصدر. في وقت سابق من هذا الشهر، ذكرت مايكروسوفت أن مجموعة متحالفة مع الصين استخدمت إطار عمل الذكاء الاصطناعي الوكيل ARTEX لاستهداف أكثر من 2250 مستأجرًا لـ Microsoft 365.
ما هو أداء النموذج في الأمن السيبراني؟
ووفقًا للشركة، رفض Large 4 نسبة 96.6% من المطالبات الخبيثة في الأجزاء المتعلقة بالأمن السيبراني من معايير JailbreakBench وStrongREJECT وAgentHarm، وهو أعلى معدل سجلته بين النماذج المفتوحة.
تتعامل Mistral مع نسخة متخصصة للأمن السيبراني بشكل مختلف. ذكرت الشركة أن شركاء التصميم مثل Orange Cyberdefense يحصلون على وصول معاينة إلى نسخة محسّنة لاختبار الاختراق وتقييم الثغرات الأمنية واختبار الفرق الحمراء. وأشار المنشور إلى أن الوصول "يخضع لتدقيق صارم وضمانات تعاقدية" ويقتصر على الأنظمة التي يمتلكها الشركاء أو المصرح لهم باختبارها.
وقالت الشركة إن النموذج سجل 51% في مؤشر Artificial Analysis Cyber Index، الذي يقيس مدى جودة النموذج في العثور على الثغرات الأمنية وإعادة إنتاجها وتصحيحها. ويُظهر الرسم البياني في منشور Mistral أن نموذجين مفتوحي الأوزان، DeepSeek V4.1 Flash وMiMo-V2.6-Pro، سجلا درجات أعلى.
تصف Mistral أيضًا Large 4 بأنه أفضل نموذج مفتوح الأوزان للبرمجة، مستشهدة بالنتائج الرائدة في Cognition’s FrontierCode 2.0 وTerminal-Bench 4.0.
قال تشارلي داي، نائب الرئيس والمحلل الرئيسي في Forrester، إنه "بدون تقرير فني مفصل، يظل ادعاء أفضل نموذج مفتوح الأوزان صعب التحقق عبر أعباء العمل".
وتعتزم Mistral أيضًا مشاركة نتائج اختبارات العدائية ذات الصلة "مع حماية معلومات الأمان الحساسة". ولم يذكر تاريخ النشر.
بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي، يُفترض أن النماذج المدربة بأكثر من 10^25 عملية نقطة عائمة (FLOPs) تحمل مخاطر نظامية، وفقًا للمفوضية الأوروبية. ويجب على مزوديها تقييم هذه المخاطر والتخفيف منها، والإبلاغ عن الحوادث الخطيرة، والحفاظ على حماية الأمن السيبراني. لا يذكر منشور Mistral ما إذا كان Large 4 يندرج ضمن هذه الفئة أو ما هو تقييم المخاطر الذي سبق الإصدار.
قال ستوك إن Mistral هي موقع كامل على مدونة قواعد الممارسات للذكاء الاصطناعي للأغراض العامة للاتحاد الأوروبي، بما في ذلك فصل السلامة والأمن، والذي تقبله المفوضية كطريقة لإثبات الامتثال. ولم يذكر ما إذا كان Large 4 قد صُنف كنموذج ذي مخاطر نظامية.
ما الذي يعنيه ذلك للمؤسسات؟
أصدرت Mistral النموذج بموجب ترخيص MIT معدّل يسمح بالاستخدام والتعديل والضبط الدقيق والتسويق، حسبما ذكرت الشركة. تحتاج الشركات التي تقدم خدمة نموذج كخدمة إلى ترخيص منفصل. بالنسبة لأولئك الذين يفضلون عدم استضافته، يبلغ سعر واجهة برمجة تطبيقات Mistral (API) 0.70 دولار لكل مليون رمز إدخال و2.10 دولار لكل مليون رمز إخراج.
بالنسبة للمشترين الأوروبيين، تُعد السيادة "عامل تمييز مهم، لكنها لا ينبغي أن تفوق المخاوف الأمنية"، حسبما قال داي. وأضاف أن الأوزان المفتوحة والاستضافة الذاتية تحول مسؤولية حواجز الحماية وضوابط الوصول والمراقبة ومنع إساءة الاستخدام إلى المشغل.
وقال داي: "لذلك يجب تقييم السيادة والأمن معًا، لا المتاجرة بأحدهما على حساب الآخر".
ويعني ذلك بيئات معزولة، ووصول بأقل امتيازات للكود وبيانات الاعتماد، وكود مُنشأ في بيئة معزولة (sandboxed)، وموافقة بشرية قبل أي معالجة. وأضافت أن "الاستضافة الذاتية يمكن أن تحسن التحكم في البيانات واستمرارية التشغيل، لكنها تجعل المؤسسة مسؤولة وحدها عن التصحيح والمراقبة والتقييم ومنع إساءة الاستخدام".
