صرح داريو أمادي، الرئيس التنفيذي لشركة أنثروبيك، بأن الشركة أطلقت نماذج Mythos-class لأول مرة في فبراير 2026، لكنها أخرت الوصول الأوسع حتى يونيو لبناء ضمانات أقوى للأمن السيبراني. وقد أقر بأن القرار قد كلف أنثروبيك ميزة تنافسية. ويجادل بأن إطلاق النماذج في وقت أبكر كان سيمنح المنظمات وقتاً أقل لإعداد بنيتها التحتية لهجمات سيبرانية متزايدة القدرة ومدعومة بالذكاء الاصطناعي.
يكتب أمادي: «لقد ضحينا على الأرجح بجزء كبير من صدارة نموذجية لعدة أشهر».
توضح أنثروبيك لموقع The New Stack أن التأخير يتبع التزاماً في سياستها للمقياس المسؤول يتطلب حجة قوية بأن الخطر الكارثي محتوي، وتأخير التطوير والنشر بقدر ما هو ضروري حتى لا تعتقد الشركة أنها تحتفظ بصدارة كبيرة.
ما هي الانتقادات الموجهة لاستراتيجية أنثروبيك؟
في انتقاده الذي نشره يوم الاثنين، يجادل كالفن بأن أنثروبيك تشبه بشكل متزايد شركة تتسابق لبناء ذكاء فائق بينما تضعف التزاماتها بمنع نتائج الذكاء الاصطناعي الخطيرة.
ويشير إلى صفقات الحوسبة التي أبرمتها الشركة بأكثر من 500 مليار دولار، واستخدامها المتزايد للذكاء الاصطناعي لتطوير نماذج جديدة، والتغييرات في سياستها للمقياس المسؤول، التي تحدد الضمانات مع ازدياد قوة النماذج.
يسأل كالفن: «عندما تنحرف أنثروبيك وترتكب أخطاء، لماذا تميل الأخطاء بشكل منهجي إلى حماية مصالح أنثروبيك وتفضيلها؟»
تستبدل مراجعة أنثروبيك للسياسة في فبراير، الإصدار 3.0، المتطلبات السابقة، التي يسميها أمادي الآن صارمة للغاية، بنهج يؤكد على الشفافية والإبلاغ عن المخاطر والتقييم المستقل. الإصدار الحالي هو 3.4، ساري المفعول اعتباراً من 8 يوليو.
في خارطة طريق سلامة الحدود الخاصة بها، تقول أنثروبيك إنها «ستسعى جاهدة لتجنب المواقف التي نراجع فيها الأهداف في اتجاه أقل طموحاً لأننا ببساطة لا نستطيع التنفيذ».
لماذا تراجعت أنثروبيك عن تعهدها بالسلامة؟
تزيل مراجعة فبراير أيضاً التزاماً عام 2023 بعدم تدريب نظام ذكاء اصطناعي إلا إذا تمكنت أنثروبيك من ضمان كفاية إجراءات السلامة الخاصة بها مسبقاً. يجادل كالفن بأن التغيير يضعف التزام أنثروبيك الأحادي بإبطاء أو إيقاف التطوير.
تقول أنثروبيك إن سياستها المحدثة هي الأقوى حتى الآن فيما يتعلق بالمساءلة العامة والشفافية.
صرح جاريد كابلان، كبير العلماء في أنثروبيك، لمجلة Time في قصة نشرت في فبراير بأن المنطق عملي.
يقول كابلان: «شعرنا أنه لن يساعد أحداً في الواقع أن نتوقف عن تدريب نماذج الذكاء الاصطناعي»، مضيفاً أن الالتزامات الأحادية لم تكن منطقية «إذا كان المنافسون يتقدمون بسرعة».
يقدم أمادي دفاعاً مشابهاً في منشوره على X يوم الثلاثاء.
يكتب: «لطالما كانت استراتيجيتنا ما أسميته 'السباق نحو القمة'»، مجادلاً بأن أنثروبيك يمكنها تشكيل معايير السلامة الصناعية بشكل أكثر فعالية من خلال البقاء في الطليعة التكنولوجية.
ويقر بأن أنثروبيك كان بإمكانها التعامل مع ثلاث من نقاط كالفن بشكل أفضل، بما في ذلك تعاملها مع مشروع القانون، ويصف انتقاد سياسة المقياس المسؤول بأنه «البند الأكثر جوهرية»، لكنه يجادل بأن الشركة ضحت مراراً بمزايا تجارية من أجل السلامة. بالإضافة إلى تأخير Mythos، يشير إلى ضمانات بيولوجية مقيدة، ودعم تنظيم الذكاء الاصطناعي، وضوابط التصدير على الرقائق المتقدمة ومعدات تصنيع الرقائق.
ويجادل أمادي بأن هذه القرارات تظهر استعداداً لوضع السلامة قبل الأرباح قصيرة الأجل، حتى عندما تحمل تكاليفاً باهظة، وأن استراتيجية أنثروبيك ظلت متسقة.
أبريل-يونيو: أنثروبيك توسع الوصول إلى Mythos
أطلقت أنثروبيك لأول مرة Claude Mythos Preview في أبريل من خلال Project Glasswing، مما أتاح لشركاء مختارين، بما في ذلك أمازون، آبل، مايكروسوفت، كراودسترايك، ومؤسسة لينكس، الوصول إلى قدرات اكتشاف الثغرات في النموذج للعمل الدفاعي مع إبقائه بعيداً عن متناول المطورين العاديين.
في 2 يونيو، وسعت أنثروبيك البرنامج ليشمل حوالي 150 منظمة إضافية في أكثر من 15 دولة. تحذر أنثروبيك من أنه بالنسبة لمعظم الشركاء، يمكن أن يؤثر هجوم كبير على أكثر من 100 مليون شخص، وفقاً لتقديرات أنثروبيك. وتذكر أيضاً أن «مئات الآلاف من المنظمات والباحثين والقائمين على الصيانة» سيحتاجون على الأرجح إلى الوصول إلى قدرات الأمن السيبراني المتقدمة قبل أن تتمكن أنثروبيك من إطلاق نماذج بمستوى Mythos على نطاق أوسع.
يونيو: إطلاق Fable ثم سحبه
أطلقت أنثروبيك Claude Fable 5 في 9 يونيو، وهو نموذج من فئة Mythos مع ضمانات إضافية للأمن السيبراني والضمانات البيولوجية والكيميائية التي تقول الشركة إنها تجعله مناسباً للاستخدام العام. شارك شقيقه، Mythos 5، نفس النموذج الأساسي ولكنه حمل قيوداً أقل على الأمن السيبراني وظل مقتصراً على الشركاء الموثوق بهم. وقد أوضحت أنثروبيك هذا التمييز في إعلان إطلاقها.
بعد ثلاثة أيام، في 12 يونيو، أجبر توجيه حكومي أمريكي لضوابط التصدير أنثروبيك على تعليق كلا النموذجين. حظر الأمر وصول الرعايا الأجانب، بمن فيهم موظفو الشركة أنفسهم. ولأن الأمر شمل الرعايا الأجانب في كل مكان، ذكرت أنثروبيك أن الطريقة الوحيدة للامتثال كانت تعطيل النماذج لجميع العملاء، على الرغم من أنها اختلفت علناً مع التوجيه.
رفعت وزارة التجارة الضوابط في 30 يونيو. عاد Fable 5 عالمياً على منصات أنثروبيك الخاصة في 1 يوليو، بينما استعاد Mythos 5 الوصول لبعض المنظمات الأمريكية المختارة في 26 يونيو.
تشكل قواعد الوصول الآن ما يمكن للمطورين استخدامه. يمنح برنامج أنثروبيك الموسع للتحقق السيبراني المتخصصين في الأمن إمكانية الوصول إلى نماذجها الأكثر قدرة، بما في ذلك Claude Mythos 5.1، من خلال ثلاثة مستويات بناءً على نطاق عملهم في الأمن السيبراني. يحصل أعضاء Glasswing الحاليون على الوصول إلى المستوى الأقل تقييداً، بينما تخضع المنظمات الجديدة التي تتقدم لهذا المستوى لمراجعة تشمل أنثروبيك والحكومة الأمريكية.
في اختبارات أنثروبيك الخاصة، حظر مستوى الوصول الدفاعي، وهو الأكثر تقييداً من المستويات الثلاثة، Claude Opus 5.5 في مرحلة ما في 46 من أصل 50 تجربة على CyScenarioBench، وهو معيار أمني هجومي متعدد المراحل، بينما لم يحظر مستوى الوصول للفرق الحمراء أياً منها.
لا يتضمن الإعلان معياراً دفاعياً مماثلاً، مما يجعل من الصعب تحديد عدد المرات التي قد تتداخل فيها القيود مع العمل الأمني المشروع. تقر أنثروبيك بأن ضماناتها تنتج إيجابيات كاذبة في الترميز الآمن وتقدم نموذجاً للمستخدمين للإبلاغ عن الحظر الخاطئ.
مواكبة الحدود وخارطة طريق السياسة
يقر أمادي بأن تطوير الذكاء الاصطناعي قد يتحرك قريباً بشكل أسرع من الضمانات المصممة لحكمه. يكتب في منشور X: «نحن نقترب من تلك النقطة».
توضح أبحاث أنثروبيك الخاصة سبب قلق الشركة.
يقيس هذا الرقم سطور كود الإنتاج المنسوبة إلى كلود، وليس التحكم الذاتي في القرارات الهندسية للشركة. تصف أنثروبيك الرقم بأنه متحفظ، وقد قدر القادة بشكل منفصل أن كلود يكتب 90% أو أكثر من الكود عند تضمين السكريبتات والكود التجريبي.
يكتب المؤلفون: «لسنا هناك بعد، والتحسين الذاتي المتكرر ليس حتمياً».
يدعو الاقتراح إلى تقييمات مستقلة، وإبلاغ عام بالمخاطر، ومنح الحكومات السلطة القانونية لحظر أو ردع عمليات النشر التي تشكل مخاطر كارثية. سيسمح مشروع قانون أنثروبيك لشهر أكتوبر بالحظر فقط عندما يُحكم على نموذج بأنه يهدد بشكل وشيك بقتل أو إصابة أكثر من 50 شخصاً أو التسبب في أضرار تزيد عن مليار دولار.
تجادل أنثروبيك بأن مواكبة الحدود تتطلب تنسيقاً على مستوى الصناعة وعالمياً إلى جانب الخطوات التي يمكن للمختبرات الفردية اتخاذها بمفردها.
تحدد خارطة طريق سلامة الحدود للشركة، التي تعود أحدث إدخالاتها إلى 19 أكتوبر، تاريخ 15 ديسمبر 2026 كهدف لاقتراح سياسة حول كيفية دعم الحكومات للوصول الأعمق للمقيمين المدمجين.
بحلول 15 يناير 2027، تخطط أنثروبيك إما لنشر إطار عمل سياسي لتشكيل وتيرة تطوير الذكاء الاصطناعي أو شرح سبب قرارها بعدم القيام بذلك. تحذر خارطة الطريق من أن أبحاث الذكاء الاصطناعي الآلية «يمكن أن تسرع التقدم بشكل أسرع مما يمكن أن تواكبه تدابير الحوكمة أو السلامة». تقر الشركة بأن خرائط طريقها قابلة للتغيير، قائلة إنها ستنشر تحديثات حول ما إذا كانت تحقق أهدافها.
