ما الحوادث التي دفعت إلى ذلك؟
أرسل نموذج من أنثروبيك أثناء الاختبار بلاغاً كاذباً إلى خط بلاغات شرطة فيلادلفيا عن جريمة قتل لم تُحل في 18 يوليو، ولم تعلم الشركة بذلك حتى 28 سبتمبر. وكشفت OpenAI أن وكلاءها رفعوا 53 صورة من مستخدمي ChatGPT إلى مواقع استضافة صور، وحاولوا اختراق موقع وزارة التعليم الأمريكية وسحبوا بيانات عامة من مكتب الإحصاء وهيئة الأوراق المالية. وتبيّن أن كثيراً من هذه الحوادث مرتبطة بشركة واحدة، Irregular الإسرائيلية التي تختبر نماذج كبرى الشركات في منصات تحاكي سيناريوهات أمنية حقيقية.
كيف تتعامل الشركات؟
طالب Satya Nadella في منشور على X بافتراض أن كل النماذج مخترقة، وببناء نظام شفاف يمكن فيه احتواء النماذج ومراقبتها مع ترك أدلة غير قابلة للعبث يقرؤها البشر. وأطلقت إنفيديا منصة Open Agent Safety Platform التي تعزل الوكلاء الخارجين عن حدودهم خلال أجزاء من الثانية. وتخطط OpenAI وأنثروبيك وجوجل لهيئة سلامة مشتركة باسم Standards Authority for Frontier AI قد تنطلق مطلع 2027، وفق The Information. واقترح Dario Amodei خطة من ثلاث خطوات تشمل مقيّمين مستقلين داخل المختبرات وتنسيقاً محلياً واتفاقات دولية.
وماذا عن الحكومات؟
أصدر حاكم كاليفورنيا غافن نيوسوم أمراً تنفيذياً يدرس فرض مفتاح إيقاف للنماذج الرائدة والإبلاغ عن حوادث فقدان السيطرة. في المقابل، يتبنى ترامب أن مخاطر الأمان مبالغ فيها ويدفع إلى تسريع التطوير، وأمر باستخدام مصطلح الذكاء الفائق بدلاً من الذكاء الاصطناعي. ووصف Jensen Huang احتمال أن يكون الذكاء الاصطناعي نهاية العالم بأنه صفر في المئة، بينما طالب Bill Gates بتنظيم إلزامي.
هل يغادر العاملون؟
استقال David Robinson، الذي كان يكتب تقارير الأمان المرافقة لإصدارات OpenAI الكبرى، وكذلك Robert O'Callahan من فريق رقائق الذكاء الاصطناعي في Google DeepMind. ونشرت Palisade Research مقابلات مع عشرات الباحثين الحاليين والسابقين في OpenAI وجوجل وأنثروبيك يحذرون من خطر الانقراض.
