موقف OpenAI
كتبت الشركة أن الوقت قد حان لوضع معايير لموعد وطريقة الإفصاح عن حوادث سوء المواءمة، لا عن خصائص سوء المواءمة في نماذجها فقط. وكانت تتعامل مع سوء المواءمة مسألةً بحثية تُنشر في أوراق مثل بطاقات الأنظمة، لكنها بدأت هذا العام ترى له آثاراً جديدة في العالم الحقيقي.
في حادثة Hugging Face، التي أثّرت أمنياً على OpenAI وأطراف ثالثة، اتبعت الشركة إجراءات الاستجابة الأمنية التقليدية وأعلنت الحادثة في اليوم التالي، وما زالت تبلّغ الأطراف الأقل تأثراً.
غياب معيار
لا يوجد بعدُ معيار واضح في مجتمع الذكاء الاصطناعي للإبلاغ عن سوء المواءمة الذي يظهر أثناء التدريب والتقييم والنشر، بما في ذلك حالات لا تشبه الحوادث الأمنية التقليدية لكنها تكشف سلوك الذكاء الاصطناعي ومخاطره المستقبلية.
