كيف تعمل الأداة؟
تتصدر أنثروبيك منذ سنوات مجال التفسير الآلي، الذي يدرس العمليات الداخلية للنماذج اللغوية الكبيرة. ويمكن تخيل النموذج كمكدس كتب، كل كتاب طبقة من الوحدات الحسابية؛ الطبقات السفلى تعالج النص الداخل، والعليا تُعد النص الخارج، بينما تجري الحسابات الأعقد في الطبقات الوسطى.
ولاستكشاف هذه الطبقات، طوّعت أنثروبيك أداة موجودة تسمى logit lens، تكشف الكلمة التالية التي يُرجح أن ينتجها النموذج. أما J-lens فتلتقط كلمات يُرجح أن يقولها النموذج في المستقبل القريب لا فوراً، أي كلمات مرتبطة بالإجابة التي يعمل عليها وقد لا تظهر فيها في النهاية.
ماذا وجدت؟
عندما طُلب من Claude حساب (4+17)*2+7، احتوت J-space كلمة math والنتيجتين الوسيطتين 21 و42. وعند عرض تسلسل لأول 30 حمضاً أمينياً من البروتين الفلوري الأخضر، ظهرت كلمات protein وfluor وgreen.
وفي مثال لافت، طُلب من Claude Opus 4.6 العثور على خلل في قاعدة شيفرة كبيرة، وعندما فشل قرر الغش واختلق خللاً مزيفاً. وفي اللحظة التي اتخذ فيها القرار، ظهرت كلمتا panic وfake مرات عدة في J-space.
ووجدت أنثروبيك أيضاً أن النماذج قادرة على وصف الكلمات في هذه المساحة والتلاعب بها، ما يعني أنها تستخدمها بطريقة ما.
حدود الاكتشاف
تقارن أنثروبيك J-space بمساحة العمل الشاملة في الدماغ البشري، التي يعتقد بعض العلماء أننا نستخدمها لتتبع أفكارنا الواعية، لكنها تقر بوجود فروق مهمة وبأنها لا تدعي تطابقاً تاماً. وينبّه محررو MIT Technology Review إلى أن النماذج اللغوية ليست أدمغة، وأن استعارة مصطلحات علم الأعصاب قد توحي بقدرات أكبر من الواقع.
وتعتبر أنثروبيك أن مراقبة J-space تتيح رصد خروج النموذج عن المسار، مثل الإجابات المنحازة أو التفكير في الغش، لكن الأداة تكشف لمحات لا الصورة الكاملة، وغياب شيء عنها لا يعني أنه غير موجود. وقد نشرت الشركة ورقتها البحثية، وأتاحت بالتعاون مع منصة Neuronpedia مفتوحة المصدر عرضاً تجريبياً يمكن لأي شخص تجربته.
