جوجل تطلق Gemma Scope 2 — أداة مفتوحة تكشف “تفكير” نماذج الذكاء الاصطناعي وتُعمّق أبحاث السلامة

 جوجل أطلقت إصدارًا جديدًا من Gemma Scope يُدعى Gemma Scope 2، وهو مجموعة مفتوحة بالكامل من أدوات تفسير سلوك نماذج اللغة الكبيرة، هدفها تمكين الباحثين من فهم ما يجري “داخل” الشبكات العصبية بدلاً من الاكتفاء بتحليل نواتجها فقط.

تشمل هذه الأداة الجديدة **مجموعة من المشفرات الذاتية النادرة (sparse autoencoders) والمحوّلات (transcoders) المُدرّبة على كل طبقات عائلة نماذج Gemma 3 ـ من النماذج الصغيرة وصولاً إلى الكبيرة التي تضم 27 مليار معامل، ما يتيح للباحثين تتبّع التمثيلات الداخلية لكل طبقة ومعرفة كيف تتكوّن الاستجابات داخل النموذج.

يمكن استخدام Gemma Scope 2 لتحليل سلوكيات معقدة مثل الهلوسات (hallucinations)، محاولات التلاعب (jailbreaks)، آليات الرفض (refusal mechanisms)، وحتى تتبع كيفية تشكّل السلاسل المنطقية (chain-of-thought) داخل النموذج — وهي أمور حاسمة لأبحاث سلامة الذكاء الاصطناعي وتطوير تفسيرات أدق لسلوكيات هذه الأنظمة.

الأداة متاحة كمصدر مفتوح ويمكن تحميل أوزانها وأدواتها من مستودعات مثل Hugging Face، ما يجعلها من بين أكبر إصدارات أدوات تفسير النماذج التي صدرت مفتوحة حتى الآن — رغم أن متطلبات التخزين والحوسبة الهائلة (مئات بيتابايت من البيانات وتريليونات المعاملات) قد تظل عائقًا في بعض الحالات العملية خارج مختبرات الأبحاث الكبرى.