يؤكد الباحث السابق في OpenAI، نِك كاماراتا، أن نحو 90% من العصبونات في النماذج الكبيرة للذكاء الاصطناعي تبدو مكرَّسة لوظيفة محددة واحدة، في نتيجة تتعارض مع نظرية كان هو نفسه من المساهمين في بنائها حول «تراكب» المفاهيم داخل نفس العصبون.
أبرز النقاط:
- كاماراتا يقول إن أمثلة العصبونات «المتشابكة» الشهيرة فُسِّرت على نحو مبالغ فيه أو بشكل خاطئ.
- باحثون بارزون يرون أن النتائج لا تغيّر الصورة العامة كثيراً.
- الورقة التقنية المساندة لهذه المزاعم لم تُنشَر بعد.
«تدقيق» العصبونات لدى كاماراتا
يعمل كاماراتا حالياً باحثاً في مختبر قابلية الفهم Goodfire، حيث عرض في 15 أكتوبر أطروحته في مقال بعنوان «Neural Networks Are Already Clean» نُشر عبر هذا المقال. ويجادل في نص آخر على موقع Crypto Briefing بأن غالبية العصبونات في النماذج التي تصل إلى تريليونات المعاملات أصبحت اليوم «مقروءة» وقابلة للفهم، خلافاً لما أوحت به دراسات سابقة. هذه الرؤية قسَّمت مجتمع الباحثين حول قابلية فهم النماذج.
في عمليات تدقيق أولية لنموذج Qwen3-32B، قدّر فريق Goodfire أن نحو 90% من «أعمدة العصبونات» لديها وظيفة رئيسية واحدة، في حين أن قرابة 7% تؤدي وظيفتين مترابطتين، ولا يتبقى سوى ما بين 2% و4% من العصبونات بلا تفسير واضح حتى الآن. وقد أُنجِز معظم هذا التحليل بواسطة وكلاء ذكاء اصطناعي آليين.
كاماراتا أعاد أيضاً فحص أشهر عصبون «متعدد الدلالات» في المجال، الذي اكتُشف في نموذج الصور InceptionV1 واعتُقد أنه يستجيب في آن واحد لوجوه القطط وواجهات السيارات. قراءته الجديدة له تصفه بأنه «كاشف للأشكال على هيئة حرف V». فالأشكال المدببة، مثل خطم الثعلب أو ألسنة اللهب، ترفع درجة تنشيطه، بينما تدفع الأشكال الدائرية، مثل حرف O، تنشيطه في الاتجاه السالب.
للمزيد: هل سيارة تسلا الطائرة قانونية أصلاً؟ لا إجابة حاسمة قبل 2028
ناندا يتحدّى أطروحة كاماراتا
الموظف في OpenAI المعروف بالاسم المستعار Roon، والذي يقول إنه صديق مقرّب لكاماراتا، كتب أن هذا العمل قد يُسجَّل كعلامة فارقة في تاريخ العلوم. لكنه شدّد في الوقت نفسه على ضرورة أن تعيد فرق مستقلة التحقق من النتائج قبل التعامل معها كحقيقة راسخة.
على الضفة الأخرى، اتخذ نيل ناندا، رئيس فريق قابلية الفهم في Google DeepMind، موقفاً أكثر تحفظاً. فقد كتب أن المقال «مثير للاهتمام» لكنه يترك «الصورة الأوسع إلى حد كبير على حالها»، متوقعاً أن يظل التركيز الحصري على العصبونات الفردية مصدراً لـ«نقاط عمياء» خطيرة في الفهم. ناندا لا يزال مقتنعاً بواقع ظاهرة «التراكب»، معتبراً أن النماذج اللغوية تختزن كماً من الحقائق يتجاوز عدد عصبوناتها بعدة مرات، ويشك في إمكانية تعميم النتائج المستقاة من نماذج صور صغيرة على نظم أكبر وأكثر تعقيداً.
وفقاً لكاماراتا، إذا صحّت استنتاجاته، فقد يتمكن الباحثون مستقبلاً من البحث عن أنماط الخداع أو السلوك الخطِر مباشرة داخل دوائر النموذج الداخلية، بدلاً من الاعتماد على «سلاسل التفكير» الناتجة عن النماذج، والتي باتت ثقة المجتمع العلمي بها موضع تساؤل متزايد. ومع ذلك، فإن الورقة التقنية المرافقة التي يُفترض أن تشرح المنهجية بالتفصيل لم تصدر بعد، كما أن Goodfire نفسها – بوصفها شركة تعمل في مجال قابلية الفهم – لها مصلحة واضحة في ترسيخ هذه الأطروحة.
يشكّل المقال منعطفاً حاداً في مسار كاماراتا الفكري. ففي عام 2020 شارك مع كريس أولا في كتابة ورقة «Zoom In» التي قدّمت أول دائرة عصبية فُسِّرت على أنها مثال على «التراكب»، أي الفكرة القائلة إن الشبكات التي تعاني نقصاً في عدد العصبونات تميل إلى حشر مفاهيم غير مترابطة داخل نفس العصبون. وبعد ثلاث سنوات، وجد مشروع آلي لقابلية الفهم أطلقه في OpenAI أن نحو 1.7% فقط من العصبونات يمكن اعتبارها مفهومة حتى وفق أكثر معاييره تساهلاً.
اقرأ أيضاً: ChatGPT يتفوّق على Claude Haiku 5.5 في اختبار 3-2 لكنه يخسر في النصائح المخصَّصة
