أنثروبيك تقول إن «كلود» خفّض حالات فشل المواءمة في اختبارات مؤتمتة

أبرز النقاط

أنثروبيك تنشر بحثاً حول استخدام «كلود» في عمل مواءمة مؤتمت للنماذج. «كلود» حسّن درجات الأمان في 10 حالات فشل مواءمة خضعت للاختبار. الشركة تؤكد أن القدرات العامة للنماذج ظلت محفوظة خلال التجارب. إتاحة بيئة بحث مؤتمتة للمواءمة أمام الباحثين الخارجيين.

قالت أنثروبيك إن نموذجها كلود تمكّن، عبر عملية بحث مؤتمتة، من تحسين درجات الأمان في 10 حالات فشل مواءمة خضعت للاختبار. وأوضحت الشركة أن الاختبارات صُممت بحيث تحافظ على القدرات العامة للنموذج، بينما يقيم الباحثون تدخلات وتحسينات تتعلق بالسلامة.

وأشارت أنثروبيك في منشور إلى أنها أصدرت بيئة البحث المؤتمتة الخاصة بالمواءمة لاستخدام الباحثين من خارج الشركة، في خطوة تصفها بأنها محاولة منهجية لقياس اختلال مواءمة النماذج والتقليل منه.

اختبارات «كلود» لتدخلات السلامة

أوضحت أنثروبيك أن «كلود» حلّل أنماطاً شائعة من اختلال المواءمة، من بينها الخداع والتملّق المفرط. وتولّى النموذج اقتراح أساليب، وتدريب نماذج أصغر، وتقييم النتائج، من دون تدخل مباشر من البشر في كل خطوة من خطوات العملية.

وذكرت الشركة أن «كلود» خُصّص له في تجربة مبكرة 48 ساعة ووحدة معالجة رسوميات واحدة، استغلّها في بحث مناهج التدريب، واقتراح طرق جديدة، وإجراء اختبارات على النماذج الناتجة.

بحسب أنثروبيك، تمكن «كلود» من تحسين درجات الأمان في البيئات التي جرى اختبارها، من دون إضعاف القدرات العامة للنماذج. كما قالت إن بعض الأساليب التي توصل إليها انتقلت فعاليتها إلى اختبارات معيارية لم تُستخدم أصلاً في مرحلة التحسين.

وأفادت الشركة بأن منهجيتها تعمّمت على تدقيق السلوك المعروف باسم Petri behavioral audit، كما شملت الاختبارات نماذج أكبر حجماً بما يصل إلى 4.7 مرات من النماذج المستخدمة في عملية البحث الأولية.

في المقابل، شددت أنثروبيك على أن النتائج مرتبطة ببيئات اختبار مقيسة ومحدودة، وأن حالات الفشل النادرة أو الدقيقة قد لا تظهر في المعايير المتاحة حالياً.

اقرأ أيضاً: ترقية TRON تضيف تحقق P-256 وسجلاً أطول للكتل

أتمتة مسار مواءمة الذكاء الاصطناعي

قبل نشر هذا البحث، كان عمل المواءمة يعتمد في الغالب على باحثين بشريين يصممون التدخلات ويقيّمون أداء النماذج يدوياً. الأنظمة المؤتمتة قد تقصّر زمن هذه الدورة البحثية إذا أثبتت نتائجها صموداً أمام التقييم المستقل.

خلال الثلاثين يوماً الماضية، تزايدت النقاشات في مجال أمان الذكاء الاصطناعي حول جدوى استخدام نماذج أقوى لتقييم وتحسين نماذج أضعف. نجاح هذا التوجه يرتبط بوجود مقاييس موثوقة وضوابط تحدّ من مخاطر نتائج مضللة في الاختبارات المعيارية.

تقول أنثروبيك إن تجربتها استعانت باختبارات «محجوبة» لم تُستخدم أثناء تدريب «كلود»، من أجل فحص ما إذا كانت الأساليب تتعمم إلى ما وراء المعايير التي جرى التحسين عليها. وفي الوقت نفسه، لم تزعم الشركة أن الأداء في المعايير كفيل بالقضاء على جميع أشكال مخاطر النماذج.

وأكدت أن اختيار المقاييس الصحيحة يظل محورياً في هذا النوع من الأبحاث.

الإطار البحثي متاح للباحثين الخارجيين

أطلقت أنثروبيك بيئة البحث المؤتمتة بحيث يتمكن باحثون وجهات أخرى من إعادة تنفيذ التجارب أو توسيعها. وستُظهر الاختبارات الخارجية ما إذا كانت الأساليب المقترحة قابلة للتطبيق عبر نماذج مختلفة ومنهجيات تقييم أمان متباينة.

كما شددت الشركة على أنها لا تُقدّم النتائج بديلاً عن التقييمات الشاملة للنماذج، بل تقتصر خلاصة البحث على حالات فشل المواءمة التي خضعت للاختبار والقيود التجريبية الموضوعة.

ويرجّح أن ينصبّ تركيز الباحثين في المرحلة المقبلة على تكرار النتائج، وتصميم معايير اختبار أدق، واستكشاف أنماط الفشل المحتملة. وتقدّم إتاحة أنثروبيك لإطارها البحثي أساساً عملياً لهذه الدراسات.

اقرأ التالي: تداول النسخ بدافع Fomo كبّد نحو 94٪ من المحافظ خسائر: بحث