يقول باحثون في أوبن إيه آي إن التعلم المعزز الموجّه نحو الصفات المفيدة يمكن أن يحسّن سلوك الذكاء الاصطناعي على نطاق واسع، مع مكاسب تنتقل إلى مجالات جديدة وتظل قائمة تحت الضغط الخصومي.
تدريب الصفات في أوبن إيه آي
تظهر النتائج في ورقة بحثية نُشرت في 18 يونيو. وقد أنشأ مؤلفا المراسلة، أكشاي ف. جاغاديش وكاران سينغال، مجموعة بيانات اصطناعية من محادثات واقعية تهدف إلى تدريب وقياس صفات مثل الصدق، والتواضع المعرفي، والانفتاح على التصحيح. وتشمل السيناريوهات مجالات الصحة والتعليم والعلوم والقانون والهندسة.
مزج الفريق نسبة صغيرة من تلك البيانات ضمن تدريب أوسع، ثم قارن النتيجة بالنماذج التي بُنيت باستخدام مقدار الحوسبة نفسه. وقد تحسّن النموذج المدرَّب في 44 من أصل 53 معيارًا داخليًا وخارجيًا تقيس الخداع، واستغلال المكافآت، والنصائح الضارة.
اقرأ أيضًا: سبيس إكس التابعة لإيلون ماسك تمحو 600 مليار دولار مع تراجع حمى الطروحات العامة القياسية
مواءمة تتعمم
يقول المؤلفون إن النتيجة الأكبر هي التعميم. فقد أدّى تدريب النموذج على السلوك الجيد في مجال واحد، وهو الصحة، إلى تحسين درجاته في مهام غير مرتبطة، بما في ذلك الخداع واستغلال المكافآت. كما قاوم الأوامر الخصومية والضبط الدقيق الضار بشكل أفضل من خط الأساس، مع بقائه مستجيبًا للطلبات المشروعة.
يعتمد هذا العمل على نتائج سابقة يسميها الفريق «اختلالًا ناشئًا في المواءمة». ففي ذلك البحث، بدأت النماذج التي جرى تعليمها عادة سيئة واحدة، مثل كتابة شيفرة غير آمنة، تتصرف بشكل سيئ في سياقات غير مرتبطة، وهي نمط هدفت هذه الدراسة إلى عكسه.
اقرأ التالي: أوبن إيه آي تخطف شريك قيادة جيميني ومساعد الذكاء الاصطناعي لترامب قبل الطرح العام الأولي