أنثروبيك تتراجع عن سياسة كلود فايبل 5 التي كانت تُضعِف سرًا النتائج للباحثين الذين يطوّرون أنظمة ذكاء اصطناعي منافسة، وهي قيود قالت الشركة إنها مست فقط 0.03% من حركة الاستخدام.
النقاط الرئيسية:
- أنثروبيك تراجعت عن سياسة في فايبل 5 كانت تُضعِف بهدوء الإجابات المتعلقة بأبحاث الذكاء الاصطناعي الحدّية.
- هذا القيد غير المُعلَن كان مخفيًا داخل بطاقة نظام من 319 صفحة ولم يتضمّن أي إشعار للمستخدم.
- الطلبات المُعلَّمة سيتم تحويلها الآن علنًا إلى Claude Opus 4.8 مع توضيح السبب في كل مرة.
التراجع عن قيود Claude Fable 5
الشركة أكدت التغيير لمجلة Wired هذا الأسبوع، والتي كانت أول من كشف عن هذا التراجع بعد أيام من تصاعد الغضب بين الباحثين والمطوّرين ومحللي السياسات على الإنترنت. يأتي هذا التراجع بعد إطلاق فايبل 5 يوم الثلاثاء، وهو أول نموذج من فئة Mythos متاح للجمهور من أنثروبيك، وهو نظام احتفظ به المختبر طويلًا نظرًا لبراعته الأكبر في اكتشاف ثغرات البرمجيات. في غضون ساعات من الإطلاق، لاحظ المستخدمون أنه كان يعيد توجيه إجاباته أو يُضعِفها بهدوء في نطاق ضيق من أعمال الذكاء الاصطناعي المتقدمة.
هذه المهام شملت تدريب نماذج منافسة، وتصحيح أخطاء شيفرة أنظمة الذكاء الاصطناعي، وضبط الشبكات العصبية، وكلها مُعلَّمة عبر فقرة مدفونة في بطاقة نظام من 319 صفحة. بدلًا من حجبها تمامًا، اعتمد فايبل 5 على تعديلات خفية في التوجيه (البِرومبت) ومتجهات توجيهية لتخفيف جودة ردوده بهدوء، وهو قيد قدّرته أنثروبيك بأنه يشكّل فقط 0.03% من حركة الاستخدام.
الإصلاح يُبقي على آلية الحماية لكنه يتخلى عن السرية التي أثارت معظم الانتقادات. أنثروبيك دافعت عن النسخة الخفية بحجة أن القواعد الظاهرة أسهل في التحليل والتحايل. الآن سيتم تحويل الطلبات المُعلَّمة علنًا إلى Claude Opus 4.8، وهو نفس المسار المستخدم لطلبات الأمن السيبراني والبيولوجيا، كما أن واجهة البرمجة ستقدّم قريبًا سببًا واضحًا لكل رفض.
اقرأ أيضًا: Cardano Whales Roar Back To Life As ADA Tests Multi-Year Lows
الباحثون يرفضون "التخريب السري"
المنتقدون ركّزوا على السرّية نفسها، لا على القيود من حيث المبدأ. أنثروبيك صاغت هذا القيد بوصفه امتدادًا لشروط الاستخدام التي تحظر استخدام Claude لبناء أنظمة منافسة، قائلة إن التنفيذ الهادئ يمنع أسوأ المخالفين من التقدّم. دين بول، زميل أقدم في مؤسسة الابتكار الأمريكي، وصف هذه الاستراتيجية بأنها "تخريب سري" وقال إنها تدعم الرأي القائل إن جزءًا من مساعي الأمان لا يحمي سوى المصالح التجارية.
العبارة انتشرت بسرعة.
آخرون ركّزوا على عدم التماثل المضمَّن في القاعدة نفسها. أنثروبيك أبقت فايبل 5 بكامل قدرته لموظفيها بينما خنقت أداءه أمام الفرق الخارجية، وهو انقسام أثار غضب أنصار المصادر المفتوحة وحتى كثير من حلفائها القدامى في مجال الأمان. جيريمي هوارد من Fast AI قال إن المختبر تعهّد فعليًا بأنه سيُضعِف قدرات أي منافس يحاول اللحاق به، بينما وصف ناثان لامبرت من AI2 هذا التخفيض الخفي بأنه صادم ومناهض للعلم.
هذه المعركة اختتمت أسبوعًا صعبًا لأول ظهور لفايبل 5، النموذج الذي رأت أنثروبيك سابقًا أن طرحه للجمهور ينطوي على مخاطرة كبيرة. وقد أجازت استخدام النظام للجمهور هذا الأسبوع، بعد نحو أسبوع من تقديمها أوراق اكتتاب أولي سرية، مُعوِّلة على أن حواجز الحماية الأكثر صرامة ووضوحًا يمكن أن تُبقي قدراته على كشف الثغرات في أيدٍ آمنة.
اقرأ التالي: OpenAI Targets Anthropic With Price Cuts Ahead Of A Pivotal IPO