قدّم الباحث في شركة Anthropic، جاكوب كوكسون، استقالته هذا الأسبوع بسبب مخاوف من تطور ذكاء اصطناعي خارج عن السيطرة، ليخرج بعدها مسؤول مواءمة النماذج في الشركة بتقدير صادم يضع احتمال إفناء البشرية على يد الذكاء الاصطناعي فوق 10% خلال العقد الحالي.
أبرز النقاط:
- جاكوب كوكسون غادر Anthropic بعد ثلاث سنوات من العمل على أبحاث ما قبل التدريب في Anthropic وOpenAI، قائلاً إن الشركتين تخوضان سباقاً نحو أنظمة لا يمكن التحكم بها.
- مسؤول علوم المواءمة في Anthropic، إيفان هوبنغر، قدّر بشكل شخصي احتمال أن يتسبب الذكاء الاصطناعي في قتل جميع البشر بأكثر من 10% خلال السنوات العشر المقبلة.
- هوبنغر شدّد على أن النماذج الحالية منخفضة المخاطر، موجهاً قلقه نحو سيناريوهات التحسّن الذاتي المتكرر.
استقالة جاكوب كوكسون احتجاجاً على سباق الذكاء الاصطناعي
كوكسون، البالغ من العمر 27 عاماً، أمضى ثلاثة أعوام يعمل على أبحاث ما قبل التدريب في OpenAI ثم Anthropic، قبل أن يعلن استقالته في سلسلة منشورات على منصة X صباح الأربعاء. وكتب أن أياً من الشركتين لا يتصرف بمسؤولية، وأن كلتيهما منخرطة في سباق نحو ذكاء فائق قادر على تحسين نفسه، في مقامرة بمصير حياة البشر. المنشور الافتتاحي حصد أكثر من 19 مليون مشاهدة خلال ساعات.
في مقابلة منفصلة، حذّر كوكسون من أن أكثر السيناريوهات تشدداً باتت الآن على مسار التحقق، وأن الأمور قد تنفلت من السيطرة بحلول نهاية العام المقبل، وفق ما صرّح. وأشار إلى أن زملاءه باتوا يستخدمون تعبيرات مثل "اللحظات الحاسمة" و"اللعبة النهائية" لوصف مسار التطور الحالي.
كوكسون درس الرياضيات قبل الانتقال إلى مجال تدريب النماذج، وغادر OpenAI في وقت سابق هذا العام متجهاً إلى Anthropic بسبب سمعتها كباحثة في السلامة. لكنه يرى أن المساومات على معايير الأمان تصبح حتمية عندما تحتدم المنافسة بين المختبرات. ويؤكد الآن أنه لا يمكن لأي شركة أن تطوّر ذكاءً اصطناعياً بمستوى القدرات البشرية بطريقة مسؤولة من دون تدخل حكومي أو إبطاء منسّق على مستوى القطاع بأكمله.
اطلع أيضاً على: سعر XRP يستهدف 1.46 دولار مع عودة تجمّع “الحيتان” في سبتمبر
إيفان هوبنغر يقدّر احتمال الإبادة بأكثر من 10%
إيفان هوبنغر، المسؤول عن قيادة أبحاث مواءمة النماذج في Anthropic والمكلّف بإجراء اختبارات الضغط على أنظمتها، ردّ على ما طرحه كوكسون قائلاً إن وصفه للوضع دقيق. وقدّر احتمال أن يقضي الذكاء الاصطناعي على جميع البشر بأكثر من 10% خلال العقد المقبل.
هوبنغر أوضح أن الشركة تبذل أقصى ما بوسعها، لكنها لا تمتلك حتى الآن خطة واضحة لحل معضلة مواءمة ذكاء فائق، وليست على مسار مضمون للوصول إلى حل. وفي توضيح لاحق، شدّد على أن النماذج المتاحة حالياً منخفضة المخاطر نسبياً، وأن قلقه يتركز على سيناريو ظهور ذكاء فائق عبر "التحسّن الذاتي المتكرر"، حيث تتولى النماذج تدريب نُسخ أكثر قوة من نفسها.
هذا التقدير يعكس رأي هوبنغر الشخصي وليس توقعاً رسمياً للشركة، كما أن أرقاماً من هذا النوع تستند إلى افتراضات محل خلاف واسع حول القدرات المستقبلية للذكاء الاصطناعي وكيفية نشره وتشغيله. وتؤكد Anthropic في تصريحاتها العلنية أن التحسّن الذاتي المتكرر ليس قدراً محتوماً، لكنه قد يتحقق في وقت أبكر مما تستطيع المؤسسات الاستعداد له، وهو ما قد يزيد احتمالات فقدان البشر للسيطرة.
موجة استقالات من فرق السلامة في Anthropic
كوكسون ليس أول باحث سلامة يغادر الشركة. مرينانك شارما، الذي كان يقود فريق الضمانات في Anthropic، استقال في وقت سابق هذا العام محذّراً من أن العالم في "خطر داهم"، موضحاً أنه سيتجه إلى دراسة الشعر في بريطانيا.
تأسست Anthropic في عام 2021 على يد مجموعة من الموظفين السابقين في OpenAI، وبنت سمعتها على أبحاث السلامة والحوكمة في الذكاء الاصطناعي. ومع ذلك لم تصدر الشركة، حتى صباح الأربعاء، أي رد علني على استقالة كوكسون.
اقرأ التالي: Bitget تضيف دروساً في البلوكشين إلى برنامج اليونيسف الذي وصل إلى أكثر من 642,000 مستفيد
