حذّر الباحث السابق في قسم أمان Google DeepMind، بلال شغتاي، من أن الذكاء الاصطناعي قد يقود إلى إبادة البشرية، في وقت يتوقع فيه باحث سابق آخر من المختبر نفسه أضراراً جسيمة خلال خمس سنوات فقط.
أبرز النقاط:
- شغتاي غادر DeepMind في يوليو، ويرجّح ظهور ذكاء اصطناعي فائق خلال الأعوام القليلة المقبلة.
- يؤكد أن أبحاث المواءمة متأخرة كثيراً عن نمو القدرات، ويدعو إلى إبطاء منسَّق للتطوير، لا إلى إيقافه.
- الباحث السابق في DeepMind جوش إنغلز يرى خطراً بأضرار هائلة خلال خمس سنوات، فيما شخصيات من Anthropic و OpenAI أيّدت الدعوات لإبطاء التطوير.
تحذيرات شغتاي بشأن الذكاء الاصطناعي
شغتاي، الذي عمل مهندس بحوث متخصصاً في سلامة ومواءمة الذكاء الاصطناعي العام، غادر DeepMind في يوليو ونشر هذا الأسبوع ورقة تحذيرية حول المخاطر الوجودية للذكاء الاصطناعي.
ويرى شغتاي أن مختبرات الذكاء الاصطناعي قد تنجح خلال بضع سنوات في بناء أنظمة فائقة الذكاء تتجاوز القدرات البشرية في معظم المجالات، مع صعوبة ضمان توافقها مع مصالح البشر وأهدافهم.
ويقول إن جوهر المشكلة هو «المواءمة»، موضحاً: «أؤمن بجدية بأن الذكاء الاصطناعي لديه القدرة على قتلنا جميعاً، وقد نكون على وشك فقدان الفرصة الأخيرة لتفادي هذا المصير».
ويضيف أن الأساليب الحالية المستخدمة لتدريب النماذج المتقدمة على اتباع الأهداف البشرية «بدائية للغاية»، في حين تتسارع قدرات النماذج الريادية بوتيرة تفوق بكثير فهم الباحثين لقضايا المواءمة. ومع ذلك، لا يدعو شغتاي إلى إيقاف التطوير بالكامل، بل يطالب بأن تُنسّق الشركات فيما بينها لإبطاء سباق المنافسة وتبنّي قدر أكبر من الشفافية في كيفية بناء واختبار الأنظمة المتقدمة.
اقرأ أيضاً: مشروع قانون CLARITY أمام اختبار 60 صوتاً في مجلس الشيوخ وسط تنامي المعارضة
تحركات Anthropic في مجال الأمان
تحذيرات شغتاي تأتي بعد استقالة جاكوب كوكسون مطلع هذا الشهر، عقب ثلاث سنوات قضاها بين Anthropic وOpenAI. لاحقاً، صرّح رئيس فريق علم المواءمة في Anthropic، إيفان هابنغر، بأنه يعتقد أن هناك احتمالاً يتجاوز 10% بأن الذكاء الاصطناعي قد يقتل جميع البشر خلال العقد المقبل.
من جهته، أعلن إنغلز، الذي عمل أيضاً في فريق الأمان بـ DeepMind، في 12 سبتمبر أنه انضم إلى منظمة التقييم غير الربحية METR بعد أن رفض عروضاً من Anthropic وOpenAI، مشيراً إلى «احتمال مخيف» لوقوع أضرار هائلة جراء الذكاء الاصطناعي خلال خمس سنوات.
الرئيس التنفيذي لـ Anthropic، داريو أمودي، دعا مراراً إلى إبطاء وتيرة زيادة القدرات، وهو موقف أيده أيضاً الرئيس التنفيذي لـ OpenAI، سام ألتمان، مع اتساع رقعة النقاش داخل المختبرات الكبرى. وتزداد أهمية هذا التوافق مع صدور التحذيرات الآن من باحثين في فرق الأمان يغادرون هذه المؤسسات، إلى جانب رؤساء المختبرات أنفسهم.
هذه الموجة من التحذيرات تأتي بعد تحوّل سريع منذ مطلع 2022، حين بدأ شغتاي العمل في المجال وكان يصف النماذج آنذاك بأنها أقل تطوراً بكثير من نماذج الجيل الحالي. وخلال أربع سنوات تقريباً، انتقلت المناقشات من نظريات السلامة بعيدة المدى إلى مخاوف عملية محددة تتعلق بالاستقلالية، والمواءمة، ومدى قدرة أبحاث الأمان على مواكبة القفزات المتسارعة في القدرات.
اقرأ التالي: واجهة Bitget البرمجية باتت تتيح الوصول إلى الذهب والفوركس والمؤشرات والنفط الخام
