حذّر بلال تشغتاي، الباحث السابق في فريق سلامة Google DeepMind، من أن الذكاء الاصطناعي قد يصل إلى مرحلة تهدد وجود البشر، بينما يرى باحث آخر عمل في المختبر نفسه أن أضرارًا جسيمة قد تظهر خلال خمس سنوات فقط.
أبرز النقاط:
- تشغتاي غادر DeepMind في يوليو، ويعتقد أن الذكاء الاصطناعي الخارق قد يظهر خلال السنوات القليلة المقبلة.
- يؤكد أن أبحاث مواءمة النظم مع القيم البشرية متأخرة عن نمو القدرات، ويدعم إبطاء التطوير بشكل منسق لا وقفه تمامًا.
- الباحث السابق في DeepMind جوش إنغلز يرى خطر أضرار هائلة خلال خمس سنوات، فيما دعم مسؤولون في Anthropic وOpenAI الدعوات لإبطاء سباق التطوير.
تحذير تشغتاي من الذكاء الاصطناعي
عمل تشغتاي سابقًا كمهندس أبحاث يركز على سلامة الذكاء الاصطناعي العام ومواءمته، قبل أن يغادر DeepMind في يوليو وينشر هذا الأسبوع تحذيرًا علنيًا.
ويقول إن معامل الذكاء الاصطناعي قد تنجح في بناء أنظمة فائقة الذكاء خلال بضع سنوات، قادرة على التفوق على البشر في معظم المجالات، مع صعوبة ضبطها بحيث تتقيد بالأهداف الإنسانية.
ويشدد تشغتاي على أن جوهر المشكلة هو المواءمة، مضيفًا: «أؤمن بجدية أن للذكاء الاصطناعي القدرة على قتلنا جميعًا، وقد نكون على وشك فقدان الفرصة لتجنّب هذا المصير».
ويرى أن الأساليب الحالية لتدريب الأنظمة المتقدمة على السعي بشكل موثوق لتحقيق الأهداف البشرية ما تزال «بدائية للغاية»، في حين تتقدم القدرات الحدّية بوتيرة أسرع كثيرًا من فهم الباحثين لقضايا المواءمة. ومع ذلك، لا يدعو تشغتاي إلى وقف التطوير، بل يطالب بأن تنسّق الشركات جهودها، وتُبطئ سباق المنافسة، وتقدّم شفافية أكبر حول كيفية بناء واختبار الأنظمة المتقدمة.
اطلع أيضًا على: قانون CLARITY يواجه اختبار 60 صوتًا في مجلس الشيوخ مع تصاعد المعارضة
اندفاع Anthropic نحو الأمان
يأتي تحذير تشغتاي بعد استقالة جاكوب كوكسون في وقت سابق من الشهر الجاري، عقب ثلاث سنوات قضاها بين Anthropic وOpenAI. لاحقًا صرّح قائد فريق علوم المواءمة في Anthropic، إيفان هوبنغر، بأنه يقدّر وجود احتمال يتجاوز 10% أن يتسبب الذكاء الاصطناعي في قتل كل البشر خلال العقد المقبل.
أما إنغلز، الذي عمل هو الآخر في فريق سلامة DeepMind، فكشف في 12 سبتمبر أنه انضم إلى منظمة التقييم غير الربحية METR بعد رفضه عروضًا من Anthropic وOpenAI، مبررًا ذلك بوجود «احتمال مرعب» لوقوع أضرار هائلة من الذكاء الاصطناعي خلال خمس سنوات.
الرئيس التنفيذي لـ Anthropic، داريو أمودي، دعا الشركات إلى إبطاء وتيرة زيادة القدرات، وهو موقف أيّده أيضًا الرئيس التنفيذي لـ OpenAI، سام ألتمان، مع اتساع نطاق الجدل داخل أبرز مختبرات الذكاء الاصطناعي. وتبرز أهمية هذا التوافق في أن التحذيرات تأتي الآن من باحثي السلامة المنسحبين ومن المديرين التنفيذيين الذين يقودون هذه المختبرات الكبرى على حد سواء.
تأتي هذه الموجة من الإنذارات بعد تحوّل سريع منذ مطلع 2022، حين بدأ تشغتاي العمل في المجال، وكانت الأنظمة آنذاك أقل بكثير من قدرات النماذج الحدّية الحالية. وخلال أربع سنوات فقط، انتقل النقاش من نظريات السلامة بعيدة المدى إلى مخاوف محددة بشأن الاستقلالية، والمواءمة، وما إذا كانت أبحاث الأمان قادرة على مواكبة القفزات في القدرات.
اقرأ أيضًا: واجهة برمجة تطبيقات Bitget تمتد الآن إلى الذهب والفوركس والمؤشرات والنفط الخام
