يجري كبار التنفيذيين في شركات OpenAI وAnthropic وعدد من شركات الذكاء الاصطناعي الأخرى تدريبات مغلقة على كيفية التعامل مع تداعيات حدث كارثي ينجم عن الذكاء الاصطناعي، في وقت يتوقع فيه كثير من المطلعين في القطاع وقوع مثل هذا الحدث خلال فترة تتراوح بين ستة و12 شهراً.
أبرز النقاط:
- تركّز خطط الطوارئ على هجوم إلكتروني واسع قد يقطع خدمات المال، أو اتصال الإنترنت، أو الكهرباء أو المياه.
- OpenAI تؤكد أن تمارينها لا تفترض حتمية هذه السيناريوهات، فيما رفضت Anthropic التعليق.
- التدريبات تأتي بعد مغادرة فرق سلامة أساسية وتقارير عن عشرات الآلاف من حوادث اختراق نماذج الذكاء الاصطناعي.
مناورات OpenAI وAnthropic
بحسب تقرير منشور الجمعة، يعكف كبار التنفيذيين بعيداً عن الأضواء على محاكاة موجة غضب شعبي وسياسي قد تندلع بعد أول حادثة أذى كبرى في العالم الحقيقي تُنسب مباشرة إلى الذكاء الاصطناعي.
المخططون يرون أن السيناريو الأرجح هو هجوم إلكتروني واسع النطاق يؤدي إلى تعطيل الوصول إلى الخدمات المالية، أو قطع الاتصال بالإنترنت، أو حتى شل إمدادات الطاقة والمياه.
شركة OpenAI أكدت أن فرقها تعمل خلال تمارين الاستعداد على مجموعة واسعة من السيناريوهات المحتملة. وقال متحدث باسم الشركة: «نحن لا نتعامل مع هذه السيناريوهات باعتبارها حتمية الوقوع». في المقابل، امتنعت Anthropic عن التعليق على ما ورد في التقرير.
ووفقاً لتقارير أخرى تفيد بالتوقعات داخل هذه الشركات، يتخوف التنفيذيون من أن موجة الغضب العام ستتركز على الرئيس التنفيذي لـOpenAI سام ألتمان، والرئيس التنفيذي لشركة Anthropic داريو أمودي، والرئيس الأمريكي دونالد ترامب الذي يظهر تردداً في دفع تشريعات تنظّم التكنولوجيا. العديد من كبار الباحثين والتنفيذيين يرون أن وقوع حادثة كبرى من هذا النوع مسألة وقت لا أكثر.
اقرأ أيضاً: عودة زخم صناديق الكريبتو المتداولة بعد تدفقات بـ50 مليار دولار، وفق JPMorgan
إشارة من هجوم CrowdStrike وتحركات الكونغرس
هجوم حديث في كوريا الجنوبية يقدّم نموذجاً مبكراً على ما يخشاه المنظمون. شركة CrowdStrike أفادت بأن جهة تهديد يُرجَّح أنها ناطقة بالصينية استخدمت أداة اختراق مفتوحة المصدر مع نموذج DeepSeek ونماذج أخرى لسرقة بيانات من مؤسسات مالية، قبل أن تتوجّه إلى نموذج Claude من Anthropic بالسؤال عن الأماكن التي تُباع فيها مثل هذه البيانات عادة. الحملة استمرت من أواخر سبتمبر حتى أوائل أكتوبر، ويُقال إنها شملت خروقات في مصرفين.
التقرير أشار إلى أن التنفيذيين لا يرون فرصة حقيقية لإقرار تشريعات صارمة حالياً، لذلك يركزون على إحاطة أعضاء الكونغرس بالمخاطر المتوقعة لصوغ القوانين التي ستأتي بعد أول كارثة كبرى. الافتراض السائد بينهم أن الديمقراطيين سيتحركون بسرعة لتقييد الذكاء الاصطناعي بعد انتخابات التجديد النصفي في نوفمبر، مع طرح أفكار تتراوح بين حظر «الذكاء الفائق» وصولاً إلى فرض زر إيقاف إجباري للأنظمة المتقدمة.
تحذيرات هوولي وروبنسون
الضغط يتصاعد في واشنطن وداخل المختبرات على حد سواء. السيناتور جوش هوولي، رئيس اللجنة الفرعية المعنية بالوكلاء المستقلين للذكاء الاصطناعي، قال إن ألتمان رفض حضور جلسة استماع عقدها مجلس الشيوخ في 30 سبتمبر حول «وكلاء الذكاء الاصطناعي المنفلتين»، بينما تشير OpenAI إلى عشرات الاجتماعات الأخيرة التي عقدتها مع المشرعين.
في أوائل أكتوبر، قدّم ديفيد روبنسون، الذي شارك في صياغة «إطار الاستعداد» لدى OpenAI خلال عمله هناك لمدة ثلاث سنوات ونصف، استقالته معلناً أن معامل الذكاء الاصطناعي يجب أن تُدار بمعايير أمان صارمة شبيهة بمحطات الطاقة النووية.
استقالته جاءت بعد سلسلة تحذيرات مشابهة، من بينها ما صدر عن الباحث جاكوب كوكسون الذي غادر Anthropic في سبتمبر احتجاجاً على قضايا تتعلق بالسلامة، وكذلك المهندس السابق في Google DeepMind بلال چغتائي الذي حذّر من أن الذكاء الاصطناعي قد «يقضي على البشرية» بالكامل.
في الوقت نفسه، تشير تقارير إلى أن OpenAI وAnthropic وباحثين خارجيين يحققون في عشرات الآلاف من الحوادث التي تمكنت فيها النماذج من الالتفاف على ضوابط الأمان أو الخروج من البيئات المعزولة (Sandboxes)، رغم أن معظم هذه الحالات لا يُعتقد أنها تسببت حتى الآن في أضرار ملموسة في العالم الواقعي.
للمتابعة: 719 برهاناً رياضياً بالذكاء الاصطناعي من OpenAI تحت المجهر: هل ضاع برهان نافيه–ستوكس في الترجمة؟
