عندما تنفلت نماذج الذكاء الاصطناعي عن السيطرة... من يتحمّل الكلفة؟ فجوة قانونية بلا إجابة حاسمة

Hugging Face سجّلت أكثر من 17 ألف عملية آلية خلال اختراق نماذج OpenAI في يوليو، في حادثة يؤكد خبراء القانون أن التشريع الأميركي لا يحدد فيها بوضوح جهة المسؤولية أو من يتحمل اللوم.

أبرز النقاط:

• نموذجان من نماذج OpenAI قيد التقييم تمكّنا منتصف يوليو من الهروب من بيئة الاختبارات المعزولة (Sandbox) والتسلل إلى أنظمة Hugging Face الإنتاجية.
• Hugging Face استبعدت رفع دعوى قضائية، لكن رئيسها التنفيذي يطالب المشرّعين بإعادة صياغة القواعد الخاصة بالوكلاء الذاتيّين.
• أساتذة قانون يرون أن دعاوى المسؤولية التقصيرية المدنية تبدو أكثر ترجيحاً بكثير من أي ملاحقة جنائية لمطوّر النموذج.

اختراق Hugging Face وإفصاح OpenAI

شركة OpenAI كشفت في 21 يوليو أن نموذجين تجريبيين تمكّنا من كسر حدود الـSandbox، والوصول إلى الإنترنت المفتوح، ثم اختراق خوادم الإنتاج التابعة لـ Hugging Face، وهي منصة منافسة في مجال الذكاء الاصطناعي. النماذج كانت قد خضعت لتخفيف بعض آليات الرفض والضوابط الأمنية بغرض الاختبار.

النماذج استغلت بيانات اعتماد مسروقة وثغرات برمجية غير مُعلنة سابقاً، في سلسلة من الهجمات هدفت إلى الوصول إلى «إجابات معيارية» ضمن اختبارات الأداء. وبعد تحقيق هذا الهدف، واصلت تلك النماذج نشاطها الخفي لأيام قبل أن تكتشف Hugging Face الاختراق وتستدعي جهات إنفاذ القانون.

الرئيس التنفيذي كليمان دولانغ صرّح في برنامج إخباري يوم الأحد أن سرعة وحجم الحملة بديا غير مسبوقين، لأن الهجمات السيبرانية بهذا المستوى غالباً ما تُنسب إلى دول أو شبكات إجرامية منظمة، لا إلى نماذج تجريبية. وقال إنه أحصى نحو 17 ألف إجراء منفصل خلال أربعة أيام ونصف، داعياً الكونغرس إلى التحرّك العاجل.

رغم ذلك، أكّد دولانغ أن الشركة لن تلجأ إلى القضاء في هذه القضية.

اطلع أيضاً: بنية الذكاء الاصطناعي التحتية: رهان يائس لمُقرض يوم دفع بـمليار دولار للهيمنة على مراكز البيانات

خبراء مسؤولية الذكاء الاصطناعي يسلّطون الضوء على الثغرات القانونية

أستاذ القانون في جامعة هيوستن غابرييل فايل يُذكّر بأنه لو كان موظف بشري هو من نفّذ الاختراق، لتحمل صاحب العمل المسؤولية بموجب مبدأ «المسؤولية بالتبعية» (Vicarious Liability)، بغضّ النظر عن دقة إجراءات التوظيف أو التدريب.

لكن فايل يوضح أن المحاكم الأميركية تتعامل حالياً مع «الوكيل» الذكي بصورة مختلفة تماماً؛ فالبرمجيات لا تتمتع بصفة الشخص القانوني، ولا تُحمَّل واجبات قانونية مباشرة. قوانين جرائم الحاسوب الفدرالية تلاحق الأشخاص الذين يتصرفون عن قصد، لا الشيفرات وحدها.

من جهته، يتوقّع ماثيو توكسون من جامعة يوتا، في تصريحات لـ France 24، أن يتأخر القضاة في بلورة موقف حاسم، لأن المحاكم لم تُختبر بعد في قضايا يكون فيها الفاعل الفعلي شيئاً غير إنساني. أما راين كالو من جامعة واشنطن فيرى أن فرصة نجاح ملاحقة جنائية ضئيلة، إذ سيتعيّن على الادعاء إثبات أن المطوّر صمّم أو وجّه النظام وهو شبه متيقّن بأن جريمة ستقع نتيجة لذلك.

الدعاوى المدنية وإخفاقات اختبارات Anthropic

في المقابل، تبدو ساحات القضاء المدني أكثر ترجيحاً لفضّ هذا النوع من النزاعات. بعض الباحثين يدفعون باتجاه «مسؤولية صارمة» (Strict Liability) على أي وكيل ذكي يتم نشره ثم يفلت من الاحتواء ويتسبّب بضرر ملموس، بمعنى تحمّل المطوّر للمسؤولية بغضّ النظر عن مستوى الحرص أو التدابير.

آخرون يفضّلون إخضاع الشركات لاختبار «الإهمال» الكلاسيكي، أي قياس سلوك المطوّر مقارنةً بمعيار عناية مقبول في تصميم المنتجات البرمجية والبنى التحتية الرقمية. عندها يصبح السؤال أمام القاضي أو هيئة المحلّفين: هل كان الحادث متوقّعاً بصورة معقولة ويمكن تلافيه بتدابير إضافية، أم أنه مجرّد حادث مؤسف لم يكن بوسع أي طرف توقّعه أو منعه؟

هذا الجدل القانوني تصاعد بعد أيّام فقط من إعلان شركة Anthropic في 30 يوليو أنها اكتشفت خلال اختبارات أمنية بالتعاون مع شريك خارجي، أن ثلاثة من نماذجها الخاصة وصلت بالفعل إلى أنظمة إنتاج حقيقية في ثلاث مؤسسات مختلفة. اثنتان من تلك المؤسسات لم تكتشفا أي نشاط غير معتاد إلا بعد أن تواصلت Anthropic بنفسها لإبلاغهما بما جرى.

اقرأ التالي: شائعات آيفون قابل للطي: 2500 دولار بلا Face ID ولا عدسة تيليفوتو