حذّر ديميس هاسابيس، الشريك المؤسس لـ Google DeepMind، من أن سلسلة الاختراقات التي نفذتها في الآونة الأخيرة «وكلاء» ذكاء اصطناعي مارقون تمثل مجرد طلقات تحذيرية، منبهاً إلى أن العالم قد يشهد حوادث أكبر بكثير خلال العامين المقبلين إذا لم تُشدد إجراءات الحماية.
أبرز النقاط:
- هاسابيس وصف اختراقات وكلاء الذكاء الاصطناعي الأخيرة بأنها «طلقات إنذار مبكر» من أنظمة لا تزال محدودة القوة.
- حذّر من احتمال وقوع حوادث كبرى خلال العامين المقبلين ما لم تُؤمِّن الشركات والحكومات هذه الأنظمة بجدية.
- رئيس مايكروسوفت براد سميث دعا إلى تشريعات «معقولة ومتوازنة» للذكاء الاصطناعي بعد عام وصفه بأنه «مُقلق للغاية».
تحذيرات هاسابيس من دبلن
هاسابيس، الذي يرأس ديبمايند ويشغل منصب كبير العلماء في شركة Alphabet المالكة لـ Google، قال خلال قمة الذكاء الاصطناعي الدولية في دبلن إن الحوادث الأخيرة نتجت عن أنظمة «ليست قوية جداً بعد». لكنه نبه إلى أن الصورة قد تتغير بدءاً من العام المقبل وخلال الأعوام القليلة القادمة، إذا لم يبذل القطاع الخاص والحكومات جهداً أكبر لتأمين هذه التقنيات، مشيراً إلى أن ملف السلامة هيمن على نقاشات القمة.
الباحثون يطلقون منذ أشهر تحذيرات من مخاطر «وكلاء» ذكاء اصطناعي يتصرفون بشكل ذاتي وخارج السيطرة.
وتشمل الحوادث الأخيرة اختراقات لشبكات شركات، إضافة إلى واقعة كشفت عنها شركة Anthropic حين اعترف نموذج ذكاء اصطناعي تابع لها بأنه قدّم للشرطة بلاغاً كاذباً يتعلق بجريمة قتل. وأقرّ هاسابيس بأن أمام القطاع «الكثير من العمل» قبل أن يصل إلى مستوى ممارسات الأمان المعمول بها في علوم الأحياء أو القطاع النووي بالنسبة للأنظمة الحساسة.
واعتبر أن العالم سيحتاج في نهاية المطاف إلى هيئة معايير دولية تشرف على هذه التقنيات، لكن آليات الترخيص الخاصة بها يجب أن تكون متناسبة مع مستوى المخاطر وقادرة على التكيّف سريعاً مع وتيرة تطور التكنولوجيا.
اقرأ أيضاً: فرنسا قد تفرض ضريبة 31.4% على تبديل العملات المستقرة، وتحذيرات من هجرة رؤوس الأموال
براد سميث يدفع نحو تشديد التنظيم
رئيس Microsoft براد سميث قال في المؤتمر إن سلوك بعض وكلاء الذكاء الاصطناعي المارقين جعل من عام 2026 «عاماً صادماً»، مؤكداً أن قواعد الأمان باتت مطالَبة باللحاق بوتيرة الابتكار.
وأضاف: «هناك قواعد سلامة أكثر صرامة لكرتونة حليب مما هي للذكاء الاصطناعي»، وفق ما نقل عنه.
وشدد سميث على أنه لا شركة ولا تكنولوجيا يجب أن تكون فوق القانون، لكنه دعا في الوقت نفسه إلى تشريعات «معقولة ومتوازنة» تراعي عدم خنق الابتكار. وأشار إلى تقرير حديث لـ Anthropic يرجّح أن النماذج الصغيرة من الذكاء الاصطناعي قد تصبح، خلال أشهر، قادرة على نسخ نفسها من جهاز متصل بالإنترنت إلى آخر بطريقة تشبه «الديدان» الإلكترونية. وقال مازحاً: «لا أريد ديدان ذكاء اصطناعي في ثلاجتي».
عشية القمة، كان سميث قد دعا إلى اعتماد «فرامل أمان» تسمح للمستخدمين بإيقاف أو إبطاء عمل وكلاء الذكاء الاصطناعي عند الحاجة، إلى جانب إلزامية الإبلاغ عن الحوادث وتعزيز اختبارات النماذج قبل طرحها تجارياً. وأضاف الأربعاء أن بعض الأطراف في القطاع بحاجة إلى «التخلص من حساسيتهم المفرطة تجاه التنظيم».
تصريحات دبلن جاءت امتداداً لخطة كان هاسابيس قد طرحها في 14 يوليو/تموز، حين وصف المخاطر السيبرانية المدفوعة بالذكاء الاصطناعي بأنها «طلقات تحذيرية» ودعا الولايات المتحدة إلى إنشاء جهة رقابية خاصة بالنماذج المتقدمة. واستلهم هاسابيس الفكرة من هيئة FINRA المنظمة لوول ستريت، بحيث تسمح للمعامل بمشاركة نماذجها قبل الإطلاق بما يصل إلى 30 يوماً، لإخضاعها لاختبارات في مجالات الهجمات السيبرانية والقدرات البيولوجية والخداع. وقال إنه يأمل أن يرى هذه الهيئة قيد العمل قبل نهاية العام.
اطلع أيضاً على: MNX تفتح رهانات ما قبل الطرح العام على تقييـمات OpenAI وAnthropic دون الحاجة لامتلاك أسهم
