حذّر ديميس هاسابيس، الشريك المؤسس لـ Google DeepMind، الأربعاء من أن الاختراقات التي نفذتها أخيراً وكلاء ذكاء اصطناعي «منفلتون» ليست سوى طلقات تحذيرية مبكرة، وأن حوادث أكبر بكثير قد تقع في غضون عامين إذا لم تُعزَّز إجراءات الأمان بشكل ملموس.
أبرز النقاط:
- هاسابيس وصف اختراقات وكلاء الذكاء الاصطناعي الأخيرة بأنها إنذارات مبكرة صادرة عن أنظمة لا تزال محدودة القدرات.
- حذر من احتمال وقوع حوادث كبرى خلال العامين المقبلين ما لم تتحرك الشركات والحكومات لتأمين هذه الأنظمة.
- رئيس مايكروسوفت براد سميث دعا إلى تشريعات «متوازنة وعقلانية» للذكاء الاصطناعي بعد عام وصفه بـ«الصادم».
تحذير هاسابيس من دبلن
هاسابيس، الذي يرأس DeepMind ويشغل منصب كبير العلماء في Alphabet، الشركة الأم لـ Google، قال خلال القمة الدولية للذكاء الاصطناعي في دبلن إن الهجمات الأخيرة صدرت عن أنظمة «ليست قوية جداً بعد». لكنه نبه إلى أن الصورة قد تتغير بدءاً من العام المقبل وخلال السنوات القليلة التالية إذا لم تبذل الصناعة والشركات الفردية والحكومات جهداً أكبر لتأمين هذه النماذج، مشيراً إلى أن مخاوف السلامة هيمنت على أعمال القمة.
باحثون وجّهوا تحذيرات متكررة منذ أشهر بشأن وكلاء الذكاء الاصطناعي المنفلتين.
وتشمل الحالات الأخيرة اختراقات لشبكات شركات، إضافة إلى واقعة كشفتها Anthropic حين قدّم نموذج ذكاء اصطناعي بلاغاً مضللاً للشرطة حول جريمة قتل لم تقع. هاسابيس أقرّ بأن أمام القطاع «عملاً كثيراً» قبل أن يرقى إلى معايير الأمان المعتمدة في مجالات حساسة مثل علوم الأحياء والقطاع النووي. وأوضح أن العالم سيحتاج في النهاية إلى هيئة دولية لوضع المعايير والتصديق، شرط أن تبقى إجراءاتها متناسبة مع مستوى المخاطر وقادرة على مواكبة التسارع التقني.
اقرأ أيضاً: فرنسا قد تفرض ضريبة 31.4٪ على مبادلة العملات المستقرة، وتشيناليسيس تحذر من هجرة إلى الخارج
ضغوط براد سميث لتنظيم أقوى
رئيس Microsoft براد سميث قال في المؤتمر إن سلوك بعض أنظمة الذكاء الاصطناعي هذا العام جعل 2026 «عاماً صادماً»، مضيفاً أن قواعد السلامة يجب أن تلحق بسرعة بوتيرة الابتكار.
وأضاف: «هناك قواعد سلامة أكثر لكرتون حليب مما هي موجودة للذكاء الاصطناعي»، وفق ما صرّح.
سميث شدد على أنه لا شركة ولا تقنية يجب أن تكون فوق القانون، لكنه دعا في الوقت نفسه إلى أن تكون القواعد الجديدة «معقولة ومتوازنة» ولا تخنق الابتكار. وأشار إلى تقرير حديث لشركة Anthropic يرجح أن النماذج الصغيرة قد تصبح خلال أشهر قادرة على نسخ نفسها من جهاز متصل بالإنترنت إلى آخر، على غرار «الديدان» البرمجية. وقال ساخراً: «لا أريد ديدان ذكاء اصطناعي في ثلاجتي».
عشية القمة، كان سميث قد دعا إلى «فرامل أمان» تسمح للمستخدمين بإيقاف أو إبطاء عمل وكلاء الذكاء الاصطناعي، مع فرض الإبلاغ الإلزامي عن الحوادث وتعزيز اختبار النماذج قبل طرحها تجارياً. وأضاف الأربعاء أن بعض الأطراف في القطاع بحاجة إلى «التغلب على حساسيتهم المفرطة» تجاه التنظيم.
تصريحات دبلن جاءت امتداداً لخطة كان هاسابيس قد عرضها في 14 يوليو/تموز، حين وصف المخاطر السيبرانية المدفوعة بالذكاء الاصطناعي بأنها «طلقات تحذير»، ودعا الولايات المتحدة إلى إنشاء جهة رقابية متخصصة بالنماذج المتقدمة. وبالاستناد إلى نموذج هيئة FINRA المنظمة لوول ستريت، ستسمح هذه الجهة للمختبرات بمشاركة النماذج قبل طرحها بما يصل إلى 30 يوماً لإخضاعها لاختبارات في القدرات السيبرانية والبيولوجية وقدرات الخداع. وأعرب هاسابيس حينها عن أمله في أن تكون الهيئة قيد العمل قبل نهاية العام.
اقرأ التالي: MNX تفتح الباب لرهانات ما قبل الطرح العام على تقييمات OpenAI وAnthropic دون الحاجة لامتلاك الأسهم
