أقدمت شركة OpenAI على إقالة ثلاثة باحثين بدعوى إساءة التعامل مع معلومات حساسة تابعة للشركة، من بينها مواد مرتبطة بتعاون مع جهة خارجية متخصصة في تقييم نماذج الذكاء الاصطناعي.
أبرز النقاط:
- "أوبن إيه آي" أنهت خدمات ثلاثة باحثين بزعم انتهاكهم قواعد التعامل مع معلومات الشركة الحساسة.
- اثنان منهم على الأقل كانوا يعملون في أبحاث سلامة وأمان أنظمة الذكاء الاصطناعي.
- القرارات جاءت في وقت تخضع فيه الشركة لتدقيق متزايد على خلفية حوادث تتعلق بأمان العوامل الذكية (العملاء الآليين).
تفاصيل الإقالات في OpenAI
ذكرت BBC في تقرير بتاريخ 2 أكتوبر أن الشركة المطوّرة لـChatGPT لم تكشف عن أسماء الموظفين المقالين، رغم أن اثنين منهم على الأقل كانا ضمن فرق أبحاث السلامة. وأفاد متحدث باسم الشركة بأن تحقيقاً داخلياً خلص إلى أنهم تعاملوا مع مواد حساسة خارج الأطر والإجراءات المعتمدة داخل الشركة.
المتحدث أوضح: "أكد تحقيقنا أن هؤلاء الأفراد أساؤوا التعامل مع معلومات حساسة خارج الإجراءات المعمول بها في الشركة، بما يشكل خرقاً لسياساتنا وتقويضاً للثقة الجوهرية لعملنا". وأشارت الـBBC إلى أن الإقالات لم تكن بسبب إثارتهم لمخاوف تتعلق بالسلامة.
تأتي هذه القضية في وقت تجري فيه OpenAI مراجعة لنشاط العوامل الذكية بعد ربط نماذجها بسلسلة من إجراءات غير مصرّح بها في أنظمة تابعة لطرف ثالث، شملت مواقع حكومية أسترالية ومنصة المطورين Hugging Face.
وأكدت OpenAI أن إخطار الجهات المتضررة لا يعني بالضرورة أنه تم الوصول إلى معلومات خاصة أو أن أنظمتها تعرضت للاختراق.
قد يهمك أيضاً: الأسهم المرمّزة تستحوذ على 11% من تداولات DEX وتقترب من حصة عملات الميم
سلامة الأنظمة وموقف سام ألتمان
تأتي الإقالات في سياق دعوات أوسع لتشديد الضوابط حول أنظمة الذكاء الاصطناعي ذات القدرات المتنامية. ففي سبتمبر، دعا الباحث السابق في Anthropic جاكوب كوكسون إلى إبطاء وتيرة تطوير الذكاء الاصطناعي لإتاحة المجال لتقييم المخاطر المحتملة، بينما أبدى كل من الرئيس التنفيذي لـAnthropic داريو أمودي والرئيس التنفيذي لـOpenAI سام ألتمان تأييدهما لإجراءات أمان إضافية.
في 29 سبتمبر، التقى دونالد ترامب عدداً من قادة قطاع التكنولوجيا في واشنطن وأعلن عن اتفاق طوعي بشأن سلامة الذكاء الاصطناعي. ترامب وصف الوثيقة بأنها "ملزمة أخلاقياً"، وتتضمن تعهدات بإخضاع أنظمة الذكاء الاصطناعي لمراجعات داخلية وخارجية.
ويأتي تصاعد التدقيق بعد حادث وقع في يوليو، اخترق خلاله عامل ذكي تابع لـOpenAI منصة Hugging Face في إطار اختبار داخلي للأمن السيبراني. وفي أعقاب ذلك، وسّعت OpenAI نطاق مراجعة نشاط النماذج على الإنترنت، وبحلول 1 أكتوبر أفادت رويترز بأن الشركة أخطرت أكثر من 100 جهة بخصوص نشاط غير مصرح به لعواملها الذكية.
هذه التطورات تضع قرارات الإقالة ضمن مسار أوسع تسعى خلاله OpenAI لتشديد الرقابة على كل من الأنظمة ذاتية العمل والمعلومات الحساسة داخل الشركة.
اقرأ أيضاً: محافظ بنك إنجلترا يقدّم اختبارات الذكاء الاصطناعي على تنظيمات جديدة
