أوبن إيه آي تختبر نظام أمان جديداً يرصد إساءة الاستخدام دون الاحتفاظ ببيانات العملاء، في خطوة تمثل تحدياً مباشراً لقاعدة الاحتفاظ لمدة 30 يوماً التي تبنتها منافستها أنثروبيك.
أبرز النقاط:
- أوبن إيه آي تطرح بنسخة معاينة أداة “المعالجة الآمنة الخاصة” Private Safety Processing، القادرة على تتبع أنماط سوء الاستخدام عبر جلسات مترابطة دون الاحتفاظ بالمحفزات أو الردود.
- أنثروبيك تُلزم عملاء المؤسسات بالاحتفاظ ببيانات استخدام نماذجها الأحدث لمدة 30 يوماً، معتبرة أن السجلات ضرورية لاكتشاف الهجمات متعددة المراحل.
- إطلاق أوسع ونشر ورقة تقنية تفصيلية متوقعان في سبتمبر.
“المعالجة الآمنة الخاصة” تستهدف إساءة الاستخدام متعددة الجلسات
الشركة أعلنت عن إطلاق النسخة التجريبية من النظام يوم الأربعاء، وقدمتها باعتبارها امتداداً لترتيب “عدم الاحتفاظ بالبيانات” Zero Data Retention، الذي يمنع أوبن إيه آي من تخزين المحفزات أو ردود النماذج بعد انتهاء معالجة الطلب. ومن المقرر توسيع الإتاحة ونشر ورقة تقنية مفصلة في سبتمبر.
بموجب الآلية الجديدة، يبقى محتوى العملاء إما على بنية تحتية يتحكمون فيها بالكامل، أو في تخزين لدى أوبن إيه آي لكنه مشفر بمفاتيح لا يملكها سوى العميل. وتقوم أدوات آلية بمراجعة هذا المحتوى لرصد أنماط إساءة الاستخدام عبر جلسات مترابطة، بما يشمل سيناريوهات “الأنظمة الوكيلة” التي تستمر في التنفيذ حتى بعد أن يطلب المستخدم التوقف. ولا يطّلع الموظفون على هذا المحتوى.
أليا هاوز، رئيسة سياسات المنتجات في الشركة، قالت للصحفيين إن السلوك الخطير لا يظهر غالباً إلا عند قراءة عدة تفاعلات معاً. وأشارت مثلاً إلى مستخدم يستكشف ثغرات البرامج في محادثة أولى، ثم يسأل عن أدوات الوصول عن بُعد في محادثة ثانية.
اقرأ أيضاً: العلامة المائية الخفية في Claude تفسد فن الكتابة، يقول غروبر
قاعدة الاحتفاظ لدى أنثروبيك تعمّق التباين بين الشركتين
أنثروبيك قدمت مقاربة معاكسة في يوليو، عندما فرضت على عملاء المؤسسات الراغبين في استخدام نماذجها الأقوى – ومن بينها Fable 5 وMythos 5 – الاحتفاظ ببيانات الاستخدام لمدة 30 يوماً.
المختبر أقر بأن السياسة قد تكون غير شعبية وربما تضر بأعماله، لكنه اعتبر السجلات ضرورية لاكتشاف هجمات يجري تفتيتها عمداً على طلبات متعددة منفصلة. ولا يزال التدقيق البشري ممكناً، لكن عبر مسار مراقَب ومحدود متاح لمجموعة صغيرة من المراجعِين المعتمدين. كما يتم تسجيل كل جلسة في سجل غير قابل للتلاعب.
محللون يشككون في توقيت أوبن إيه آي والأدلة التقنية
براين ليفين، المدير التنفيذي لمنظمة FormerGov، وصف التزام أوبن إيه آي بأنه وعد تقني قوي، بالنظر إلى أن مراقبة إساءة الاستخدام وعدم رؤية المحتوى كانا تاريخياً هدفين متعارضين.
لكنه لفت إلى أن البرهان الفعلي سيأتي بعد أسابيع، بينما رأى جايسون أندرسن من Moor Insights and Strategy أن الإعلانات الأخيرة تحمل بُعداً تمهيدياً قبل طرح عام أولي محتمل.
أما فلافيو فيلانستري، كبير مسؤولي أمن المعلومات في LexisNexis Risk Solutions Group، فاعتبر أن الشركة تحاول تليين شكل التنظيمات المتوقعة مستقبلاً.
وتأتي هذه المعاينة في ختام أسبوع كثّفت فيه أوبن إيه آي رسائلها بشأن السلامة. فالشركة أعلنت الثلاثاء أنها أبطأت وتيرة التوسّع وأوقفت تدريب نماذج التعلم المعزز مؤقتاً، ريثما تعزز بيئتها البحثية وتخضعها لاختبارات اختراق داخلية وخارجية أكثر صرامة. كما قدرت أن آليات المراقبة الموسعة ستستهلك نحو 20% من قدرة الحوسبة المخصصة للاستدلال الخاضع للرقابة.
اقرأ التالي: بيتكوين قد تعود لاختبار مستوى 100 ألف دولار قبل تنصيف 2028، وفق سكاراموتشي
