أوبن إيه آي تختبر حالياً نظام أمان جديداً يرصد أنماط إساءة الاستخدام من دون الاحتفاظ ببيانات العملاء، في تحدٍّ مباشر لقاعدة الاحتفاظ لمدة 30 يوماً التي تبنّتها منافستها أنثروبيك.
أبرز النقاط:
- أوبن إيه آي تعرض مبدئياً أداة “المعالجة الآمنة الخاصة” Private Safety Processing، التي تبحث في أنماط الإساءة عبر الجلسات المرتبطة من دون الاحتفاظ بمطالبات العملاء أو ردود النماذج.
- أنثروبيك تفرض على عملاء المؤسسات الاحتفاظ بالبيانات لمدة 30 يوماً عند استخدام أقوى نماذجها، معتبرة أن السجلات ضرورية لاكتشاف الهجمات المركّبة متعددة المراحل.
- إطلاق أوسع للنظام مع ورقة تقنية مفصلة متوقع في سبتمبر.
“المعالجة الآمنة الخاصة” تستهدف الإساءة عبر جلسات متعددة
الشركة أعلنت عن الإطلاق التجريبي يوم الأربعاء، وقدّمته بوصفه امتداداً لترتيب “انعدام الاحتفاظ بالبيانات” Zero Data Retention، الذي يمنع أوبن إيه آي من الاحتفاظ بالمطالبات أو ردود النماذج بعد إتمام معالجة الطلب. ومن المقرر توسيع الإطلاق ونشر ورقة تقنية في سبتمبر.
وفق الآلية الجديدة، يبقى محتوى العميل إما على البنية التحتية التي يتحكم بها العميل نفسه، أو في تخزين لدى أوبن إيه آي لكن مشفّر بمفاتيح لا يمتلكها سوى العميل. أدوات آلية تراجع هذا المحتوى لرصد أنماط إساءة الاستخدام عبر الجلسات المرتبطة. التصميم يأخذ في الحسبان أيضاً “العمل الوكيلي” agentic work، حيث قد يستمر النظام في اتخاذ إجراءات حتى بعد أن يطلب المستخدم منه التوقف. موظفو الشركة لا يطّلعون على هذا المحتوى.
أليا هاوز، رئيسة سياسة المنتجات في الشركة، أوضحت للصحفيين أن السلوكيات الخطرة لا تظهر غالباً إلا عند قراءة عدة تفاعلات معاً. وقدّمت مثال مستخدم يستكشف ثغرات برمجية في محادثة، ثم يسأل عن أدوات الوصول عن بُعد في محادثة أخرى.
مواد ذات صلة: العلامة المائية الخفية في Claude تُفسد فن الكتابة، بحسب غروبر
قاعدة الاحتفاظ لدى أنثروبيك تعمّق الفجوة بين الشركتين
أنثروبيك تبنّت في يوليو نهجاً معاكساً، فارضةً الاحتفاظ ببيانات عملاء المؤسسات لمدة 30 يوماً عند استخدام أقوى نماذجها، بما في ذلك Fable 5 وMythos 5.
المختبر أقرّ بأن السياسة ستكون غير شعبية وقد تضر بالأعمال، لكنه اعتبر أن السجلات ضرورية لاكتشاف الهجمات التي تُوزَّع عمداً على عدد كبير من الطلبات المنفصلة. المراجعة البشرية تبقى ممكنة، لكن عبر مسار مضبوط ومحدود بمجموعة صغيرة من المراجعين المعتمدين. كل جلسة يتم تسجيلها في سجل محمي من العبث.
محللون يتساءلون عن توقيت أوبن إيه آي وأدلة التنفيذ
براين ليفين، المدير التنفيذي في FormerGov، اعتبر التعهّد وعداً تقنياً قوياً، لأن مراقبة الإساءة مع “العمى” عن المحتوى كانا تاريخياً في اتجاهين متعارضين.
ولفت إلى أن الدليل العملي على ذلك لن يصل إلا بعد أسابيع. جيسون أندرسن من Moor Insights and Strategy قرأ إعلانات الأسبوع جزئياً على أنها تموضع استباقي قبل طرح عام أولي محتمل.
فلافيو فيلانستري، رئيس أمن المعلومات في LexisNexis Risk Solutions Group، رأى في الخطوة محاولة لتليين حدة التنظيمات المتوقعة على القطاع.
الإطلاق التجريبي يختتم أسبوعاً مكثفاً من رسائل تتعلق بالسلامة. الثلاثاء الماضي أعلنت الشركة أنها تباطأت في توسيع قدراتها وعلّقت تدريب التعلم المعزز، ريثما تعزّز بيئة أبحاثها وتُخضعها لاختبارات “ريد تيم”. كما قدّرت أن التوسّع في المراقبة سيستهلك نحو 20% من قدرة الحوسبة المخصّصة للاستدلال الخاضع للرقابة.
اقرأ أيضاً: البيتكوين قد يعود لاختراق 100 ألف دولار قبل تنصيف 2028، بحسب سكاناموتشي
