وكلاء الذكاء الاصطناعي يدخلون بالفعل عالم المال، مع قيام العديد من الشركات الكبرى بدعم هذه الأنظمة المستقلة، وذلك قبل أن نعرف كيف نسيطر عليها.
في الشهر الماضي، قامت منصة التداول الكبرى باينانس بتقديم منصة مطورين تتيح لوكلاء الذكاء الاصطناعي تحليل الأسواق وحتى التداول نيابة عن المستخدمين. وكتدبير احترازي، قالت المنصة إن "الوصول يحتاج إلى تفويض عبر حساب فرعي Agentic مخصص يكون معزولًا عن الحساب الرئيسي".
وفي كوريا الجنوبية، أطلق المنظّم المالي في البلاد نظامًا لمراقبة السوق يعمل بالذكاء الاصطناعي، للكشف عن تلاعب سوق العملات المشفرة وأشكال التداول غير العادل الأخرى في الوقت الفعلي. كما سيقوم النظام بإعداد تقارير تلقائيًا للمحققين.
المشكلة في هاتين الحالتين أن وكلاء الذكاء الاصطناعي لديهم إمكانية الوصول إلى معلومات مالية ويمكنهم أيضًا اتخاذ إجراءات بناءً عليها. إذا قام أحد هذه الأنظمة بنقل أموال وتسبب في خسائر، فمن المسؤول عن ذلك، وكيف يمكن للمراقب أن يحدد ما كان مسموحًا له أن يفعله، وما إذا كان قد بقي ضمن تلك الحدود؟
الإجابة عن هذه الأسئلة يجب أن تكون أولوية أساسية مع اكتساب وكلاء الذكاء الاصطناعي زخمًا. فوفقًا لاختبارات حديثة من ميتا وأنثروبيك وأوبن إيه آي، فإن وكلاء الذكاء الاصطناعي يتصرفون بما يتجاوز الحدود الموكلة إليهم. وقد تسبب ذلك بالفعل في ضرر كبير لبعض الشركات، بما في ذلك حادثة هاغينغ فيس الشهيرة.
إذا اتخذ متداول بشري قرارًا، يمكن استجوابه ومحاسبته. وإذا كانت شركة هي من اتخذ القرار، فينبغي أن توجد سجلات للموافقة، ويمكن تتبع المعاملة عبر الأنظمة المالية.
أما وكيل الذكاء الاصطناعي، الذي قد يُسمح له باتخاذ آلاف القرارات من دون تدخل مباشر من شخص، فهو حالة جديدة تحتاج إلى دراسة.
إعطاء التعليمات فقط لا يعني المساءلة
إعطاء وكيل ذكاء اصطناعي محفظةً ومجموعة من التعليمات لا يجعله مسؤولًا. يجب أن يخضع لمراقبة مستمرة للتأكد من أنه يعمل ضمن حدوده المحددة، كما ينبغي أن يترك سجلًا لأفعاله.
يمكن أن تساعد الأدوات القائمة، مثل عمليات التدقيق، وسجلات البورصات، ومزوّدي البيانات المنظمين، في تحديد المعلومات المتاحة وكيفية اتخاذ القرار. لكن، بحسب النظام، قد تحتاج المعلومات التي يعتمد عليها أيضًا إلى التحقق منها عبر مصادر مستقلة أو إخضاعها للضوابط المالية القائمة، لأن إدخال بيانات خاطئة أو مُعدَّلة يؤدي إلى قرار خاطئ مهما كانت قدرة الوكيل على الاستدلال.
عندما يُسمح لوكيل باتخاذ قرارات مالية، تزداد الحاجة إلى مسار تدقيق بشكل كبير. ذلك لأنه يسمح للمراقب أو لطرف ثالث بأن يحدد ما الذي كُلِّف الوكيل بفعله، وما البيانات التي تلقاها، وما القرار الذي اتخذه، وموعد اتخاذه، وما المعاملة التي تلته.
مخاطر التلاعب
هناك مجال آخر مثير للقلق وهو أن وكلاء الذكاء الاصطناعي يرتبطون بشكل متزايد بأنظمة خارجية. وهذا يعني أنهم قد يضطرون في بعض الأحيان لاتخاذ قرارات استنادًا إلى معلومات تُنتَج في أماكن أخرى، وأن العوامل الخارجية سيكون لها دور في كيفية تنفيذهم للمهام.
لذلك، هناك خطر أن تُعدَّل البيانات التي يعتمد عليها وكيل الذكاء الاصطناعي أو تُتلاعب في طريقها إليه. بعبارة أخرى، قد لا تبقى المعلومات التي يتلقاها الوكيل من مصدر آخر مطابقة تمامًا لما كانت عليه عند استخدامها.
على سبيل المثال، يمكن لتغذية أسعار متلاعب بها أو أوراكل مخترق أن تدفع نظامًا ماليًا آليًا لاتخاذ قرار بناءً على معلومات غير دقيقة. وعندما تكون للمعلومات قيمة مالية عالية، تزداد الحوافز لتغيير تلك البيانات.
يستطيع الذكاء الاصطناعي معالجة كميات هائلة من المعلومات بسرعة، لكن تلقي المعلومة لا يعني أنها أصلية أو موثوقة. تستخدم الأنظمة المالية بالفعل مجموعة من الضوابط لتقييم موثوقية البيانات الحرجة، لكن وكلاء الذكاء الاصطناعي قد يحتاجون إلى تكييف هذه الضوابط مع تولّيهم مزيدًا من مسؤوليات اتخاذ القرار.
لكي يتخذ وكلاء الذكاء الاصطناعي قرارات سليمة، ينبغي أن يكونوا قادرين، حيث يلزم، على تحديد البيانات التي استخدموها، ومصدرها، وتاريخ إنتاجها، وما إذا كانت قد تغيّرت منذ ذلك الحين. ويمكن أن يختلف أسلوب تحقيق ذلك بحسب النظام والنشاط المالي المعني.
نحتاج إلى دليل على ما حدث
مع مرور السنوات، طوّر النظام المالي مجموعة واسعة من الضوابط المطبقة على الأفراد والمؤسسات. فهناك مشرفون مكلَّفون بتحديد ما إذا كانت المؤسسات المالية "تمتلك أطرًا كافية للرقابة الداخلية لإنشاء بيئة تشغيل خاضعة للرقابة والاختبار الفعال لأعمالها والحفاظ عليها".
بالطبع، هذا الإطار ليس مثاليًا، وله نواقصه الخاصة. لكن الأهم أنه مبني على افتراض أن هناك شخصًا أو منظمة تتخذ القرار.
يغيّر وكلاء الذكاء الاصطناعي هذه المعادلة. فهذه الأنظمة لا تحتاج إلى النوم أو التوقف في العطلات؛ يمكنها العمل بشكل مستمر. كما أنها تتفاعل مع برمجيات أخرى من دون انتظار موافقة بشرية على كل إجراء، وتنفّذ آلاف المعاملات الروتينية التي يمكن أن يكون لها تأثير كبير في غضون ثوانٍ.
هذا يخلق مشكلة جديدة للبنية التحتية المالية. ولمعالجة ذلك، يحتاج القطاع إلى طريقة للإجابة عن أربعة أسئلة رئيسية:
- ما الذي كان مسموحًا لوكيل الذكاء الاصطناعي أن يفعله؟
- ما المعلومات التي استخدمها؟
- ماذا فعل بالفعل؟
- وهل يمكن التحقق من هذا السجل بشكل مستقل؟
ربما يكون السؤال الأخير هو الأهم. فلا ينبغي التعامل مع سجلات الوكيل نفسه باعتبارها مصدر الحقيقة الوحيد لتحديد ما إذا كان قد التزم بالقيود المقصودة. يمكن أن تكون السجلات غير مكتملة، وقد تفشل الأنظمة، ويمكن تغيير البيانات.
هناك عدة طرق للتعامل مع ذلك. فهناك سجلات تدقيق منظمة تحتفظ بسجل رسمي لنشاط النظام للمراجعة لاحقًا. وهناك تخزين WORM، اختصار "اكتب مرة، اقرأ مرات عديدة"، الذي يحتفظ بالبيانات في شكل لا يمكن تعديله بعد حفظه. وتدقيق الطرف الثالث يجلب جهة خارجية لتأكيد أن حدثًا ما وقع كما هو مُدَّعى. لكل منها دور، لكنها في الغالب تسجل ما يبلّغ عنه النظام عن نشاطه، لذا إذا كان النظام مخترقًا أو كانت مدخلاته خاطئة من البداية، يمكن أن يكون السجل دقيقًا لكن عن أمر خاطئ.
نهج آخر هو الاحتفاظ بسجل لأفعال الوكيل بشكل منفصل عن النظام الذي أصدرها، بحيث لا يعتمد سرد ما حدث على ثقة ذلك النظام في الإبلاغ عن نفسه. وأيّ هذه الأساليب يلائم، أو أي توليفة منها، سيعتمد على المؤسسة والتطبيق المعني.