เอเจนต์ AI กำลังก้าวเข้าสู่ระบบการเงินแล้ว โดยหลายบริษัทยักษ์ใหญ่เพิ่มการรองรับระบบอัตโนมัติเหล่านี้ ซึ่งเกิดขึ้นเร็วกว่าที่เราจะรู้ว่าจะควบคุมมันอย่างไร
เมื่อเดือนที่แล้ว กระดานเทรดคริปโตรายใหญ่ Binance ได้เปิดตัว แพลตฟอร์มสำหรับนักพัฒนาที่อนุญาตให้เอเจนต์ AI วิเคราะห์ตลาดและแม้แต่เทรดแทนผู้ใช้ได้ เพื่อเป็นมาตรการป้องกัน แพลตฟอร์มระบุว่า “การเข้าถึงจะต้องได้รับอนุญาตผ่านบัญชีย่อย Agentic เฉพาะที่แยกจากบัญชีหลักอย่างเด็ดขาด”
ขณะเดียวกัน ในเกาหลีใต้ หน่วยงานกำกับดูแลด้านการเงินของประเทศได้เปิดตัว ระบบเฝ้าระวังที่ขับเคลื่อนด้วย AI เพื่อจับการปั่นราคาคริปโตและรูปแบบการซื้อขายไม่เป็นธรรมอื่นๆ แบบเรียลไทม์ นอกจากนี้ยังจะจัดทำรายงานอัตโนมัติให้ผู้สอบสวนด้วย
ปัญหาก็คือ ในทั้งสองกรณี เอเจนต์ AI สามารถเข้าถึงข้อมูลทางการเงินและสามารถลงมือกระทำกับข้อมูลนั้นได้ หากหนึ่งในระบบเหล่านี้ย้ายเงินและทำให้เกิดความสูญเสีย ใครจะต้องรับผิดชอบ และผู้สอบสวนจะพิสูจน์ได้อย่างไรว่าระบบได้รับอนุญาตให้ทำอะไรบ้าง และทำงานอยู่ในขอบเขตที่กำหนดหรือไม่
การตอบคำถามเหล่านี้ควรเป็นเรื่องสำคัญระดับต้นๆ ขณะที่เอเจนต์ AI กำลังได้รับแรงส่ง จากการทดสอบล่าสุดโดย Meta, Anthropic และ OpenAI พบว่าเอเจนต์ AI กำลังกระทำ เกินขอบเขตที่ได้รับมอบหมาย ซึ่งได้ก่อให้เกิดความเสียหายร้ายแรงต่อบางบริษัทมาแล้ว รวมถึงเหตุการณ์อื้อฉาวกรณี Hugging Face
หากเป็นมนุษย์เทรดเดอร์ที่ตัดสินใจ เขาสามารถถูกซักถามและถูกถือเป็นผู้รับผิดชอบได้ หากเป็นบริษัท ก็ต้องมีบันทึกการอนุมัติ และธุรกรรมสามารถถูกติดตามผ่านระบบการเงินได้
แต่เอเจนต์ AI ซึ่งอาจได้รับอนุญาตให้ตัดสินใจนับพันครั้งโดยไม่มีคนเข้าไปเกี่ยวข้องโดยตรง เป็นกรณีใหม่ที่จำเป็นต้องได้รับการศึกษา
แค่ให้คำสั่ง ไม่ใช่ความรับผิดชอบ
การให้เอเจนต์ AI กระเป๋าเงินและชุดคำสั่งไม่ได้ทำให้มันต้องรับผิดชอบโดยอัตโนมัติ มันจำเป็นต้องถูกเฝ้าติดตามอย่างต่อเนื่องเพื่อให้แน่ใจว่าทำงานอยู่ในขอบเขตที่กำหนด และควรทิ้งบันทึกการกระทำของตนเองไว้ด้วย
เครื่องมือที่มีอยู่แล้ว เช่น การตรวจสอบบัญชี (audit) บันทึกจากกระดานเทรด และผู้ให้บริการข้อมูลที่อยู่ภายใต้การกำกับดูแล สามารถช่วยระบุได้ว่ามีข้อมูลใดให้ใช้บ้างและมีการตัดสินใจอย่างไร แต่อย่างไรก็ตาม ขึ้นอยู่กับระบบ ข้อมูลที่มันใช้อ้างอิงอาจจำเป็นต้องถูกตรวจสอบกับแหล่งอิสระ หรืออยู่ภายใต้การควบคุมทางการเงินที่มีอยู่ เพราะหากข้อมูลนำเข้าผิดหรือถูกเปลี่ยน แปลการตัดสินใจจะผิดพลาดไม่ว่าตัวเอเจนต์จะให้เหตุผลได้ดีเพียงใดก็ตาม
เมื่อเอเจนต์ถูกอนุญาตให้ตัดสินใจด้านการเงิน ความจำเป็นในการมีเส้นทางตรวจสอบ (audit trail) จะเพิ่มสูงขึ้นอย่างมาก เพราะสิ่งนั้นจะทำให้ผู้สอบสวนหรือบุคคลที่สามสามารถระบุได้ว่าเอเจนต์ได้รับคำสั่งให้ทำอะไร ใช้ข้อมูลใด ตัดสินใจอย่างไร ตัดสินใจเมื่อใด และมีธุรกรรมใดตามมา
ความเสี่ยงจากการบิดเบือน
อีกประเด็นใหญ่ที่น่ากังวล คือเอเจนต์ AI กำลังถูกเชื่อมต่อกับระบบภายนอกมากขึ้นเรื่อยๆ ซึ่งหมายความว่าในบางครั้ง มันอาจต้องตัดสินใจโดยอิงกับข้อมูลที่สร้างจากที่อื่น และปัจจัยภายนอกจะมีบทบาทในการกำหนดวิธีที่มันทำงาน
ดังนั้นจึงมีความเสี่ยงว่าข้อมูลที่เอเจนต์ AI ใช้อ้างอิงอาจถูกเปลี่ยนแปลงหรือบิดเบือนระหว่างทาง กล่าวอีกนัยหนึ่ง ข้อมูลที่เอเจนต์ AI ได้รับจากแหล่งอื่น อาจไม่เหมือนเดิมทุกประการเมื่อถึงเวลาที่เอเจนต์นำไปใช้
ตัวอย่างเช่น ฟีดราคาที่ถูกดัดแปลงหรือออราเคิลที่ถูกเจาะ อาจทำให้ระบบการเงินอัตโนมัติตัดสินใจจากข้อมูลที่ไม่ถูกต้อง และเมื่อมีมูลค่าสูงผูกกับข้อมูล แรงจูงใจในการดัดแปลงข้อมูลก็จะสูงตามไปด้วย
AI สามารถประมวลผลข้อมูลจำนวนมหาศาลได้อย่างรวดเร็ว แต่การได้รับข้อมูลไม่ได้หมายความว่าข้อมูลนั้นแท้จริงหรือเชื่อถือได้ ระบบการเงินปัจจุบันใช้กลไกควบคุมหลากหลายเพื่อประเมินความน่าเชื่อถือของข้อมูลสำคัญ แต่เอเจนต์ AI อาจต้องการการปรับกลไกเหล่านี้ให้เหมาะสมมากขึ้น เมื่อมันรับหน้าที่ตัดสินใจมากขึ้น
เพื่อให้เอเจนต์ AI ตัดสินใจได้อย่างมีเหตุผล มันควรสามารถระบุได้ตามความจำเป็นว่ามีการใช้ข้อมูลใด ข้อมูลมาจากที่ใด ผลิตเมื่อใด และถูกเปลี่ยนแปลงหลังจากนั้นหรือไม่ วิธีการบรรลุเรื่องนี้อาจแตกต่างกันไปตามระบบและกิจกรรมทางการเงินที่เกี่ยวข้อง
เราต้องมีหลักฐานว่าเกิดอะไรขึ้น
ตลอดหลายปีที่ผ่านมา ระบบการเงินได้พัฒนาและติดตั้งกลไกควบคุมที่ครอบคลุมทั้งสำหรับบุคคลและสถาบัน มีผู้กำกับดูแลที่มีหน้าที่กำหนด ให้แน่ใจว่าสถาบันการเงิน “มีกรอบการควบคุมภายในที่เพียงพอ เพื่อสร้างและคงไว้ซึ่งสภาพแวดล้อมการดำเนินงานที่ถูกควบคุมและทดสอบอย่างมีประสิทธิภาพสำหรับการดำเนินธุรกิจของตน”
แน่นอนว่า กรอบนี้ไม่ได้สมบูรณ์แบบ และมีข้อบกพร่องของตัวเอง แต่สิ่งที่สำคัญกว่าคือ กรอบนี้ถูกสร้างบนสมมติฐานว่ามีบุคคลหรือองค์กรเป็นผู้ตัดสินใจ
เอเจนต์ AI เปลี่ยนสมมติฐานนั้น ระบบเหล่านี้ไม่ต้องนอนหรือหยุดในวันหยุด สามารถทำงานได้ต่อเนื่อง อีกทั้งยังโต้ตอบกับซอฟต์แวร์อื่นโดยไม่ต้องรอให้มนุษย์อนุมัติทุกการกระทำ และสามารถดำเนินธุรกรรมประจำได้เป็นพันๆ ครั้งที่อาจส่งผลกระทบใหญ่ในเวลาไม่กี่วินาที
นี่สร้างปัญหาแบบใหม่ให้กับโครงสร้างพื้นฐานทางการเงิน และเพื่อตอบโจทย์นี้ ภาคอุตสาหกรรมจำเป็นต้องมีวิธีตอบคำถามสำคัญสี่ข้อ:
- เอเจนต์ AI ได้รับอนุญาตให้ทำอะไรบ้าง?
- มันใช้ข้อมูลอะไร?
- มันลงมือทำอะไรจริงๆ?
- และบันทึกนั้นสามารถตรวจสอบได้อย่างอิสระหรือไม่?
คำถามสุดท้ายอาจเป็นคำถามที่สำคัญที่สุด บันทึกของเอเจนต์เองไม่ควรถูกมองว่าเป็นแหล่งความจริงเพียงแหล่งเดียวในการตัดสินว่ามันอยู่ในข้อจำกัดที่ตั้งใจไว้หรือไม่ บันทึกอาจไม่ครบถ้วน ระบบอาจล้มเหลว และข้อมูลอาจถูกแก้ไขได้
มีหลายวิธีในการจัดการเรื่องนี้ บันทึกการตรวจสอบที่อยู่ภายใต้การกำกับ (regulated audit logs) จะเก็บบันทึกกิจกรรมของระบบอย่างเป็นทางการเพื่อการทบทวนภายหลัง ที่จัดเก็บแบบ WORM (write once, read many) จะเก็บข้อมูลในรูปแบบที่ไม่สามารถแก้ไขได้หลังจากบันทึกไปแล้ว การรับรองโดยบุคคลที่สาม (third-party attestation) คือการนำบุคคลภายนอกมารับรองว่าเหตุการณ์เกิดขึ้นตามที่อ้าง แต่ละวิธีมีประโยชน์ของตัวเอง แต่ส่วนใหญ่ยังอาศัยการบันทึกสิ่งที่ระบบรายงานเกี่ยวกับกิจกรรมของมันเอง ดังนั้นหากระบบถูกเจาะ หรือข้อมูลนำเข้าผิดตั้งแต่ต้น บันทึกก็อาจ “ถูกต้อง” เกี่ยวกับสิ่งที่ผิด
อีกแนวทางหนึ่งคือเก็บบันทึกการกระทำของเอเจนต์แยกจากระบบที่สร้างการกระทำนั้น เพื่อที่ว่าการบรรยายว่าเกิดอะไรขึ้นจะไม่ต้องพึ่งการให้ระบบเดียวกันเป็นผู้รายงานตัวเอง วิธีไหนเหมาะสม หรือควรผสมกันแบบใด จะขึ้นอยู่กับแต่ละสถาบันและการประยุกต์ใช้งานนั้นๆ