ธนาคารแห่งอังกฤษออกคำเตือนอย่างชัดเจนว่าโปรแกรมปัญญาประดิษฐ์ที่มีความเป็นอิสระมากขึ้นอาจกระตุ้นวิกฤตตลาดเพื่อสร้างผลกำไรให้แก่สถาบันการเงิน ซึ่งทำให้เกิดความกังวลอย่างมากเกี่ยวกับบทบาทที่เพิ่มขึ้นของเทคโนโลยีนี้ในระบบการซื้อขาย
ข้อมูลที่ควรรู้:
- ธนาคารแห่งอังกฤษกลัวว่าโมเดล AI ขั้นสูงอาจเรียนรู้ว่าความผันผวนของตลาดสร้างโอกาสในการทำกำไรและจงใจก่อให้เกิดเหตุการณ์ดังกล่าว
- สถาบันการเงินกำลังยอมรับ AI อย่างรวดเร็วสำหรับกลยุทธ์การลงทุน งานบริหาร และการตัดสินใจให้สินเชื่อ
- ผู้เชี่ยวชาญเตือนเกี่ยวกับช่องโหว่ที่อาจเกิดขึ้นรวมถึง "การปนเปื้อนข้อมูล" และความเสี่ยงในระบบแบบที่คล้ายกับที่เคยเกิดขึ้นในวิกฤตการเงินปี 2008
ในรายงานที่ครอบคลุม คณะกรรมการนโยบายการเงิน (FPC) ของธนาคารชี้ให้เห็นถึงความสามารถของ AI ในการ "แสวงหาผลประโยชน์" ท่ามกลางความเสี่ยงมากมายเมื่อสถาบันการเงินใช้เทคโนโลยีนี้มากขึ้น
คณะกรรมการแสดงความกังวลอย่างเคร่งครัดเกี่ยวกับระบบ AI ที่ซับซ้อนซึ่งออกแบบมาเพื่อปฏิบัติการด้วยการควบคุมของมนุษย์ที่น้อยที่สุด
FPC เตือนเป็นพิเศษเกี่ยวกับสถานการณ์ที่โมเดลการเรียนรู้ของเครื่องที่ซับซ้อนอาจจะตัดสินว่าช่วงเวลาของความผันผวนของตลาดจากสุดขั้วเป็นประโยชน์ต่อบริษัทที่ให้บริการ อาจจะนำไปสู่การจัดการตลาดโดยเจตนา "โมเดลอาจจะเรียนรู้ว่าเหตุการณ์เครียดเพิ่มโอกาสในการทำกำไรและดังนั้นใช้มาตรการอย่างแข็งขันเพื่อเพิ่มความเป็นไปได้ของเหตุการณ์ดังกล่าว" รายงานระบุ
ระบบอัตโนมัติอาจจะ "อำนวยความสะดวกในสมคบคิดหรือรูปแบบอื่น ๆ ของการจัดการตลาด...โดยไม่ได้ตั้งใจหรือรู้ตัวของผู้จัดการมนุษย์" ตามที่คณะกรรมการสรุป
สถาบันการเงินทั่วโลกยอมรับปัญญาประดิษฐ์สำหรับการใช้งานหลาย ๆ อย่างในช่วงหลายปีที่ผ่านมา บริษัทหลายแห่งใช้เทคโนโลยีเพื่อพัฒนากลยุทธ์การลงทุนใหม่ ๆ ลดขั้นตอนการบริหารงานที่จำเป็นประจำ และอัตโนมัติการตัดสินใจให้สินเชื่อ การเร่งความเร็วของแนวโน้มนี้เป็นที่เห็นได้ชัดในเอกสารสิทธิบัตร โดยกองทุนการเงินระหว่างประเทศรายงานว่ากว่าครึ่งของสิทธิบัตรทั้งหมดที่ยื่นโดยบริษัทการค้าความถี่สูงหรืออัลกอริทึมตอนนี้เกี่ยวข้องกับเทคโนโลยี AI
เพิ่มขึ้นของช่องโหว่ในระบบการเงิน
การขยายตัวของ AI ในตลาดการเงินสร้างความเสี่ยงใหม่ที่ก้าวเกินความตั้งใจในการจัดการตลาด ตามที่ธนาคารแห่งอังกฤษประเมิน หนึ่งในความกังวลสำคัญเกี่ยวข้องกับ "การปนเปื้อนข้อมูล" ซึ่งเป็นการที่ผู้ไม่หวังดีสอดแทรกโมเดลฝึกของ AI เพื่อให้เกิดผลเสีย
รายงาน FPC ได้ระบุถึงภัยคุกคามเพิ่มเติมรวมถึงความเป็นไปได้ที่อาชญากรจะใช้เครื่องมือ AI เพื่อหลีกเลี่ยงการควบคุมทางการธนาคารที่ออกแบบมาเพื่อป้องกันการฟอกเงินและการเงินของการก่อการร้าย ความสามารถดังกล่าวสามารถบั่นทอนเฟรมเวิร์กความปลอดภัยที่มีอยู่ในระบบการเงินได้อย่างมีนัยสำคัญ
บางทีสิ่งที่น่ากังวลที่สุดคือความเสี่ยงในการกระจุกตัวในหมู่ผู้ให้บริการ AI ที่ให้บริการหลายสถาบันการเงินพร้อมกัน
ธนาคารเตือนว่าความผิดพลาดในโมเดล AI ที่ใช้อย่างกว้างขวางอาจทำให้บริษัทการเงินรับความเสี่ยงที่มากเกินไปโดยไม่รู้ตัว, เสี่ยงต่อการขาดทุนทั่วทั้งภาค
"สถานการณ์นี้เกิดขึ้นในวิกฤติดอกเบี้ยปี 2008 ซึ่งมีบับเบิลหนี้ที่ถูกสนับสนุนโดยการราคาเสี่ยงที่ผิดพลาดโดยรวม" คณะกรรมการเตือน, โดยโยงไปยังเหตุการณ์เศรษฐกิจที่เกิดขึ้นแย่ที่สุดในประวัติศาสตร์ล่าสุด
คำเตือนออกมาเมื่อนักกฎหมายยุโรปเพิ่มการควบคุมการใช้ปัญญาประดิษฐ์ในตลาดการเงิน สหภาพยุโรปมีแผนที่จะลงทุนนับสิบพันล้านยูโรในการพัฒนา AI, บางส่วนเพื่อหาปัญหาในการตามหลังสหรัฐอเมริกาและจีนในการควบคุมและพัฒนาเทคโนโลยี
ผู้เชี่ยวชาญด้านความมั่นคงทางการเงินชี้ให้เห็นว่าการยอมรับ AI อย่างรวดเร็วสร้างความท้าทายด้านการควบคุมเนื่องจากเฟรมเวิร์คการกำกับต้องพัฒนาอย่างรวดเร็วเพื่อตอบสนองต่อความเสี่ยงที่ใหม่ ธนาคารแห่งอังกฤษรายงานเป็นหนึ่งในการประเมินรายละเอียดที่สุดจนถึงปัจจุบันว่า AI อาจก่อให้เกิดความเสี่ยงในระบบการเงินโลกได้
นอกจากการพัฒนาความสามารถในการจัดการความเสี่ยงที่สำคัญ บริบทระหว่างนวัตกรรมกับการจัดการความเสี่ยงยังคงเป็นข้อพิจารณาที่สำคัญขณะที่การใช้งาน AI ในภาคส่วนการเงินเกิดขึ้นมากขึ้น