Các tác nhân AI đã bước vào lĩnh vực tài chính, nhiều công ty lớn hỗ trợ các hệ thống tự động này, trong khi chúng ta vẫn chưa biết cách kiểm soát chúng.
Tháng trước, sàn giao dịch tiền mã hóa lớn Binance đã giới thiệu một nền tảng dành cho nhà phát triển cho phép các tác nhân AI phân tích thị trường và thậm chí giao dịch thay cho người dùng. Như một biện pháp phòng ngừa, nền tảng này cho biết “quyền truy cập cần được ủy quyền thông qua một tài khoản phụ Agentic chuyên biệt được tách biệt khỏi tài khoản chính.”
Trong khi đó tại Hàn Quốc, cơ quan quản lý tài chính của nước này đã triển khai một hệ thống giám sát sử dụng AI để phát hiện thao túng thị trường tiền mã hóa và các hình thức giao dịch không công bằng khác trong thời gian thực. Hệ thống này cũng sẽ tự động chuẩn bị báo cáo cho các điều tra viên.
Vấn đề là trong cả hai trường hợp này, các tác nhân AI đều có quyền truy cập vào thông tin tài chính và cũng có thể hành động dựa trên đó. Nếu một trong các hệ thống này di chuyển tiền và gây ra thua lỗ, ai sẽ chịu trách nhiệm, và làm sao một kiểm toán viên xác định được hệ thống được phép làm gì và liệu nó có tuân thủ các giới hạn đó không?
Trả lời những câu hỏi này cần phải là ưu tiên then chốt khi các tác nhân AI ngày càng được triển khai rộng rãi. Theo các thử nghiệm gần đây của Meta, Anthropic và OpenAI, các tác nhân AI đang hành xử vượt ra ngoài phạm vi được giao. Điều này đã gây tổn hại nghiêm trọng cho một số công ty, bao gồm vụ việc tai tiếng liên quan tới Hugging Face.
Nếu một nhà giao dịch là con người ra quyết định, họ có thể bị chất vấn và chịu trách nhiệm. Nếu là một công ty, cần có hồ sơ phê duyệt, và giao dịch có thể được truy vết thông qua các hệ thống tài chính.
Tuy nhiên, một tác nhân AI, có thể được phép đưa ra hàng nghìn quyết định mà không có người trực tiếp tham gia, là một trường hợp mới cần được nghiên cứu.
Chỉ đưa ra hướng dẫn không phải là trách nhiệm giải trình
Việc trao cho một tác nhân AI một ví tiền và một bộ hướng dẫn không khiến nó tự chịu trách nhiệm. Nó cần được giám sát liên tục để bảo đảm hoạt động trong các giới hạn đã định và cũng phải để lại nhật ký về các hành động của mình.
Các công cụ hiện có như kiểm toán, hồ sơ tại sàn giao dịch và các nhà cung cấp dữ liệu được quản lý cũng có thể giúp xác định thông tin nào đã có sẵn và quyết định được đưa ra như thế nào. Tuy nhiên, tùy thuộc vào hệ thống, thông tin mà nó dựa vào cũng có thể cần được kiểm tra chéo với các nguồn độc lập hoặc được bao phủ bởi các kiểm soát tài chính hiện có, vì một đầu vào sai hoặc bị thay đổi sẽ tạo ra một quyết định sai, cho dù tác nhân lý luận tốt đến đâu.
Khi một tác nhân được phép đưa ra quyết định tài chính, nhu cầu về dấu vết kiểm toán tăng lên đáng kể. Bởi vì điều đó cho phép một kiểm toán viên hoặc bên thứ ba xác định tác nhân đã được chỉ dẫn làm gì, đã nhận dữ liệu nào, đã đưa ra quyết định gì, vào thời điểm nào, và giao dịch nào đã diễn ra sau đó.
Rủi ro bị thao túng
Một mối quan ngại lớn khác là các tác nhân AI ngày càng được kết nối với các hệ thống bên ngoài. Điều này có nghĩa là đôi khi chúng phải đưa ra quyết định dựa trên thông tin được tạo ra ở nơi khác, và các yếu tố bên ngoài sẽ ảnh hưởng đến cách chúng thực hiện nhiệm vụ.
Do đó, tồn tại rủi ro dữ liệu mà một tác nhân AI dựa vào có thể bị thay đổi hoặc thao túng trên đường truyền. Nói cách khác, thông tin mà tác nhân AI nhận từ một nguồn khác có thể không còn chính xác y như ban đầu vào thời điểm nó được sử dụng.
Ví dụ, một nguồn giá bị thao túng hoặc một oracle bị xâm phạm có thể khiến một hệ thống tài chính tự động đưa ra quyết định dựa trên thông tin không chính xác. Và khi giá trị gắn với dữ liệu càng cao, động cơ để sửa đổi dữ liệu đó cũng tăng theo.
AI có thể xử lý lượng thông tin khổng lồ với tốc độ cao, nhưng việc nhận được thông tin không đồng nghĩa thông tin đó là xác thực hay đáng tin cậy. Các hệ thống tài chính vốn đã sử dụng nhiều lớp kiểm soát để đánh giá độ tin cậy của dữ liệu trọng yếu, nhưng các tác nhân AI có thể cần được điều chỉnh những kiểm soát này khi chúng đảm nhận nhiều trách nhiệm ra quyết định hơn.
Để các tác nhân AI có thể đưa ra quyết định đúng đắn, chúng cần có khả năng xác định, khi cần thiết, dữ liệu nào đã được sử dụng, đến từ đâu, được tạo ra khi nào và liệu nó đã bị thay đổi kể từ đó hay chưa. Cách thức đạt được điều này có thể khác nhau tùy theo từng hệ thống và hoạt động tài chính liên quan.
Chúng ta cần bằng chứng về những gì đã xảy ra
Qua nhiều năm, hệ thống tài chính đã phát triển và đưa vào áp dụng các lớp kiểm soát rộng khắp dành cho con người và tổ chức. Có các cơ quan giám sát được giao nhiệm vụ xác định rằng các tổ chức tài chính “có khung kiểm soát nội bộ đầy đủ để thiết lập và duy trì một môi trường hoạt động được kiểm soát và kiểm tra hiệu quả cho hoạt động kinh doanh của họ.”
Tất nhiên, khuôn khổ này không hoàn hảo và có những hạn chế riêng. Nhưng điều quan trọng hơn là nó được xây dựng dựa trên giả định rằng có một cá nhân hoặc một tổ chức đang ra quyết định.
Các tác nhân AI làm thay đổi điều đó. Các hệ thống này không cần ngủ hoặc ngừng hoạt động vào ngày nghỉ – chúng có thể chạy liên tục. Chúng cũng tương tác với phần mềm khác mà không cần chờ con người phê duyệt từng hành động, và thực hiện hàng nghìn giao dịch thường nhật có thể tạo ra tác động rất lớn chỉ trong vài giây.
Điều này tạo ra một vấn đề mới cho hạ tầng tài chính. Và để giải quyết, ngành tài chính cần một cách để trả lời bốn câu hỏi then chốt:
- Tác nhân AI được phép làm gì?
- Nó đã sử dụng thông tin nào?
- Thực tế nó đã làm gì?
- Và liệu hồ sơ đó có thể được xác minh độc lập hay không?
Câu hỏi cuối có lẽ là quan trọng nhất. Nhật ký của chính tác nhân không nên được coi là nguồn sự thật duy nhất để xác định liệu nó có ở trong các giới hạn dự kiến hay không. Nhật ký có thể không đầy đủ, hệ thống có thể hỏng, và hồ sơ có thể bị chỉnh sửa.
Có một số cách tiếp cận cho vấn đề này. Nhật ký kiểm toán được quản lý sẽ lưu lại hồ sơ chính thức về hoạt động của hệ thống để xem xét sau. Lưu trữ WORM (write once, read many – ghi một lần, đọc nhiều lần) giữ dữ liệu dưới dạng không thể chỉnh sửa sau khi lưu. Xác nhận của bên thứ ba đưa một bên độc lập vào để xác nhận rằng điều gì đó đã xảy ra như được tuyên bố. Mỗi cách đều có vai trò, nhưng chúng chủ yếu ghi nhận những gì hệ thống tự báo cáo về hoạt động của mình, nên nếu hệ thống bị xâm phạm hoặc đầu vào ban đầu đã sai, thì hồ sơ có thể chính xác về một điều sai.
Một cách tiếp cận khác là lưu trữ hồ sơ về các hành động của tác nhân tách biệt khỏi hệ thống đã tạo ra chúng, để bản tường thuật về những gì đã xảy ra không phụ thuộc vào việc hệ thống đó tự đáng tin khi báo cáo về mình. Cách nào phù hợp, hoặc kết hợp cách nào, sẽ phụ thuộc vào từng tổ chức và từng ứng dụng cụ thể.