Các tác nhân AI đang bị mắc kẹt ở chế độ thử nghiệm vì các ngân hàng vẫn chưa tin tưởng họ

AI có năng lực hành động đang thu hút sự chú ý trong lĩnh vực tài chính, nhưng trở ngại lớn nhất của ngành không còn là liệu các mô hình có đủ mạnh hay không. Vấn đề khó hơn là liệu các ngân hàng, nhà quản lý tài sản và bàn giao dịch tiền tệ có cơ sở hạ tầng để ủy thác các nhiệm vụ tài chính cho hệ thống tự động mà không mất kiểm soát về tiền bạc, trách nhiệm hoặc tuân thủ hay không.

Khảo sát của Deloitte với hơn 3.300 chuyên gia tài chính và kế toán cho thấy rõ ràng khoảng cách này: 80,5% cho biết các công cụ dựa trên AI như đại lý và chatbot GenAI có thể trở thành tiêu chuẩn trong vòng năm năm tới, nhưng chỉ 13,5% cho biết tổ chức của họ đã sử dụng AI hành động.

Citi Sky cho thấy lý do tại sao cuộc tranh luận về cơ sở hạ tầng lại quan trọng

Citi đã ra mắt Citi Sky, một trợ lý tài sản dựa trên AI được xây dựng với công nghệ của Google Cloud và Google DeepMind, vào ngày 22 tháng 4. Công cụ này được phát triển dựa trên Nền tảng Đại lý Doanh nghiệp Gemini của Google và dự kiến sẽ triển khai theo từng giai đoạn cho khách hàng Citigold tại Mỹ trong mùa hè này.

Việc ra mắt đã cung cấp một ví dụ thực tế về ngân hàng cho cuộc tranh luận về AI hành động. Trưởng bộ phận công nghệ tài sản của Citi, Dipendra Malhotra, nhấn mạnh bộ nhớ là một hạn chế trung tâm đối với AI tư vấn có rủi ro cao, đặt câu hỏi về việc khách hàng có thể duy trì cuộc trò chuyện bao lâu trước khi hệ thống bắt đầu “ảo tưởng”.

Hầu hết các đại lý dựa vào phương pháp tạo nội dung mở rộng dựa trên truy xuất để kéo dài bộ nhớ qua các cơ sở dữ liệu bên ngoài. Các cửa sổ ngữ cảnh vẫn giới hạn lượng thông tin mà một đại lý có thể giữ cùng lúc.

Trong tư vấn tài chính, quản lý tiền tệ hoặc thực thi danh mục đầu tư, giới hạn bộ nhớ đó trở thành một vấn đề không chỉ kỹ thuật. Nó trở thành một rủi ro vận hành.

MihnChi Park, đồng sáng lập CoinFello, nói rằng điều kiện để ủy thác đáng tin cậy là đơn giản: đại lý chỉ có thể hành động theo hướng dẫn của người dùng, người dùng có thể dừng nó lại, và các tài sản cơ sở không bao giờ chuyển sang bên thứ ba.

Ethereum đề xuất các nguyên thủy trên chuỗi cho danh tính đại lý

Đề xuất Ethereum ERC-8004 giới thiệu các hệ thống cho danh tính đại lý, danh tiếng và xác thực. Tiêu chuẩn dự thảo đưa ra ba danh mục đăng ký: Đăng ký Danh tính, Đăng ký Danh tiếng và Đăng ký Xác thực.

Chúng nhằm giúp các đại lý tự hành chứng minh danh tính của mình, xây dựng hồ sơ hành vi và hỗ trợ xác minh bởi các thị trường khác.

ERC-8183 đi theo hướng hẹp hơn. Nó đề xuất một tiêu chuẩn ký quỹ công việc với xác nhận của người đánh giá, trong đó khách hàng cấp quỹ cho một công việc, nhà cung cấp nộp kết quả, và người đánh giá hoàn thành hoặc từ chối kết quả đó.

Đề xuất này không cung cấp trọng tài hoặc giải quyết tranh chấp chính thức, nhưng nó cung cấp một khung cho các thị trường dựa trên đại lý về các nhiệm vụ ký quỹ và hoàn thành có thể xác minh.

Bài báo arXiv “Nền kinh tế đại lý: Nền tảng dựa trên Blockchain cho các đại lý AI tự hành” mô tả kiến trúc năm lớp cho sự chuyển đổi này, bao gồm cơ sở hạ tầng vật lý, danh tính trên chuỗi, công cụ nhận thức, thanh toán kinh tế và quản trị tập thể.

Lớp danh tiếng vẫn mang một điểm yếu về cấu trúc. Các đại lý có thể tạo ra hoạt động với tốc độ và quy mô mà con người không thể theo kịp, khiến khả năng làm tăng tín hiệu tin cậy trong thời gian ngắn trở thành một vấn đề.

Điều này để lại câu hỏi khó cho các tổ chức tài chính: khi một đại lý có hồ sơ tốt, đó có phải là bằng chứng về độ tin cậy hay chỉ là bằng chứng của hoạt động tự động lặp đi lặp lại?

McKinsey ước tính 50% đến 60% hoạt động ngân hàng nằm trong phạm vi

McKinsey ước tính 50% đến 60% số lượng nhân viên ngân hàng liên quan đến hoạt động. Các chuyên gia cảnh báo về “nguyên quán thử nghiệm,” nơi các tổ chức chỉ chạy các bằng chứng khái niệm hẹp mà không tái cấu trúc mô hình vận hành.

Như Cryptopolitan đã đưa tin từ Lễ hội Web3 Hong Kong, McKinsey dự đoán thị trường AI hành động sẽ tăng từ 5,25 tỷ đô la vào năm 2024 lên khoảng 200 tỷ đô la vào năm 2034.

Giám đốc điều hành W3.io, Porter Stowell, nói: “Các doanh nghiệp không có cách nào để nhìn thấy, kiểm soát hoặc kiểm tra những gì các hệ thống tự hành đang làm với tiền của họ. Giám sát của con người không biến mất. Nó chỉ di chuyển lên tầng cao hơn.”

Bốn câu hỏi vẫn chưa được giải đáp: ai chịu trách nhiệm khi một đại lý AI gây thiệt hại tài chính, liệu danh tiếng của nó có thể tin cậy được, ai kiểm soát khi các hệ thống này triển khai quy mô lớn, và khung pháp lý nào áp dụng khi một đại lý hành ngoài phạm vi của nó.

Vẫn để ngân hàng giữ phần tốt nhất? Xem video miễn phí của chúng tôi về cách trở thành ngân hàng của chính bạn.