Các Đại lý Trí tuệ nhân tạo trong lĩnh vực Tài chính phi tập trung: Việc Kiểm soát Người dùng Phải 'Không Thể Đàm Phán,' Tổng giám đốc Cảnh báo

Renç Korzay, CEO của Giza, nhấn mạnh rằng các yếu tố đạo đức trong việc phát triển các AI agent phải được ‘thực thi theo kiến trúc’. Ông ủng hộ việc tích hợp kiểm soát người dùng và ‘an ninh theo thiết kế’ để giảm thiểu gánh nặng về quy định.

Bảo mật Người dùng ‘Kiến trúc áp dụng’

Sự tiến bộ nhanh chóng của trí tuệ nhân tạo đã dẫn đến sự phát triển ngày càng tinh vi của các đại lý trí tuệ nhân tạo, có khả năng thực hiện các nhiệm vụ phức tạp trên nhiều lĩnh vực khác nhau. Tuy nhiên, khi những đại lý này trở nên mạnh mẽ và tự trị hơn, lo ngại về những quan điểm đạo đức và những rủi ro tiềm ẩn đã nảy sinh.

Để giải quyết những lo ngại này, Renç Korzay, CEO của Giza và một người điều hành kỳ cựu trong ngành, ủng hộ ưu tiên bảo mật và chủ quyền người dùng, mà theo ông phải là “không thể thương lượng” và “được thiết kế theo kiến trúc.” Korzay cho rằng hướng dẫn đạo đức nên được dịch thành các yêu cầu kỹ thuật cụ thể, định hình mọi khía cạnh của thiết kế AI agent.

Trong các phản hồi bằng văn bản cho các câu hỏi từ Bitcoin.com News, Korzay cũng nhấn mạnh về việc cần thiết về việc kiểm soát hoàn toàn của người dùng. Ông cho biết rằng kiểm soát này nên được nhúng vào kiến trúc của người đại diện, đảm bảo người dùng duy trì sự giám sát và quyền lực đầy đủ. Khác với các hệ thống dựa vào sự kiểm soát ủy quyền, các đại lý trí tuệ nhân tạo đạo đức nên hoạt động thông qua các khung cấp phép có thể bị thu hồi ngay lập tức, Korzay nói.

Đối với CEO của Giza, thông điệp cốt lõi rõ ràng: Những xem xét đạo đức phải được tích hợp vào cấu trúc nền tảng của các hệ thống AI, không được thêm vào sau khi đã hoàn thành.

“Trong DeFi, nơi tài sản tài chính của người dùng đang đặt ở tình thế nguy hiểm, các yếu tố đạo đức phải được tích hợp vào kiến trúc cơ bản của hệ thống AI, không được thêm vào sau khi đã xây dựng,” Korzay nói.

Tư duy ‘an toàn là trên hết’ này là rất quan trọng để xây dựng niềm tin và đảm bảo sự phát triển có trách nhiệm của các đại lý trí tuệ nhân tạo. Chuyển sang thị trường tài chính phi tập trung (DeFi), mà đã trở nên phức tạp hơn, Korzay tiết lộ rằng hiện nay đã có khả năng triển khai các đại lý trí tuệ nhân tạo để tối ưu hóa vị thế của người dùng trên các giao thức hàng đầu và thực hiện các chiến lược phức tạp trong khi người dùng vẫn giữ hoàn toàn kiểm soát vốn.

‘Xenocognitive’ Tài chính

Trong khi đó, giám đốc điều hành cho rằng bảo vệ người dùng hiệu quả trong DeFi đến từ thiết kế sản phẩm mạnh mẽ, không chỉ từ quy định bên ngoài. Phương pháp “an toàn thông qua thiết kế” này, ông nói, nhằm tạo ra một hệ sinh thái nơi an ninh là “bẩm sinh”, giảm thiểu nhu cầu về quy định nặng nề.

Korzay khẳng định rằng việc xây dựng hệ thống inherently secure sẽ điều chỉnh lợi ích của các bên liên quan và tích cực hợp tác với các cơ quan quản lý để định hình chính sách tương lai. Trọng tâm là tạo ra giá trị thông qua các sản phẩm được thiết kế tốt, khiến cho việc tuân thủ trở thành một kết quả tự nhiên thay vì là một rào cản làm chậm sự đổi mới.

Nhìn vào tương lai, Korzay nói rằng anh ấy dự đoán “Tài chính Xenocognitive” sẽ chiếm ưu thế vào năm 2030, với các đại lý trí tuệ nhân tạo trở thành giao diện thị trường chính, vượt quá giới hạn trí tuệ của con người. Lúc đó, con người sẽ đặt ra mục tiêu chiến lược trong khi các đại lý trí tuệ nhân tạo sẽ xử lý việc thực hiện.

“Đường cong chấp nhận sẽ không tuyến tính - nó sẽ là mũi tên. Khi những yếu tố này chứng minh khả năng vượt trội so với các hoạt động thủ công một cách liên tục trong khi đảm bảo bảo mật, chúng sẽ trở thành cách tiếp xúc mặc định với thị trường tài chính,” giám đốc điều hành thêm.