Vitalik Buterin gọi “quản trị bằng AI” là một “ý tưởng tồi”

Đồng sáng lập Ethereum, Vitalik Buterin, cho rằng việc sử dụng trí tuệ nhân tạo (AI) cho quản trị là một “ý tưởng tồi”. Ông cảnh báo rằng nếu dùng AI để phân bổ ngân quỹ, hệ thống sẽ dễ dàng bị khai thác bởi các đoạn mã jailbreak nhằm chiếm đoạt toàn bộ tiền.

Bình luận của Buterin được đưa ra sau khi Eito Miyamura, CEO EdisonWatch, chỉ ra lỗ hổng nghiêm trọng trong ChatGPT sau khi nền tảng này tích hợp đầy đủ giao thức MCP, cho phép AI truy cập dữ liệu từ các ứng dụng như Gmail, Calendar và Notion. Miyamura cho biết kẻ tấn công có thể đánh cắp toàn bộ thông tin cá nhân chỉ với một email chứa lời mời lịch hẹn độc hại.

Thay vì giao toàn quyền cho AI, Buterin đề xuất mô hình “info finance” – một thị trường mở nơi nhiều nhà phát triển cung cấp mô hình AI khác nhau. Các mô hình này có thể bị kiểm tra ngẫu nhiên và đánh giá bởi hội đồng nhân sự, có sự hỗ trợ của LLM, nhằm đảm bảo sự đa dạng và tính minh bạch.

Buterin cảnh báo rằng xu hướng “AI làm nhà quản trị” tiềm ẩn rủi ro nghiêm trọng, không chỉ về an toàn AI truyền thống mà còn có thể gây ra những “tổn thất lớn về giá trị” trong ngắn hạn.