Nghiên cứu tiết lộ một lỗ hổng bảo mật trong bộ định tuyến AI của bên thứ ba, có thể dẫn đến việc tiền mã hóa bị đánh cắp

Tin tức Gate News, ngày 13 tháng 4, các nhà nghiên cứu tại Đại học California gần đây đã tiết lộ rằng một số bộ định tuyến LLM (mô hình ngôn ngữ lớn của bên thứ ba) tồn tại rủi ro bảo mật, có thể dẫn đến việc tài sản tiền mã hóa bị đánh cắp. Nghiên cứu cho thấy bộ định tuyến LLM, với vai trò là một trung gian API, có thể đọc thông tin ở dạng văn bản rõ; một số bộ định tuyến đã được phát hiện tiêm mã độc và đánh cắp thông tin đăng nhập. Nhóm đã thử nghiệm 28 bộ định tuyến trả phí và 400 bộ định tuyến miễn phí, và phát hiện 9 bộ định tuyến chủ động tiêm mã độc, 2 bộ định tuyến triển khai cơ chế né tránh các trình kích hoạt (trigger), 17 bộ định tuyến truy cập thông tin đăng nhập của Amazon Web Services, thậm chí có bộ định tuyến còn chuyển ETH thông qua khóa riêng Ethereum của các nhà nghiên cứu. Nghiên cứu chỉ ra rằng hành vi độc hại của bộ định tuyến rất khó phát hiện và rằng một số khung tác nhân AI có “chế độ YOLO” có thể tự động thực thi lệnh, làm tăng rủi ro bảo mật. Nghiên cứu khuyến nghị các nhà phát triển không để khóa riêng hoặc cụm từ ghi nhớ được truyền qua tác nhân AI, đồng thời kêu gọi các công ty AI thực hiện ký mã phản hồi để tăng cường an toàn.