Agent AI cần CPU riêng: NVIDIA phát hành bộ xử lý Vera, Alibaba, ByteDance, Meta, v.v. đã lên kế hoạch triển khai

Thông tin từ CoinWorld, theo theo dõi của 1M AI News, Nvidia chính thức ra mắt Vera CPU tại hội nghị GTC, định vị là bộ xử lý đầu tiên được thiết kế đặc biệt cho Agent AI và học tăng cường (reinforcement learning) (trước đó được công bố như một phần của nền tảng Vera Rubin). Khi AI mở rộng từ tạo ra và suy luận sang hành động tự chủ của Agent, các quy trình công việc như lập kế hoạch, gọi công cụ, thực thi mã, xác nhận kết quả đòi hỏi CPU ngày càng cao. Jensen Huang nói: “CPU không còn chỉ là hỗ trợ cho mô hình, nó đang thúc đẩy mô hình.” Vera sử dụng 88 lõi Olympus tự phát triển của Nvidia, mỗi lõi có thể thực thi đồng thời hai nhiệm vụ nhờ công nghệ Spatial Multithreading, phù hợp cho các nhà máy AI đa thuê bao thực hiện hàng loạt công việc song song. Bộ nhớ sử dụng hệ thống phụ tiết kiệm năng lượng thế hệ thứ hai LPDDR5X, băng thông đạt 1,2 TB/s, gấp đôi so với CPU thông thường, tiêu thụ ít hơn một nửa. Các nhà cung cấp dịch vụ đám mây đã lên kế hoạch triển khai gồm Alibaba, ByteDance, Cloudflare, CoreWeave, Lambda, Nebius, Oracle Cloud (OCI), Together.AI, Vultr và nhiều hãng khác. Về phần phần cứng, 19 nhà sản xuất như Dell Technologies, HPE, Lenovo, Supermicro đã bắt đầu thích ứng. Giám đốc điều hành kiêm đồng sáng lập công cụ lập trình AI Cursor, Michael Truell, cho biết sẽ sử dụng Vera để nâng cao khả năng xử lý và phản hồi của Agent lập trình. Nền tảng dữ liệu luồng Redpanda đã thử nghiệm Vera chạy tải trọng tương thích Apache Kafka, giảm độ trễ tối đa 5,5 lần. Các phòng thí nghiệm quốc gia như Los Alamos, Lawrence Berkeley, Trung tâm tính toán cao cấp Texas cũng đã lên kế hoạch triển khai. Vera CPU đã bước vào sản xuất hàng loạt và sẽ được giao hàng trong nửa cuối năm nay qua các đối tác.