Vitalik Buterin chỉ ra rằng tương lai của AI không nằm ở quyền tự trị hoàn toàn, mà là ở việc nâng cao khả năng của con người và sự hợp tác giữa con người với máy móc. Ông kêu gọi hạn chế quyền tự trị của AI, thúc đẩy phát triển mã nguồn mở và an toàn, điều này đã thu hút sự chú ý của ngành công nghiệp.
Giới thiệu: Sự phát triển của AI đã bước vào một giai đoạn quan trọng.
Trong những năm gần đây, khả năng của trí tuệ nhân tạo (AI) đã nhanh chóng được cải thiện, từ các mô hình sinh tạo đến các hệ thống đa phương thức, và giờ đây là các tác nhân thông minh với khả năng thực thi liên tục. AI đang dần hướng tới một cấp độ quyền tự trị cao hơn. Tuy nhiên, với sự mở rộng của các khả năng, cuộc tranh luận về việc liệu AI có nên có quyền quyết định tự trị cao đã trở nên ngày càng gay gắt.
Trong bối cảnh này, đồng sáng lập Ethereum Vitalik Buterin (V God) đã đưa ra một quan điểm tương đối kiềm chế nhưng rất thực tế: trọng tâm của AI không nên là hoàn toàn quyền tự trị, mà nên là nâng cao khả năng của con người. Tuyên bố này nhanh chóng thu hút sự chú ý rộng rãi từ các ngành công nghệ và tiền mã hóa.
Những ý tưởng cốt lõi của Vitalik Buterin
Vitalik tin rằng ngành công nghiệp AI hiện tại đã đầu tư quá nhiều nguồn lực vào hướng "hệ thống tự trị siêu" trong khi vẫn còn thiếu công cụ có thể trực tiếp nâng cao tư duy, phán đoán và hiệu quả hợp tác của con người. Ông ủng hộ rằng nếu các phòng thí nghiệm hoặc sản phẩm AI mới được tạo ra, sứ mệnh của chúng nên được định vị rõ ràng là Tăng cường Con người, thay vì tạo ra các thực thể thông minh độc lập cao.
Trong tầm nhìn của ông, AI nên luôn tồn tại với vai trò hỗ trợ, với các ranh giới hành vi, quy trình ra quyết định và thiết lập mục tiêu được kiểm soát bởi con người. Ông thậm chí còn gợi ý rằng việc phát triển các hệ thống AI có khả năng hoạt động độc lập trong thời gian dài mà không cần sự can thiệp của con người nên được tránh để giảm thiểu rủi ro tiềm tàng của việc mất kiểm soát.
Các rủi ro tiềm ẩn mà AI hoàn toàn tự trị phải đối mặt
Sự hấp dẫn của AI hoàn toàn tự trị nằm ở hiệu quả và khả năng mở rộng của nó, nhưng các rủi ro của nó không thể bị bỏ qua. Đầu tiên, các hệ thống tự trị cao có thể biểu hiện hành vi khó lường trong quá trình thiết lập và thực hiện mục tiêu do những hiểu lầm hoặc sự thay đổi môi trường. Thứ hai, một khi quy trình ra quyết định của AI không còn minh bạch, trách nhiệm và các thách thức quy định sẽ tăng lên đáng kể.
Hơn nữa, sự mở rộng của AI tự trị cũng có thể làm suy yếu phán đoán của con người trong các lĩnh vực quan trọng như tài chính, chăm sóc sức khỏe và quản trị công. Điều này không có nghĩa là công nghệ AI tự bản thân nó là tiêu cực, mà ngược lại, nó nhắc nhở cho ngành công nghiệp cần đánh giá cẩn thận hơn về khả năng gặp phải các sự cố hệ thống hoặc lạm dụng trong khi theo đuổi giới hạn của khả năng.
Định nghĩa và ứng dụng của "Trí tuệ nhân tạo Nâng cao khả năng con người"
Khác với AI hoàn toàn tự trị, AI tăng cường khả năng của con người nhấn mạnh các thuộc tính hợp tác. Mục tiêu của các hệ thống như vậy không phải là thay thế việc ra quyết định của con người mà là hỗ trợ con người trong việc hiểu thông tin phức tạp nhanh hơn, khám phá các mô hình tiềm năng và tối ưu hóa quy trình ra quyết định.
Các ứng dụng điển hình bao gồm:
- Công cụ nghiên cứu và phân tích dữ liệu hỗ trợ
- Hệ thống tạo nội dung để cải thiện hiệu suất sáng tạo
- Mô hình gợi ý thông minh hỗ trợ quyết định phức tạp
Trong những tình huống này, con người luôn là những người ra quyết định cuối cùng, trong khi AI đóng vai trò như một bộ khuếch đại và tăng tốc. Mô hình này không chỉ làm cho rủi ro trở nên dễ kiểm soát hơn mà còn phù hợp hơn với sự chấp nhận hiện tại của xã hội và quy định.
Xu hướng ngành và cuộc chiến các lộ trình công nghệ
Góc nhìn của Vitalik thực sự phản ánh sự cạnh tranh công nghệ đang nổi lên trong ngành AI, nơi một hướng theo đuổi quyền tự trị cao hơn, nhằm xây dựng các hệ thống tiếp cận hoặc thậm chí vượt qua trí thông minh của con người; hướng còn lại đặt trọng tâm nhiều hơn vào khả năng kiểm soát, tính thực tiễn và sự hợp tác.
Từ góc độ thực tế, AI nâng cao dễ triển khai hơn và tạo ra giá trị thực tế trong ngắn hạn. Dù là trong công cụ năng suất doanh nghiệp, nền tảng phát triển, hay lĩnh vực trợ lý cá nhân, mô hình hợp tác giữa con người và máy móc đã chứng minh tính khả thi thương mại mạnh mẽ. Đây cũng là lý do tại sao Vitalik tin rằng hướng đi này "được định giá thấp, nhưng quan trọng hơn."
Tầm quan trọng của bảo mật AI, đạo đức và mã nguồn mở
Khi thảo luận về tương lai của AI, Vitalik đã nhiều lần nhấn mạnh giá trị của mã nguồn mở và tính minh bạch. Ông tin rằng các hệ thống AI khép kín, tự trị cao có thể làm trầm trọng thêm các độc quyền công nghệ và rủi ro an ninh, trong khi các mô hình mã nguồn mở giúp giới thiệu nhiều sự giám sát hơn và giảm thiểu rủi ro hệ thống.
Đồng thời, các vấn đề đạo đức AI cần được giải quyết trong giai đoạn thiết kế trước, thay vì bị khắc phục một cách thụ động sau khi vấn đề phát sinh. AI nâng cao khả năng của con người dễ dàng hơn để được giới hạn trong một khung đạo đức vì mục tiêu và cách sử dụng của nó rõ ràng hơn.
Tóm tắt: Sự hợp tác giữa con người và máy móc có thể là một tương lai thực tế hơn.
Tổng thể, Vitalik Buterin không phản đối sự phát triển của công nghệ AI, mà đưa ra những gợi ý thận trọng hơn về hướng phát triển của nó. Theo quan điểm của ông, biến AI thành một công cụ để nâng cao nhân loại, thay vì một thực thể hoạt động độc lập, có thể là một sự cân bằng bền vững hơn giữa công nghệ, xã hội và an ninh.
Khi khả năng của AI tiếp tục cải thiện, cách mà các ngành công nghiệp đạt được sự cân bằng giữa đổi mới và rủi ro sẽ xác định hướng đi công nghệ trong những thập kỷ tới. Từ góc nhìn này, sự hợp tác giữa con người và máy móc không chỉ là một giải pháp tạm thời mà có thể là một trong những hình thức ổn định và thực tế nhất trong sự tiến hóa lâu dài của AI.
* Thông tin không nhằm mục đích và không cấu thành lời khuyên tài chính hay bất kỳ đề xuất nào được Gate cung cấp hoặc xác nhận.
