Các vấn đề liên quan đến chỉnh sửa hình ảnh của Elon Musk Grok ngày càng phổ biến! Coser, phụ nữ vị thành niên bị AI cởi quần áo, nhiều quốc gia bắt đầu điều tra

X của Elon Musk gần đây đã tích hợp chức năng chỉnh sửa hình ảnh Grok AI, gây ra nhiều vụ việc không được phép tạo ra nội dung khai thác tình dục, hình ảnh trẻ vị thành niên rõ ràng, khiến nhiều chính phủ đã vào cuộc điều tra và yêu cầu nền tảng thực thi các biện pháp an toàn.

X ra mắt chức năng chỉnh sửa hình ảnh Grok AI, Coser bị khai thác tình dục

Trong bối cảnh các công cụ AI sinh nội dung ngày càng phổ biến, việc chỉnh sửa hình ảnh chỉ với một cú nhấp chuột trở nên dễ dàng hơn bao giờ hết. Gần đây, nền tảng cộng đồng của Elon Musk, X, đã tích hợp chức năng tạo hình ảnh của bot trò chuyện Grok vào chức năng đăng bài của X, người dùng chỉ cần nhấp vào “Chỉnh sửa hình ảnh” ở góc dưới bên phải của bất kỳ hình ảnh nào trong bài đăng, là có thể gọi Grok chỉnh sửa và tải lại để đăng bình luận hoặc bài viết.

Chức năng này khi mới ra mắt đã gây phản ứng dữ dội, bao gồm cả khả năng gọi Grok chỉnh sửa hình ảnh trong bình luận, nhiều người lo ngại sẽ bị lạm dụng để khai thác tình dục hoặc nội dung trẻ em, và không ngoài dự đoán, đã xảy ra các vụ việc tiêu cực.

Vào ngày 2 tháng 1, nữ cosplayer nổi tiếng của Áo, Keekihime, tiết lộ rằng một người dùng đã tự ý gọi Grok chỉnh sửa hình ảnh dưới bài đăng của cô về nhân vật trong trò chơi “Arknights”, với các từ khóa như “đổi áo lót” và “quần áo trong suốt”, do Grok sau khi chỉnh sửa sẽ hiển thị trực tiếp trong phần bình luận của bài đăng gốc, khiến cô rất không hài lòng và chỉ trích:

“Grok dường như đã trở thành một loại máy tạo nội dung khiêu dâm của những gã đàn ông thích khoe của, trong khi X lại đang cổ súy cho xu hướng này. Thật sự là xâm phạm thân thể phụ nữ, đi chết mẹ X và AI của nó!”

Nguồn hình ảnh: X

Grok bị lạm dụng để tạo bikini, thậm chí có cả phụ nữ chưa thành niên bị hại

Dù Elon Musk không phản đối việc hình ảnh của mình bị chế thành bikini, thậm chí khi có người chế ảnh châm biếm rằng không gian cộng đồng của X biến thành nơi các phụ nữ trong bikini bước vào quán bar, ông chỉ phản hồi bằng một biểu tượng cảm xúc cười khóc, nhưng rõ ràng đa số công chúng không thể chấp nhận hành vi này.

Nữ nhạc sĩ người Brazil, Julie Yukari, tiết lộ với Reuters rằng cô đã tải lên một bức ảnh mặc váy liền màu đỏ, nhưng bị lạm dụng để chế thành phiên bản bikini, và nhanh chóng lan truyền trên nền tảng X.

Không chỉ cô là nạn nhân, vào buổi trưa ngày 2 tháng 1, Grok đã nhận được 102 đơn khiếu nại trong vòng chưa đầy mười phút, phần lớn là các hình ảnh bị chỉnh thành bikini của phụ nữ bị ép cởi đồ, thậm chí còn có cả hình ảnh của một con khỉ bị hại.

Điều đáng sợ hơn nữa là, một phụ nữ có thể là học sinh chưa thành niên đã chia sẻ hình ảnh mặc sơ mi và váy kẻ trên nền tảng X, kết quả là có người gọi Grok trong bình luận, yêu cầu “cởi bỏ đồng phục học sinh của cô ấy” và thay bằng áo T-Shirt cùng quần short, rồi sau đó yêu cầu đổi thành bikini, nhưng Grok đã không phản hồi các từ khóa này.

Nguồn hình ảnh: Getty Images

Grok sau đó xác nhận, sau khi xem xét hồ sơ tương tác của người dùng, đã phát hiện có các yêu cầu riêng lẻ và nhận được hình ảnh trẻ vị thành niên mặc đồ hở hang do AI tạo ra, và tuyên bố sẽ cải thiện các biện pháp an toàn.

Các chuyên gia theo dõi phát triển chính sách AI của nền tảng X tiết lộ rằng, nền tảng này đã phớt lờ cảnh báo của các tổ chức xã hội dân sự và tổ chức bảo vệ trẻ em. Năm ngoái, tổ chức này đã gửi thư cảnh báo rằng xAI chỉ còn cách việc phát tán nội dung deepfake không được phép một bước nữa.

Nhiều quốc gia bắt đầu tố cáo và điều tra X và Grok

Trước tình trạng lạm dụng Grok và thái độ thờ ơ của nền tảng X, nhiều chính phủ đã bắt đầu hành động.

Chính phủ Pháp đã gửi đơn tố cáo nền tảng X tới cơ quan quản lý, cáo buộc Grok tạo ra hình ảnh mang tính gợi dục và phân biệt đối xử, rõ ràng là vi phạm pháp luật; Cơ quan Quản lý Truyền thông Anh (Ofcom) cũng tuyên bố rằng, việc tạo hoặc chia sẻ hình ảnh riêng tư hoặc nội dung quấy rối tình dục trẻ em mà không có sự đồng ý là hành vi phạm pháp, bao gồm cả nội dung do AI tạo ra, và kêu gọi các biện pháp phòng ngừa phù hợp.

Ở châu Á, chính phủ Malaysia đã bắt đầu điều tra sau khi nhận được nhiều đơn tố cáo về việc Grok bị lạm dụng để tạo ra hình ảnh không đứng đắn của phụ nữ; Bộ Công nghệ Thông tin Ấn Độ cũng đã gửi thư tới nền tảng X, cáo buộc rằng không chỉ không ngăn chặn được việc lạm dụng Grok, mà còn khiến người dùng tạo ra và truyền bá nội dung khiêu dâm phản cảm.

Trong phản ứng khẩn cấp trước các biện pháp quản lý mạnh mẽ, nền tảng X đã phản hồi nhanh chóng, sẽ thực hiện các hành động đối với nội dung bất hợp pháp, như nội dung quấy rối tình dục trẻ em (CSAM), bao gồm xóa nội dung vi phạm, cấm vĩnh viễn tài khoản, và hợp tác với chính phủ cùng các cơ quan thực thi pháp luật khi cần thiết. Elon Musk cũng cảnh báo người dùng rằng, bất kỳ ai sử dụng Grok hoặc xúi giục Grok tạo ra nội dung trái pháp luật đều sẽ phải chịu hậu quả tương tự như việc tải lên nội dung phạm pháp.

Nguồn hình ảnh：X