#315 Gala Malam Mengungkapkan AI Model Besar Disusupi Racun

Aduh, AI telah dicuci otaknya dan memberikan jawaban palsu
Menurut pengakuan dari para orang dalam industri, wartawan melakukan pencarian di berbagai platform daring dan dengan cepat menemukan sebuah layanan bernama GEO. Penyedia layanan di platform daring yang menawarkan bisnis ini mengklaim bahwa pengguna hanya perlu membayar biaya yang sesuai untuk membuat produk pelanggan mereka masuk peringkat di model AI besar utama; menjadikan iklan produk pelanggan mereka sebagai "jawaban standar" yang diberikan oleh model AI. Apakah teknologi GEO benar-benar bisa membuat AI "menyisipkan barang pribadi" dan bahkan menyebarkan informasi palsu? Berdasarkan informasi di internet, wartawan menghubungi salah satu penyedia layanan GEO terkenal di industri ini. General Manager Wang memberitahu bahwa kekuatan perusahaan mereka adalah mampu membantu klien meraih peringkat teratas saat konsumen melakukan pencarian menggunakan model AI besar. "Ini sebenarnya seperti menulis artikel promosi, lalu membiarkan platform AI melakukan crawling, input, dan pengambilan data." Pada saat yang sama, General Manager Wang juga mengatakan bahwa algoritma model AI besar saat ini sering diperbarui, dan untuk mempertahankan rekomendasi berkelanjutan dari model AI besar, harus terus-menerus memberi makan sejumlah besar artikel promosi terkait klien. Di antara penyedia layanan GEO lainnya, bagaimana mengendalikan AI, membuat AI "patuh," dan "mencuci otak" AI hampir menjadi topik inti yang digunakan perusahaan-perusahaan ini untuk mempromosikan bisnis tersebut. Para orang dalam industri mengatakan kepada wartawan bahwa GEO, sebagai perangkat lunak untuk mengoptimalkan distribusi informasi dan meningkatkan efisiensi promosi, ternyata memiliki fungsi lain yang ditemukan oleh beberapa perusahaan komersial. Para orang dalam industri secara acak membeli sebuah perangkat lunak bernama "Sistem Optimisasi GEO Liqing" di platform e-commerce. Mereka kemudian membuat sebuah produk palsu berupa gelang pintar dan memasukkan informasi produk palsu tersebut ke dalam sistem perangkat lunak, serta memilih instruksi pembuatan artikel. Tak lama kemudian, Sistem Optimisasi GEO Liqing secara otomatis menghasilkan lebih dari sepuluh artikel promosi tentang gelang pintar tersebut. Para orang dalam industri memilih lebih dari sepuluh artikel palsu dan mempublikasikannya di internet melalui sistem GEO Liqing. Selanjutnya, para orang dalam industri melakukan pencarian di platform model AI besar dengan kata kunci: "rekomendasi gelang kesehatan pintar," dan dua model AI besar merekomendasikan gelang palsu tersebut, serta menempatkannya di posisi teratas. Wartawan menghubungi Li, pengelola sistem GEO Liqing. Dia mengatakan kepada wartawan bahwa alasan utama bisnis GEO begitu diminati adalah karena dapat membantu klien "memberi makan" dan "meracuni" data di model AI besar untuk mencapai tujuan bisnis mereka. Li menyatakan bahwa kunci untuk melakukan bisnis GEO dan mengendalikan model AI besar adalah dengan "memposting konten" di berbagai akun internet utama. "Misalnya, untuk merek ponsel, hanya ada 5 posisi, maksimal 10 slot, bagaimana mengelola semua ponsel itu? Satu tahun bisa menghabiskan lebih dari 100 juta dolar untuk iklan, mengeluarkan beberapa juta untuk menyebarkan racun, itu cukup, kan?" Dia mengatakan kepada wartawan bahwa ledakan bisnis GEO telah melahirkan banyak perusahaan dan platform yang khusus melakukan layanan posting konten. Mereka secara rutin menangani berbagai tugas posting agar model AI besar dapat mengutip dan melakukan crawling terhadapnya, menjadi bagian penting dalam memburu model AI besar dan melakukan "racun data."