Manus membawa cahaya pertama AGI, keamanan AI mengalami perubahan lagi

Semakin mendekati kecerdasan manusia, semakin diperlukan sistem pertahanan non-manusia.

Menulis: 0xResearcher

Manus telah mencapai hasil SOTA (State-of-the-Art) dalam uji coba GAIA, menunjukkan kinerjanya melampaui model besar sejenis dari Open AI. Dengan kata lain, ia mampu menyelesaikan tugas-tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, yang melibatkan dekomposisi klausa kontrak, prediksi strategi, pembuatan skema, bahkan koordinasi tim hukum dan keuangan. Dibandingkan dengan sistem tradisional, keunggulan Manus terletak pada kemampuannya untuk memecah target secara dinamis, kemampuan penalaran lintas-modal, dan kemampuan penguatan pembelajaran yang diperkuat. Ia mampu memecah tugas besar menjadi ratusan tugas sub-eksekusi, sambil menangani berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan sendiri melalui penguatan pembelajaran, serta mengurangi tingkat kesalahan.

Selain kagum dengan perkembangan teknologi, Manus sekali lagi memicu perbedaan pendapat di industri mengenai jalur evolusi kecerdasan buatan: apakah ke depannya akan dikuasai oleh AGI tunggal, ataukah MAS akan menjadi pemimpin bersama?

Ini harus dimulai dari konsep desain Manus, yang mengandung dua kemungkinan:

Salah satunya adalah jalur AGI. Dengan terus meningkatkan tingkat kecerdasan individu, membuatnya mendekati kemampuan pengambilan keputusan manusia secara komprehensif.

Masih ada yang disebut jalur MAS. Sebagai koordinator super, memerintahkan ribuan Agensi di bidang vertikal untuk berkolaborasi dalam pertempuran.

Pada permukaannya, kita sedang membahas perbedaan jalur yang berbeda, sebenarnya kita sedang membahas konflik mendasar dalam perkembangan AI: bagaimana efisiensi dan keamanan seharusnya seimbang? Saat kecerdasan tunggal semakin mendekati AGI, risiko penghitungan keputusan menjadi semakin tinggi; sementara kerja sama banyak Agen meskipun dapat memecah risiko, namun dapat kehilangan jendela keputusan kunci karena keterlambatan komunikasi.

Evolusi Manus, tanpa disadari memperbesar risiko inheren perkembangan AI. Misalnya, lubang hitam privasi data: di lingkungan medis, Manus perlu mengakses data genom pasien secara real-time; dalam negosiasi keuangan, mungkin melibatkan informasi laporan keuangan perusahaan yang belum diungkapkan; seperti perangkap bias algoritma, dalam negosiasi rekrutmen, Manus memberikan saran gaji di bawah rata-rata untuk kandidat etnis tertentu; ketika mengaudit kontrak hukum, tingkat kesalahan penilaian terhadap klausul industri baru hampir mencapai setengah. Selain itu, dalam menghadapi kerentanan serangan, peretas menggunakan frekuensi suara tertentu untuk membuat Manus salah menilai rentang penawaran lawan dalam negosiasi.

Kita harus menghadapi titik rawan mengerikan dari sistem AI: semakin pintar sistemnya, semakin luas serangannya.

Namun, keamanan adalah kata yang terus-menerus disebutkan dalam web3, dan di bawah kerangka trilema yang tidak mungkin oleh V Vitalik juga menghasilkan berbagai metode enkripsi:

• Model Keamanan Nol Kepercayaan (Zero Trust Security Model): Model Keamanan Nol Kepercayaan memiliki konsep inti “tidak percaya pada siapa pun, selalu verifikasi”, yaitu tidak ada asumsi kepercayaan default terhadap perangkat, apapun posisinya dalam jaringan internal. Model ini menekankan pada otentikasi dan otorisasi yang ketat untuk setiap permintaan akses guna memastikan keamanan sistem.
• Identitas Terdesentralisasi (Decentralized Identity, DID): DID adalah seperangkat standar identifikasi yang memungkinkan entitas untuk memperoleh identifikasi secara dapat diverifikasi dan tahan lama tanpa perlu registrasi terpusat. Hal ini mewujudkan pola identitas digital terdesentralisasi baru, sering dikaitkan dengan kedaulatan identitas diri, dan merupakan bagian penting dari Web3.
• Enkripsi Homomorfik Penuh (Fully Homomorphic Encryption, FHE) adalah teknologi enkripsi canggih yang memungkinkan melakukan perhitungan apa pun pada data terenkripsi tanpa perlu mendekripsi data tersebut. Ini berarti pihak ketiga dapat memanipulasi teks terenkripsi dan hasilnya setelah didekripsi akan sama dengan hasil manipulasi yang dilakukan pada teks terbuka. Fitur ini sangat penting untuk skenario di mana perhitungan harus dilakukan tanpa mengungkapkan data asli, seperti komputasi awan dan pengalihan data.

Model keamanan nol kepercayaan dan DID telah dilakukan oleh sejumlah proyek selama periode pasar bullish, mereka mungkin berhasil, atau tenggelam dalam gelombang kripto, dan sebagai cara kripto termuda: Enkripsi Homomorfik Penuh (Fully Homomorphic Encryption, FHE) juga merupakan senjata besar untuk memecahkan masalah keamanan era AI. Enkripsi Homomorfik Penuh (FHE) adalah teknologi yang memungkinkan perhitungan pada data terenkripsi.

Bagaimana menyelesaikan?

Pertama, dari sisi data. Semua informasi yang dimasukkan pengguna (termasuk fitur biologis, intonasi suara) diproses dalam keadaan terenkripsi, bahkan Manus sendiri pun tidak dapat mendekripsi data asli. Sebagai contoh, dalam kasus diagnosis medis, data genom pasien sepenuhnya diikutsertakan dalam analisis dalam bentuk sandi, untuk menghindari kebocoran informasi biologis.

Dari segi algoritma. Melalui FHE, “pelatihan model enkripsi” dapat diimplementasikan, bahkan pengembang pun tidak dapat mengintip jalur keputusan AI.

Pada tingkat kolaborasi. Komunikasi beberapa Agen menggunakan enkripsi ambang, penembusan satu node tidak akan menyebabkan kebocoran data global. Bahkan dalam latihan serangan pertahanan rantai pasok, penyerang tidak dapat memperoleh tampilan bisnis yang lengkap setelah menembus beberapa Agen.

Namun karena keterbatasan teknis, keamanan web3 mungkin tidak secara langsung terhubung dengan sebagian besar pengguna, tetapi memiliki keterkaitan tidak langsung yang rumit. Di hutan gelap ini, jika tidak bersenjata, tidak akan pernah bisa melarikan diri dari status ‘kambing’.

• uPortdirilis pada tahun 2017 di mainnet Ethereum, mungkin merupakan salah satu proyek Identitas Terdesentralisasi (DID) yang pertama kali dirilis di mainnet.
• Di sisi model keamanan nol kepercayaan, NKN meluncurkan mainnet pada tahun 2019.
• Mind Network adalah proyek FHE pertama yang diluncurkan di mainnet, dan menjadi yang pertama kali bekerja sama dengan ZAMA, Google, DeepSeek, dan lainnya.

uPort dan NKN sudah menjadi proyek yang tidak pernah didengar oleh penulis, tampaknya proyek keamanan benar-benar tidak menarik perhatian para spekulan, apakah Mind Network bisa lolos dari kutukan ini dan menjadi pemimpin di bidang keamanan, mari kita tunggu dan lihat.

Masa depan sudah tiba. Semakin AI mendekati kecerdasan manusia, semakin diperlukan sistem pertahanan non-manusia. Nilai FHE tidak hanya dalam menyelesaikan masalah saat ini, tetapi juga membuka jalan menuju era AI kuat. Di jalan berbahaya menuju AGI ini, FHE bukanlah pilihan, tetapi kebutuhan hidup.