AI Agen dalam DeFi: Kontrol Pengguna Harus 'Tidak Dapat Dinegosiasikan,' CEO Peringatkan

Renç Korzay, CEO of Giza, menekankan bahwa pertimbangan etis dalam pengembangan agen AI harus “diterapkan secara arsitektural.” Dia mendukung kontrol pengguna bawaan dan “keamanan-by-design” untuk meminimalkan beban regulasi.

Keamanan Pengguna ‘Diterapkan Secara Arsitektural’

Kemajuan cepat kecerdasan buatan telah mengarah pada pengembangan agen AI yang semakin canggih, mampu melakukan tugas-tugas kompleks di berbagai sektor. Namun, seiring agen-agen ini menjadi lebih kuat dan mandiri, kekhawatiran tentang pertimbangan etis dan risiko potensial muncul.

Untuk mengatasi kekhawatiran ini, Renç Korzay, CEO Giza dan seorang veteran industri, menganjurkan memprioritaskan keamanan dan kedaulatan pengguna, yang katanya harus “tidak bisa dinegosiasikan” dan “diterapkan secara arsitektural.” Korzay berpendapat bahwa pedoman etis harus diterjemahkan ke dalam persyaratan teknik konkret, membentuk setiap aspek desain agen AI.

Dalam tanggapan tertulis terhadap pertanyaan dari Bitcoin.com News, Korzay juga menyoroti kebutuhan akan kontrol pengguna yang lengkap. Kontrol ini, tambahnya, harus tertanam dalam arsitektur agen, memastikan pengguna mempertahankan pengawasan dan otoritas penuh. Berbeda dengan sistem yang mengandalkan kontrol yang didelegasikan, agen AI etis harus beroperasi melalui kerangka izin yang dapat dicabut secara instan, kata Korzay.

Bagi CEO Giza, pesan inti jelas: Pertimbangan etis harus dibangun ke dalam arsitektur dasar sistem AI, bukan ditambahkan sebagai pemikiran belakangan.

“Di DeFi, di mana aset keuangan pengguna dipertaruhkan, pertimbangan etis harus dibangun ke dalam arsitektur dasar sistem AI, bukan ditambahkan sebagai pemikiran belakangan,” kata Korzay.

Mentalitas “keamanan-terlebih-dahulu” ini penting untuk membangun kepercayaan dan memastikan pengembangan agen AI yang bertanggung jawab. Beralih ke pasar keuangan terdesentralisasi (DeFi), yang telah menjadi lebih kompleks, Korzay mengungkapkan bahwa sekarang memungkinkan untuk menggunakan agen AI untuk mengoptimalkan posisi pengguna di berbagai protokol terkemuka dan menjalankan strategi canggih sambil pengguna tetap memiliki kendali penuh atas dana.

‘Xenocognitive’ Keuangan

Sementara itu, CEO berpendapat bahwa perlindungan pengguna yang efektif di DeFi berasal dari desain produk yang kuat, tidak semata-mata dari regulasi eksternal. Pendekatan “security-by-design” ini, katanya, berupaya menciptakan ekosistem di mana keamanan bersifat “intrinsik,” yang meminimalkan kebutuhan akan regulasi yang berat.

Korzay menegaskan bahwa membangun sistem yang secara inheren aman menyelaraskan kepentingan pemangku kepentingan dan secara proaktif terlibat dengan regulator untuk membentuk kebijakan masa depan. Fokusnya adalah menciptakan nilai melalui produk yang dirancang dengan baik, menjadikan kepatuhan sebagai hasil alami daripada hambatan yang menghambat inovasi.

Melihat ke masa depan, Korzay mengatakan bahwa ia memperkirakan “Keuangan Xenocognitive” akan mendominasi pada tahun 2030, dengan agen AI muncul sebagai antarmuka pasar utama, melebihi batas kognitif manusia. Pada saat itu, manusia akan menetapkan tujuan strategis sementara agen AI akan menangani pelaksanaan.

“Kurva adopsi tidak akan linear - akan eksponensial. Ketika agen-agen ini menunjukkan kemampuan mereka untuk konsisten mengungguli operasi manual sambil menjaga jaminan keamanan, mereka akan menjadi cara default untuk berinteraksi dengan pasar keuangan,” tambah CEO.