Pengejar AGI OpenAI adalah konsep dan kontrak yang rumit

NEW YORK, 16 Maret (Reuters Breakingviews) - Bayangkan sebuah kemitraan yang sangat sukses yang bubar begitu sesuatu terjadi. Kecuali tidak jelas apa peristiwa tersebut, apakah sudah terjadi, atau bahkan apakah itu mungkin. Itulah tantangan yang dihadapi OpenAI dan Microsoft (MSFT.O), membuka tab baru saat mereka mempertimbangkan kemungkinan kedatangan kecerdasan umum buatan. Opasitas dari perjanjian mereka, dan jumlah uang besar yang dipertaruhkan, membuat hampir pasti bahwa sebuah debat teoretis akan berubah menjadi sengketa kontrak.

Konsep yang dikenal sebagai AGI adalah titik di mana sistem otonom dapat menyamai atau melampaui manusia dalam tugas intelektual. Di Silicon Valley, ini adalah tujuan aspiratif sekaligus ancaman eksistensial. Membuat sistem pembelajaran mandiri secara teoretis dapat menghasilkan hasil mulai dari zaman keemasan bagi umat manusia hingga kepunahan.

Newsletter Reuters Iran Briefing memberi Anda informasi terbaru dan analisis tentang perang Iran. Daftar di sini.

OpenAI didirikan pada 2015 dengan tujuan eksplisit ini. Sam Altman, Ilya Sutskever, Elon Musk dan lainnya berusaha menciptakan AGI, yang mereka definisikan, membuka tab baru sebagai “sistem yang sangat otonom yang mengungguli manusia dalam sebagian besar pekerjaan bernilai ekonomi, untuk manfaat seluruh umat manusia”. Sejalan dengan gagasan bahwa cinta uang adalah akar kejahatan, OpenAI didirikan sebagai organisasi nirlaba.

Ego dan niat baik tidak cukup, meskipun: perlombaan AI juga membutuhkan sumber daya keuangan yang besar. Jadi perusahaan mendirikan cabang untuk keuntungan pada 2019, dan menjalin kemitraan dengan Microsoft. Raksasa perangkat lunak tersebut menginvestasikan $1 miliar dan menyediakan infrastruktur komputasi sebagai imbalan akses ke teknologi OpenAI. Startup ini bersikeras bahwa, setelah AGI tercapai, hak eksklusif atas teknologi tersebut akan kembali ke startup.

Ini mungkin merupakan konsesi yang mudah dibuat saat itu. Namun seiring sistem AI berkembang dengan cepat menjadi lebih mampu, mendefinisikan AGI menjadi pertanyaan yang kurang abstrak. Berdasarkan ukuran seperti penalaran visual, pemahaman bahasa Inggris, atau matematika tingkat kompetisi, sistem canggih telah melampaui tolok ukur manusia rata-rata, menurut Stanford Institute for Human-Centered AI.

Di sinilah debat konseptual berubah menjadi debat kontrak. Seperti penjelasan subjektif Hakim Mahkamah Agung Potter Stewart tentang kesusilaan — “Saya tahu saat saya melihatnya” — AGI didefinisikan dengan buruk. Klausul OpenAI tidak konkrit maupun mudah diamati, seperti yang dikemukakan oleh peneliti Google, membuka tab baru dalam makalah tahun 2023 yang mencoba menyusun kerangka untuk deklarasi semacam itu.

Ambil ketentuan bahwa tonggak pencapaian akan terjadi ketika sistem dapat mengungguli kebanyakan manusia dalam pekerjaan bernilai ekonomi. Apa arti “kebanyakan orang”? Bisakah ini diukur tanpa penerapan di dunia nyata, atau jika penggunaannya diperlambat karena alasan hukum atau etika? Akhirnya, nilai ekonomi dari banyak pekerjaan sulit didefinisikan.

Sementara itu, pelatihan dan penerapan model AI membutuhkan dana yang sangat besar. Microsoft, Alphabet (GOOGL.O), membuka tab baru, Meta Platforms (META.O), membuka tab baru dan Oracle (ORCL.N), membuka tab baru telah secara tajam meningkatkan pengeluaran modal sebagai respons terhadap kebutuhan ini dan berencana menghabiskan lebih dari $700 miliar tahun ini. Sebagai startup tanpa sumber pendapatan yang sudah ada, OpenAI membutuhkan dukungan.

Microsoft akhirnya menyuntikkan total $13 miliar. Namun itu tidak cukup untuk OpenAI, dan perjanjian yang semakin kompleks antara kedua perusahaan, beberapa bagian yang bergantung pada klausul AGI, menimbulkan ketegangan di kedua belah pihak.

Industri lain telah belajar bahwa perjanjian samar dan jumlah uang besar tidak cocok. Ambil obligasi bencana, yang membantu perusahaan mengalihkan risiko keuangan dari badai, banjir atau pandemi. Peristiwa ini jarang terjadi, tetapi tagihan sebesar $1,4 triliun dari badai yang melanda kota besar di AS seperti Miami bisa mengguncang seluruh industri asuransi. Jadi perusahaan melibatkan pihak luar yang bersedia menanggung risiko besar tetapi rendah kemungkinan, sebagai imbalan pembayaran. Perjanjian yang awalnya tidak jelas menyebabkan sengketa sengit, seperti perjuangan hukum lima tahun antara penanggung ulang dan pemegang obligasi mengenai apa yang sebenarnya dicakup setelah badai tahun 2008.

Obligasi bencana sejak itu beralih ke pemicu yang lebih konkrit dan mudah diamati, mengurangi ketidakpastian dan menghindari sengketa. Bayangkan mengukur kecepatan angin di lokasi tertentu, misalnya, daripada kerugian industri asuransi secara keseluruhan atau apakah pemerintah menyatakan keadaan darurat.

Dalam merger bioteknologi, perusahaan menggunakan pembayaran kontingen untuk menjembatani kesenjangan antara pembeli dan penjual saat menilai obat eksperimental. Biasanya ini melibatkan pemicu yang tidak bisa diperdebatkan, seperti apakah FDA telah menyetujui pengobatan tersebut sebelum tanggal tertentu.

OpenAI dan Microsoft sejak itu mencapai semacam détente, mungkin karena negosiasi yang berkepanjangan bisa berakhir dengan kedua belah pihak yang kalah. Perjanjian baru, membuka tab baru, yang ditandatangani akhir tahun lalu, menyatakan bahwa panel independen harus memverifikasi klaim OpenAI bahwa AGI telah dicapai.

Microsoft mempertahankan saham 27% di perusahaan, yang terakhir dinilai sebesar $840 miliar, dan memiliki hak atas beberapa teknologi hingga 2032, bahkan jika AGI tercapai. Perusahaan Sam Altman kini dapat mengejar kemitraan atau penawaran umum perdana. Namun masih ada alasan ketegangan. OpenAI mengirim sekitar 20% dari pendapatannya ke Microsoft, dan itu secara esensial hilang jika AGI terjadi. Perubahan finansial sebesar itu akan sangat berpengaruh terhadap keuangan OpenAI saat mereka bersiap menjual saham ke publik.

Perdebatan tentang bagaimana mendefinisikan AGI belum benar-benar terselesaikan. Sam Altman mengatakan akhir tahun lalu dalam sebuah podcast, membuka tab baru bahwa orang-orang tidak benar-benar memperhatikan dan itu tidak banyak mengubah dunia, tetapi “kami membangun AGI”. CEO Microsoft Satya Nadella tampaknya lebih fokus pada dampak besar, mengklaim tahun lalu bahwa AGI akan menjadi “benchmark yang tidak masuk akal,” dan tolok ukur keberhasilan sebenarnya adalah pertumbuhan ekonomi dunia sebesar 10% yang tidak realistis.

Debat ini juga telah berkembang. Bahkan pendukung AI seperti Altman mengakui AI masih buruk dalam beberapa hal, seperti penalaran kompleks dan kemampuan belajar. Dia kini mempromosikan gagasan superinteligensi dan sistem AI yang melakukan hal-hal yang tidak bisa dilakukan manusia, atau sistem yang melakukan pekerjaan, seperti menjadi presiden AS, lebih baik dari manusia. Namun itu masih definisi yang kabur.

Altman masih terus mengejar. Penggalangan dana terbaru OpenAI sebesar $110 miliar termasuk kontribusi besar dari Amazon (AMZN.O), yang menurut The Information, bisa bergantung pada apakah perusahaan akan go public atau mencapai AGI.

Dalam wawancara dengan CNBC setelah perjanjian, Altman mengatakan kemajuan AI tetap cepat, dan karena AGI adalah “hal jangka pendek,” perusahaan tidak melakukan kesepakatan baru yang berhenti saat mencapai itu. Timeline ini mungkin optimis, tetapi jika iya, sengketa masih memiliki waktu dan insentif untuk kembali memanas.

Ikuti Robert Cyran di Bluesky, membuka tab baru.

Untuk wawasan seperti ini, klik di sini, membuka tab baru untuk mencoba Breakingviews secara gratis.

Disunting oleh Peter Thal Larsen; Diproduksi oleh Maya Nandhini