California Memperketat Aturan Kontrak AI Saat Perang Dengan Administrasi Trump Makin Membesar

Singkatnya

• California memerintahkan perlindungan yang lebih kuat bagi perusahaan AI yang mengajukan kontrak negara bagian.
• Langkah ini muncul ketika pemerintahan Trump mendorong standar AI nasional.
• Pejabat negara bagian akan menyusun aturan pengadaan yang menangani isu-isu termasuk bias, penyalahgunaan, dan risiko pelanggaran hak-hak sipil.

Konflik antara Washington dan negara bagian terkait kebijakan kecerdasan buatan meningkat pada hari Senin setelah Gubernur California Gavin Newsom menandatangani sebuah perintah eksekutif yang mewajibkan perlindungan yang lebih kuat dari perusahaan AI yang mengajukan kontrak negara bagian. Menurut perintah itu, perusahaan yang menjual sistem AI kepada instansi pemerintah California akan diminta untuk menunjukkan kebijakan yang mencegah penyalahgunaan dan melindungi privasi, keamanan, serta hak-hak sipil. “California selalu menjadi tempat lahirnya inovasi. Tetapi kami juga memahami sisi sebaliknya: di tangan yang salah, inovasi dapat disalahgunakan dengan cara yang membahayakan orang,” kata Newsom dalam sebuah pernyataan. “California memimpin dalam AI, dan kami akan menggunakan setiap alat yang kami punya untuk memastikan perusahaan melindungi hak-hak orang, bukan mengeksploitasi mereka atau membahayakan mereka. Sementara pihak lain di Washington sedang merancang kebijakan dan membuat kontrak di bawah bayang-bayang penyalahgunaan, kami fokus melakukannya dengan cara yang benar.” Perintah Newsom mengarahkan Badan Operasi Pemerintah negara bagian untuk mengembangkan standar pengadaan bagi vendor AI yang menangani isu-isu termasuk pembuatan konten ilegal, bias model, serta risiko terhadap hak-hak sipil dan kebebasan berbicara. Perintah itu juga mengarahkan Departemen Teknologi California untuk menyusun rekomendasi tentang pemberian watermark pada gambar yang dihasilkan AI dan video yang dimanipulasi.

 Perintah tersebut menempatkan California dalam konflik dengan upaya pemerintahan Donald Trump untuk menetapkan standar AI nasional dan membatasi regulasi di tingkat negara bagian. Awal bulan ini, pemerintahan Trump merilis kerangka kebijakan kecerdasan buatan nasional yang mendesak Kongres untuk menetapkan standar federal dan mengurangi apa yang pejabat sebut sebagai tumpang tindih regulasi AI negara bagian.

Kevin Frazier, seorang rekan penelitian tambahan di Cato Institute, mengatakan sengketa tersebut mencerminkan keseimbangan konstitusional yang telah lama ada antara kewenangan negara bagian dan federal. “Setiap terobosan teknologi—dari kapal uap hingga superkecerdasan—menimbulkan pertanyaan penting tentang bagaimana mengalokasikan kewenangan regulasi antara negara bagian dan pemerintah federal,” kata Frazier kepada Decrypt. “Konstitusi memberikan jawaban yang jelas: pemerintah federal harus memimpin dalam urusan keamanan ekonomi dan nasional serta hal-hal yang menuntut respons yang seragam; negara bagian dapat menjalankan kekuasaan polisi tradisional mereka di dalam batas wilayahnya.”

Frazier menyebut perintah eksekutif Newsom “contoh utama federalisme yang sedang dijalankan,” dan mengatakan bahwa perusahaan yang menolak persyaratan California dapat memilih untuk tidak menjual kepada negara bagian tersebut. “Sementara itu, Kongres masih berada pada posisi untuk menentukan syarat-syarat kecepatan dan arah ambisi AI negara itu,” katanya. Quinn Anex-Reis, analis kebijakan senior di Center for Democracy and Technology, mengatakan ukuran dan kekuatan pembelian California berarti ia bisa memengaruhi bagaimana perusahaan merancang dan menguji sistem AI jika mereka ingin menjual ke negara bagian itu. “Pengadaan lewat kontrak pemerintah sangat bernilai bagi perusahaan,” kata Anex-Reis kepada Decrypt. “Ini bagian besar dari bisnis bagi pengembang teknologi pada umumnya, dan jalur bisnis yang berkembang khususnya bagi pengembang AI.” Ia mengatakan aturan pengadaan adalah salah satu cara paling efektif bagi pemerintah untuk membentuk bagaimana sistem AI dikembangkan dan dievaluasi. “Proses pengadaan adalah tempat yang benar-benar penting untuk diperhatikan,” kata Anex-Reis. “Karena itulah satu-satunya tempat paling penting yang bisa dilihat negara bagian untuk menetapkan perlindungan dan ekspektasi tentang bagaimana vendor mengembangkan alat mereka.” Newsom telah muncul sebagai tokoh nasional dari Partai Demokrat dan kandidat presiden potensial 2028. Survei terbaru Politico–UC Berkeley Citrin Center menemukan bahwa ia memimpin mantan Wakil Presiden Kamala Harris dengan 14 poin di antara para pemilih yang mungkin dalam pemilihan pendahuluan Demokrat di California. Benturan kebijakan mengenai regulasi AI menempatkannya dalam konflik langsung dengan pemerintahan Trump saat perdebatan mengintensifkan pertanyaan siapa yang seharusnya menetapkan aturan yang mengatur teknologi tersebut. Musim panas lalu, pemerintahan Trump memerintahkan badan-badan federal untuk menghindari kontrak dengan model yang mereka sebut “AI woke” dan untuk mengadakan sistem yang menunjukkan netralitas ideologis.

Meski begitu, Anex-Reis mengatakan bahwa pertanyaan seputar regulasi AI lebih besar daripada politik. “Ini benar-benar tidak seharusnya menjadi isu politik,” kata Anex-Reis. “Ini sebenarnya tentang memastikan uang pembayar pajak tidak terbuang dan bahwa alat yang dibeli pemerintah kita bekerja.”