SACRAMENTO, 30 September (AP) — Gubernur Kalifornia Gavin Newsom pada Minggu memveto rancangan undang-undang penting yang bertujuan menetapkan langkah-langkah keselamatan pertama di negara itu untuk model kecerdasan buatan berukuran besar.
Keputusan ini merupakan pukulan keras terhadap upaya mengendalikan industri lokal, yang berkembang pesat dengan sedikit pengawasan. Para pendukungnya mengatakan bahwa RUU tersebut akan menciptakan beberapa peraturan pertama mengenai model AI berskala besar di negara tersebut dan membuka jalan bagi peraturan keselamatan AI di seluruh negeri.
Baca juga | Hassan Nasrallah terbunuh: Israel menggunakan informasi dari mata-mata Iran untuk membunuh pemimpin Hizbullah, menurut sebuah laporan.
Awal bulan ini, gubernur Partai Demokrat mengatakan kepada audiensi di Dreamforce, sebuah konferensi tahunan yang diselenggarakan oleh raksasa perangkat lunak Salesforce, bahwa California harus memimpin dalam mengatur kecerdasan buatan dalam menghadapi kelambanan pemerintah federal, namun usulan tersebut “dapat berdampak buruk pada industri. .”
Newsom mengatakan proposal tersebut, yang mendapat tentangan keras dari perusahaan rintisan, raksasa teknologi, dan banyak anggota DPR dari Partai Demokrat, akan merugikan industri dalam negeri karena menetapkan persyaratan yang ketat.
Baca juga | Perang antara Rusia dan Ukraina: Tentara Rusia menembak jatuh lebih dari 100 drone Ukraina dalam salah satu pemboman terbesar dalam perang tersebut.
“Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau menggunakan data sensitif,” kata Newsom dalam sebuah pernyataan. “Sebaliknya, RUU tersebut menerapkan standar yang ketat bahkan pada fungsi-fungsi dasar – selama sistem besar menerapkannya.”
Sebaliknya, Newsom mengumumkan bahwa negara bagian tersebut akan berkolaborasi dengan beberapa pakar industri, termasuk pionir AI Fei-Fei Lee, untuk mengembangkan batasan seputar model AI yang kuat. Lee menentang usulan keselamatan AI.
Langkah tersebut, yang bertujuan untuk mengurangi potensi risiko yang ditimbulkan oleh kecerdasan buatan, akan mengharuskan perusahaan untuk menguji model mereka dan secara terbuka mengungkapkan protokol keselamatan mereka untuk mencegah model tersebut dirusak, misalnya, untuk mematikan jaringan listrik negara atau membantu pembuatan bahan kimia. senjata. Para ahli mengatakan skenario ini mungkin terjadi di masa depan karena industri terus berkembang pesat. Hal ini juga akan memberikan perlindungan terhadap pelapor (whistleblower) bagi pekerja.
Penulis RUU tersebut, Senator dari Partai Demokrat Scott Wiener, menyebut veto tersebut sebagai “kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan-perusahaan besar yang membuat keputusan penting yang berdampak pada keselamatan dan kesejahteraan masyarakat serta masa depan planet ini.”
“Perusahaan yang mengembangkan sistem AI canggih menyadari bahwa risiko yang ditimbulkan oleh model ini terhadap masyarakat adalah nyata dan berkembang pesat. Meskipun laboratorium AI besar telah membuat komitmen yang besar untuk memantau dan memitigasi risiko ini, kenyataannya komitmen sukarela dari industri tidak dapat ditegakkan.” Weiner mengatakan dalam sebuah pernyataan: “Ini jarang berhasil bagi publik.”
Weiner mengatakan perdebatan mengenai RUU tersebut telah menghasilkan kemajuan yang signifikan dalam isu keamanan AI, dan dia akan terus menekankan hal tersebut.
Undang-undang tersebut merupakan salah satu dari serangkaian rancangan undang-undang yang disahkan oleh Badan Legislatif tahun ini untuk mengatur kecerdasan buatan, melawan deepfake, dan melindungi pekerja. Anggota parlemen negara bagian mengatakan California harus mengambil tindakan tahun ini, mengutip pelajaran sulit yang mereka peroleh dari kegagalan mengendalikan perusahaan media sosial ketika mereka punya kesempatan.
Pendukung langkah tersebut, termasuk Elon Musk dan Anthropic, mengatakan bahwa proposal tersebut akan memberikan tingkat transparansi dan akuntabilitas pada model AI skala besar, karena pengembang dan pakar mengatakan mereka masih belum memiliki pemahaman penuh tentang bagaimana dan mengapa model AI berperilaku baik.
RUU tersebut menargetkan sistem yang membutuhkan lebih dari $100 juta untuk membangunnya. Model AI saat ini belum mencapai ambang batas ini, namun beberapa ahli mengatakan hal itu bisa berubah pada tahun depan.
“Hal ini disebabkan oleh ekspansi besar-besaran investasi dalam industri ini,” kata Daniel Kokotaglo, mantan peneliti OpenAI yang mengundurkan diri pada bulan April karena dianggap mengabaikan risiko AI oleh perusahaan tersebut. “Memiliki kekuasaan yang sangat besar untuk mengendalikan perusahaan swasta mana pun tanpa akuntabilitas, dan hal ini juga sangat berisiko.”
Amerika Serikat sudah tertinggal dibandingkan Eropa dalam mengatur kecerdasan buatan untuk mengurangi risiko. Para pendukungnya mengatakan usulan California ini tidak sekomprehensif peraturan di Eropa, namun ini akan menjadi langkah awal yang baik untuk memberikan hambatan terhadap teknologi yang berkembang pesat yang menimbulkan kekhawatiran akan kehilangan pekerjaan, misinformasi, pelanggaran privasi, dan bias terhadap otomatisasi.
Sejumlah perusahaan AI terkemuka tahun lalu secara sukarela setuju untuk mengikuti tindakan pengamanan yang ditetapkan oleh Gedung Putih, seperti pengujian dan berbagi informasi tentang model mereka. Pendukung tindakan tersebut mengatakan bahwa RUU California akan mengharuskan pengembang AI untuk mengikuti persyaratan yang serupa dengan kewajiban tersebut.
Namun para kritikus, termasuk mantan Ketua DPR AS Nancy Pelosi, mengatakan RUU itu akan “mematikan teknologi California” dan menghambat inovasi. Mereka mengatakan hal ini akan membuat pengembang AI enggan berinvestasi pada model besar atau berbagi perangkat lunak sumber terbuka.
Keputusan Newsom untuk memveto RUU tersebut mencerminkan kemenangan lain di California bagi perusahaan teknologi besar dan pengembang AI, yang sebagian besar telah menghabiskan waktu satu tahun terakhir untuk melobi bersama Kamar Dagang California untuk mempengaruhi gubernur dan anggota parlemen dalam mengembangkan peraturan AI.
Dua proposal AI lainnya, yang juga mendapat tentangan dari industri teknologi dan lainnya, gagal sebelum batas waktu legislatif bulan lalu.
Gubernur mengatakan pada awal musim panas ini bahwa dia ingin melindungi posisi California sebagai pemimpin global dalam kecerdasan buatan, mengingat bahwa 32 dari 50 perusahaan AI terbesar dunia berlokasi di negara bagian tersebut.
Dia memuji California sebagai negara yang mengadopsi teknologi ini dalam waktu dekat, dimana negara bagian tersebut dapat segera menerapkan alat AI generatif untuk mengatasi kemacetan jalan raya, memberikan panduan perpajakan, dan menyederhanakan program tunawisma. Bulan lalu negara bagian tersebut juga mengumumkan kemitraan sukarela dengan raksasa kecerdasan buatan Nvidia untuk membantu melatih mahasiswa, dosen universitas, pengembang, dan ilmuwan data. California juga mempertimbangkan peraturan baru yang melarang diskriminasi AI dalam praktik perekrutan.
Awal bulan ini, Newsom menandatangani beberapa undang-undang terberat di Amerika untuk menindak deepfake pemilu dan langkah-langkah untuk melindungi pekerja Hollywood dari penggunaan kecerdasan buatan tanpa izin. (AP)
(Ini adalah cerita yang belum diedit dan dibuat secara otomatis dari umpan berita tersindikasi; staf saat ini mungkin tidak mengubah atau mengedit teksnya)
