Gubernur Gavin Newsom pada hari Minggu memveto SB 1047, rancangan undang-undang keselamatan AI yang akan menetapkan persyaratan bagi pengembang model AI tingkat lanjut untuk membuat protokol yang bertujuan mencegah bencana.
RUU tersebut, yang diperkenalkan oleh Senator Scott Wiener (D-San Francisco), akan mewajibkan pengembang untuk menyerahkan rencana keselamatan mereka kepada jaksa agung negara bagian, yang dapat meminta pertanggungjawaban mereka jika model AI yang mereka kendalikan secara langsung menyebabkan kerugian atau ancaman terhadap keselamatan. Publik.
Selain itu, undang-undang tersebut akan mengharuskan perusahaan teknologi untuk mematikan model AI yang mereka kendalikan secara langsung jika terjadi kesalahan.
Dalam pesan vetonya, Newsom mengatakan undang-undang tersebut dapat memberikan masyarakat “rasa aman yang salah dalam mengendalikan teknologi yang bergerak cepat ini” karena undang-undang tersebut hanya menargetkan model AI berskala besar dan mahal, bukan sistem khusus yang lebih kecil.
“Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau menggunakan data sensitif,” kata surat veto Newsom. “Sebaliknya, RUU ini menerapkan standar yang ketat bahkan pada fungsi dasar – selama ada sistem besar yang menerapkannya. Saya yakin ini bukan pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”
Gubernur juga mengumumkan pada hari Minggu bahwa pemerintahannya telah merekrut para pemimpin di lapangan untuk membantu negara menciptakan perlindungan praktis untuk penerapan kecerdasan buatan, dengan fokus pada analisis kemampuan dan risikonya. Newsom berjanji akan terus bekerja sama dengan Badan Legislatif mengenai masalah ini pada sidang mendatang.
RUU tersebut diperdebatkan dengan hangat di Silicon Valley, dan mendapat dukungan dari Center for AI Safety, CEO SpaceX Elon Musk, dewan editorial Los Angeles Times, dan peneliti AI terkemuka, namun ditentang oleh Meta, perusahaan induk Facebook, dan pembuat ChatGPT. OpenAI, dan beberapa anggota Kongres dari Partai Demokrat. Termasuk Nancy Pelosi (D-San Francisco).
Para pendukung mengatakan bahwa penting untuk memberikan hambatan terhadap perkembangan teknologi AI yang pesat untuk mencegah kerusakan besar di masa depan, sementara para penentang mengatakan langkah-langkah tersebut dapat menghambat inovasi.
Meskipun ada kemungkinan bahwa RUU tersebut dapat mengatasi veto gubernur dengan dua pertiga mayoritas di kedua kamar, hal ini merupakan hambatan besar yang harus diatasi dan merupakan hal yang tidak biasa.
SB 1047 telah menghasilkan wacana publik yang besar, kata Newsom awal bulan ini dalam obrolan api unggun di Dreamforce, sebuah konferensi teknologi di San Francisco, dan menambahkan bahwa SB 1047 “menciptakan sistem cuacanya sendiri.”
Ia juga berbicara tentang tantangan yang dihadapi regulasi AI.
“Kami telah bekerja selama dua tahun terakhir untuk menghasilkan beberapa peraturan rasional yang mendukung pengambilan risiko, namun tidak gegabah…,” kata Newsom.
Baik pendukung maupun penentang SB 1047 telah mengumpulkan sumber daya untuk menyuarakan pendapat mereka. Lebih dari 125 aktor, produser, sutradara, artis musik, dan pemimpin industri hiburan lainnya, termasuk tokoh Demokrat, menandatangani surat yang mendesak Newsom untuk menandatangani RUU tersebut. Di antara penandatangan surat tersebut adalah aktor Pedro Pascal dan Alec Baldwin, serta produser eksekutif “Bridgerton” Shonda Rhimes.
“Kami ingin terus percaya bahwa Anda adalah pemimpin yang akan membela kesejahteraan semua orang, bukan hanya segelintir raksasa Silicon Valley,” bunyi surat itu.
Sementara itu, Chamber of Progress, yang menentang RUU tersebut, mengeluarkan pernyataan Lagu rock AI lahir Dengan lirik yang memuat “veto atas pembatasan yang menghambat kita”.
“Ini adalah salah satu tagihan yang jarang muncul di meja Anda, yang bergantung pada siapa orang terakhir yang dihubungi dalam hal seberapa meyakinkannya,” kata Newsom dalam sebuah wawancara dengan The Times awal bulan ini. “Banyak orang terpecah belah.”
