Gubernur California Gavin Newsom pada hari Senin menandatangani sejumlah undang-undang terkait AI yang akan memberikan perlindungan lebih besar kepada aktor atas gambar digital mereka dan melawan penyebaran deepfake dalam iklan politik, di antara peraturan lain yang ditujukan untuk teknologi yang berkembang pesat.
“Ini adalah rancangan undang-undang integritas pemilu yang penting, dan sudah lama tertunda,” kata Newsom dalam sebuah wawancara di konferensi DreamForce, yang diselenggarakan oleh raksasa perangkat lunak Salesforce di San Francisco. “Pemilu sedang berlangsung, pemungutan suara awal sedang berlangsung, dan rancangan undang-undang ini sangat mendesak bagiku.”
Setidaknya satu dari undang-undang baru tersebut dapat berperan dalam pemilihan presiden tahun ini, yang telah menyaksikan penyebaran dukungan politik dan video palsu yang menampilkan video palsu para kandidat secara online.
Salah satu undang-undang baru, UU No.2839, Undang-undang ini bertujuan untuk membatasi konten yang dimanipulasi yang dapat merusak reputasi kandidat atau kepercayaan publik terhadap hasil pemilu, kecuali parodi dan sindiran. Berdasarkan undang-undang tersebut, seorang kandidat, komisi pemilu, atau pejabat pemilu dapat meminta perintah pengadilan untuk mencabut materi palsu. Mereka juga dapat menuntut orang yang mendistribusikan atau menerbitkan ulang materi yang menipu tersebut atas kerugian.
Faktur lain yang ditandatangani meliputi: UU No.2655yang mengharuskan platform teknologi memiliki prosedur untuk mengidentifikasi, menghapus, dan menandai konten palsu. Hal ini juga mengecualikan outlet berita satir dan satir yang memenuhi persyaratan tertentu. RUU tersebut, AB 2355, akan mengharuskan komite yang membuat iklan politik untuk mengungkapkan apakah iklan tersebut dibuat atau diubah secara signifikan menggunakan kecerdasan buatan.
Video palsu yang menampilkan calon presiden tahun ini, Wakil Presiden Kamala Harris dan mantan Presiden Trump, telah tersebar luas secara online, meningkatkan kekhawatiran tentang misinformasi dan disinformasi. Beberapa perusahaan media sosial telah menghapus konten tersebut karena melanggar standar mereka, namun mungkin sulit bagi moderator konten untuk mengikuti proses berbagi dan pemuatan yang cepat.
Taylor Swift telah menjadi salah satu korban deepfake baru-baru ini. Trump menerbitkan sebuah postingan di platform media sosial Truth Social yang menyatakan bahwa Swift mendukungnya sementara dia tidak.
“Baru-baru ini saya mengetahui bahwa AI yang merekam saya secara palsu mendukung pencalonan Donald Trump sebagai presiden telah diposting di situs webnya,” tulis Swift dalam postingan Instagram, di mana dia mendukung Harris. “Ini benar-benar meningkatkan kekhawatiran saya tentang AI dan bahaya penyebaran informasi yang salah. Hal ini membawa saya pada “Kesimpulan saya adalah saya harus sangat transparan mengenai rencana saya yang sebenarnya untuk pemilu ini sebagai pemilih. Cara paling sederhana untuk memerangi misinformasi adalah dengan kebenaran.”
RUU yang ditandatangani oleh Newsom juga mengatasi kekhawatiran yang muncul selama pemogokan di Hollywood tahun lalu yang dipimpin oleh Screen Actors Guild dan Writers Guild of America, yang berjuang untuk melindungi aktor dan penulis yang khawatir pekerjaan mereka akan diambil alih oleh kemajuan teknologi kecerdasan buatan.
Newsom menandatangani dua undang-undang yang akan memberikan perlindungan lebih kepada artis terkait penampilan digital mereka.
Dilarang dan dapat dihukum untuk membuat dan mendistribusikan salinan digital dari orang yang meninggal tanpa mendapat izin dari ahli warisnya.
Aturan kedua membuat kontrak tidak dapat dilaksanakan jika salinan digital dari perwakilan digunakan ketika individu tersebut dapat melakukan pekerjaan itu sendiri atau jika kontrak tidak menyertakan penjelasan spesifik dan masuk akal tentang bagaimana salinan digital tersebut akan digunakan. Aturan yang mengatur kontrak mulai berlaku pada bulan Januari.
“Tidak seorang pun boleh hidup dalam ketakutan menjadi boneka digital orang lain yang tidak dibayar,” kata Duncan Crabtree-Ireland, direktur eksekutif nasional Screen Actors Guild dan kepala negosiasi, dalam sebuah pernyataan. dan keluarga — dari duplikat kecerdasan buatan tanpa persetujuan nyata.
Undang-undang baru ini merupakan bagian dari serangkaian 50 rancangan undang-undang terkait AI di Badan Legislatif negara bagian, seiring dengan upaya para pemimpin politik negara bagian untuk mengatasi kekhawatiran masyarakat mengenai kecerdasan buatan. Salah satu rancangan undang-undang yang belum diputuskan oleh Newsom adalah SB 1047, rancangan undang-undang keselamatan AI yang diperkenalkan oleh Senator Scott Wiener (D-San Francisco), yang telah diperdebatkan dengan hangat di Silicon Valley.
RUU ini akan mengharuskan pengembang model AI canggih di masa depan untuk menciptakan penghalang pelindung guna mencegah penyalahgunaan teknologi untuk melancarkan serangan siber terhadap infrastruktur penting.
“Gubernur telah membuat pernyataan publik secara umum tentang mendukung inovasi dan regulasi, namun dia tidak ingin regulasi merugikan inovasi,” kata Weiner pada konferensi pers, Selasa. “Pernyataan ini juga sesuai dengan pandangan saya, dan pernyataan ini sesuai dengan RUU Senat 1047.”
Newsom mengatakan kepada New York Times pada hari Selasa bahwa dia belum memutuskan RUU tersebut.
“Ini adalah salah satu proyek yang jarang datang ke meja Anda, dan hal ini bergantung pada siapa orang terakhir yang dihubungi dalam hal seberapa meyakinkannya proyek tersebut,” kata Newsom. “Banyak orang terpecah belah.”
Newsom mengatakan bahwa di ruang hijau sebelum dia naik panggung di Dream Force ada dua pemimpin di ruang tersebut (yang tidak ingin dia sebutkan namanya) yang sedang membahas RUU tersebut dengan sudut pandang yang sangat bertentangan. “Ini memecah belah orang di sini,” katanya.
“Yang paling penting [is] “Tidak peduli apa yang terjadi pada tahun 1047, ini bukanlah keputusan akhir, ini bukanlah hal yang paling penting dalam regulasi di bidang ini… Semuanya terus berkembang dan saya ingin memastikan bahwa kita memiliki lingkungan regulasi yang dinamis dan terus melakukan iterasi, kata Newsom.
Dalam pembicaraan sampingan pada konferensi Dream Force, Newsom mengatakan dia ingin menciptakan kerangka peraturan yang mampu mendukung investasi. Pada saat yang sama, Newsom mengatakan, “Kita harus cukup fleksibel untuk menghadapi konsekuensi yang tidak diinginkan, namun tidak memberikan kompensasi berlebihan atas ketakutan yang mungkin tidak pernah terwujud.”
Konferensi Dreamforce adalah yang terbesar di San Francisco dan diperkirakan akan menarik 45.000 orang, menurut Kantor Pengembangan Ekonomi dan Tenaga Kerja San Francisco. Salesforce menggambarkan acara tiga hari tersebut, yang dimulai pada hari Selasa, sebagai “acara AI terbesar di dunia.”
Staf penulis Queenie Wong berkontribusi pada laporan ini.
