Hakim memblokir undang-undang California yang menargetkan iklan kampanye deepfake

Ketika klip video dan audio palsu menjangkau kampanye politik, California memberlakukan pembatasan terberatnya pada bulan September: undang-undang yang melarang iklan politik dalam waktu 120 hari setelah pemilu yang menyertakan konten yang menipu, dibuat secara digital, atau diubah kecuali iklan tersebut diberi label “selesai”. Memanipulasinya.” “

Pada hari Rabu, seorang hakim federal untuk sementara memblokir undang-undang tersebut, dengan mengatakan bahwa undang-undang tersebut melanggar Amandemen Pertama.

Undang-undang lain yang melarang iklan kampanye yang menipu masih berlaku di California, termasuk undang-undang yang mewajibkan kandidat dan komite aksi politik untuk melakukan hal tersebut. sebuah pernyataan Saat iklan menggunakan kecerdasan buatan untuk membuat atau mengubah konten secara signifikan. Namun perintah awal dikabulkan RUU Majelis 2839 Artinya, tidak akan ada larangan luas terhadap individu yang menggunakan kecerdasan buatan untuk mengkloning gambar atau suara kandidat secara palsu tanpa mengungkapkan bahwa gambar atau kata-kata tersebut palsu.

Perintah tersebut diajukan oleh Christopher Coles, seorang komentator konservatif yang telah membuat sejumlah video deepfake yang mengejek Partai Demokrat, termasuk calon presiden dari partai tersebut, Wakil Presiden Kamala Harris. Gubernur Gavin Newsom mengutip Salah satu video itu — yang menunjukkan klip Harris sementara versi palsu dari suaranya berbicara tentang menjadi “perekrut keberagaman tertinggi” dan mengakui ketidaktahuan dan ketidakmampuan — ketika dia menandatangani AB 2839, tetapi tindakan tersebut sebenarnya diperkenalkan pada bulan Februari, jauh sebelum video Kohls Harris beredar viral di X.

Ketika Coles ditanya di program X tentang keputusan tersebut, dia berkata: “Kebebasan menang!” untuk saat ini.”

itu untuk memerintah Hakim Distrik AS John A. Mendez mengeksplorasi ketegangan antara upaya untuk melindungi terhadap penipuan yang didukung AI yang dapat memengaruhi pemilu dan jaminan kuat yang diberikan oleh Bill of Rights terhadap pidato politik.

Saat memberikan perintah pendahuluan, Mendez menulis: “Ketika pidato politik dan politik elektoral dipertaruhkan, Amandemen Pertama hampir secara jelas mengamanatkan bahwa pengadilan mengizinkan pidato untuk berkembang daripada mendukung upaya negara untuk menghambatnya…. [M]Kebanyakan AB 2839 bertindak sebagai palu dan bukan pisau bedah, bertindak sebagai instrumen tumpul yang menghambat ekspresi humor dan secara inkonstitusional menghambat pertukaran gagasan yang bebas dan tidak terkekang yang sangat penting bagi perdebatan demokrasi Amerika.

“Amandemen Pertama tidak boleh mengikat tangan kita dalam mengatasi ancaman nyata, serius, dan dapat diperkirakan terhadap demokrasi kita,” jawab Robert Weissman, salah satu ketua Public Citizen.

Robert Weissman dari organisasi advokasi konsumen Public Citizen mengatakan 20 negara bagian lain telah mengadopsi undang-undang serupa dengan AB 2839 – tetapi terdapat perbedaan utama.

(Nick Wass/Pers Terkait)

Weissman mengatakan 20 negara bagian telah mengadopsi undang-undang yang mengikuti pendekatan dasar yang sama: mewajibkan iklan yang menggunakan kecerdasan buatan untuk memproses konten diberi label seperti itu. Namun AB 2839 memiliki beberapa elemen unik yang mungkin mempengaruhi pemikiran Mendez, kata Weissman, termasuk persyaratan untuk menampilkan pengungkapan sebesar teks terbesar yang muncul dalam sebuah iklan.

Dalam keputusannya, Mendez mencatat bahwa Amandemen Pertama juga mencakup pidato yang salah dan menyesatkan. Bahkan pada topik yang sama pentingnya dengan melindungi pemilu, anggota parlemen hanya dapat mengatur kebebasan berpendapat melalui cara yang paling tidak membatasi, tulisnya.

AB 2839 – yang mengharuskan video politik untuk terus menampilkan pengungkapan yang diperlukan tentang penipuan – tidak menggunakan cara yang paling ketat untuk melindungi integritas pemilu, tulis Mendez. Pendekatan yang paling tidak membatasi adalah “kontra-pidato,” tulisnya, meskipun dia tidak menjelaskan apa yang mungkin terjadi.

“Retorika tandingan bukanlah solusi yang tepat,” jawab Weisman. Dia mengatakan masalah deepfake bukanlah karena mereka membuat klaim atau sindiran palsu terhadap kandidat; “Masalahnya adalah mereka menunjukkan kandidat mengatakan atau melakukan sesuatu yang sebenarnya tidak dia lakukan.” Dia mengatakan para kandidat yang menjadi sasaran dihadapkan pada tugas yang hampir mustahil untuk menjelaskan bahwa mereka sebenarnya tidak melakukan atau mengatakan hal-hal tersebut, dan hal ini jauh lebih sulit daripada melawan tuduhan palsu yang diucapkan oleh lawan atau yang dibuat oleh komite aksi politik.

Dia mengatakan bahwa untuk tantangan yang ditimbulkan oleh iklan deepfake, memerlukan deteksi penipuan bukanlah solusi terbaik. Tapi ini adalah pengobatan yang paling tidak membatasi.

Liana berciuman Masalah pertamaSebuah kelompok advokasi pro-demokrasi mengatakan pembuatan gambar palsu belum tentu menjadi masalah. “Yang penting adalah memperkuat konten palsu dan menipu ini,” kata Kissing, direktur kampanye kelompok tersebut.

Alex Fraser, Manajer Reformasi Teknologi di Masalah pertamaDia mengatakan hal terpenting yang dapat dilakukan anggota parlemen adalah mengatasi bagaimana platform teknologi dirancang. “Apa saja hambatannya? Pada dasarnya tidak ada hambatan apa pun,” katanya, seraya menambahkan: “Itulah masalah mendasar yang kami lihat.”