Beberapa minggu setelah mantan Presiden Trump selamat dari upaya pembunuhan di Butler, Pennsylvania Sebuah video beredar di media sosial Foto ini menunjukkan Wakil Presiden Kamala Harris mengatakan pada rapat umum: “Donald Trump bahkan tidak bisa mati dengan bermartabat.”
Klip tersebut memicu kemarahan, namun itu hanyalah tipuan, dan Harris tidak pernah mengatakannya. Kalimat tersebut dibaca oleh suara yang dihasilkan AI yang terdengar sangat mirip dengan suara Harris dan kemudian dimasukkan ke dalam pidato yang sebenarnya disampaikan Harris.
Manipulasi seperti ini dialami oleh sebagian besar pemilih, dan terdapat kekhawatiran yang semakin besar mengenai dampaknya terhadap pemilu, menurut A Pemindaian baru Dari 2.000 orang dewasa oleh firma riset pasar 3Gem. Survei yang dilakukan oleh perusahaan keamanan siber McAfee menemukan bahwa 63% orang yang diwawancarai telah melihat konten deepfake dalam 60 hari terakhir, dan 15% di antaranya melihat 10 konten atau lebih.
Paparan terhadap berbagai deepfake cukup umum terjadi di seluruh negeri, dengan deepfake politik menjadi jenis yang paling umum, kata survei tersebut. Namun deepfake bertema politik banyak terjadi di Michigan, Pennsylvania, North Carolina, Nevada, dan Wisconsin, negara-negara bagian yang suaranya dapat menentukan hasil pemilihan presiden.
Dalam sebagian besar kasus, responden survei mengatakan bahwa deepfake adalah parodi; Minoritas (40%) dirancang untuk menyesatkan. Namun parodi dan deepfake yang tidak menipu pun secara tidak sadar dapat memengaruhi pemirsa dengan menegaskan bias mereka atau mengurangi kepercayaan mereka terhadap media, kata Ryan Culkin, kepala konsultan di Thriveworks, penyedia layanan kesehatan mental nasional.
“Ini hanya menambah lapisan pada masa yang sudah penuh tekanan,” kata Culkin.
Mayoritas orang yang disurvei untuk McAfee – 91% – mengatakan mereka khawatir akan adanya deepfake yang mengganggu pemilu, mungkin dengan mengubah kesan publik terhadap kandidat tersebut atau dengan mempengaruhi hasil pemilu. Hampir 40% menggambarkan diri mereka sangat cemas. Mungkin karena faktor waktu, kekhawatiran mengenai deepfake yang berdampak pada pemilu, menyulut kemarahan publik, atau merusak kepercayaan terhadap media meningkat tajam dari jajak pendapat yang dilakukan pada bulan Januari, sementara kekhawatiran mengenai deepfake yang digunakan dalam cyberbullying, penipuan, dan pornografi menurun, menurut survei . Ditemukan.
Ada dua temuan lain yang patut dicatat: Tujuh dari 10 peserta mengatakan bahwa mereka menemukan materi setidaknya sekali seminggu yang membuat mereka mempertanyakan apakah materi tersebut nyata atau dihasilkan oleh AI. Enam dari 10 mengatakan mereka tidak yakin bisa menjawab pertanyaan ini.
Saat ini, tidak ada undang-undang federal atau California yang secara khusus melarang deepfake dalam iklan. Gubernur Gavin Newsom menandatangani undang-undang bulan lalu yang akan melarang materi kampanye yang menipu dan diubah secara digital dalam waktu 120 hari setelah pemilu, namun hakim federal untuk sementara memblokirnya atas dasar Amandemen Pertama.
Undang-undang California melarang iklan kampanye yang “menipu secara material” dalam waktu 60 hari setelah pemilu, kata Jeffrey Rosenthal, mitra di firma hukum Blank Rome dan pakar hukum privasi. Dia menambahkan bahwa peningkatan hambatan yang dilakukan negara terhadap deepfake dalam iklan tidak akan berlaku sampai tahun depan, ketika undang-undang baru akan mewajibkan iklan politik diberi label jika mengandung konten yang dihasilkan oleh kecerdasan buatan.
Apa yang dapat Anda lakukan terhadap deepfake
McAfee adalah salah satu dari banyak perusahaan yang menawarkan Alat perangkat lunak Itu membantu mengidentifikasi media yang menggunakan konten yang dihasilkan AI. Dua lagi Selamat datang Dan bitmindyang menyediakan ekstensi gratis untuk Google Chrome yang menandai dugaan deepfake.
Patchen Noelke, wakil presiden pemasaran Hiya di Seattle, mengatakan teknologi perusahaannya mencari data audio untuk mencari pola yang menunjukkan bahwa pola tersebut dihasilkan oleh komputer dan bukan oleh manusia. “Ini adalah permainan kucing dan tikus,” kata Noelke. Penipu akan mencari cara untuk menghindari deteksi, dan perusahaan seperti Hiya akan beradaptasi untuk melawannya.
Ken Jun Miyashi, salah satu pendiri BitMind di Austin, Texas, mengatakan teknologi perusahaannya saat ini hanya berfungsi pada gambar diam, meskipun akan ada pembaruan untuk deteksi AI dalam file video dan audio dalam beberapa bulan mendatang. Namun dia mengatakan alat untuk menghasilkan deepfake lebih unggul daripada alat untuk mendeteksinya saat ini, sebagian karena “ada lebih banyak investasi di sisi generatif.”
Itulah salah satu alasan mengapa hal ini membantu mempertahankan apa yang Steve Grubman, chief technology officer McAfee, sebut sebagai skeptisisme yang sehat terhadap materi yang Anda lihat online.
“Kita semua rentan terhadap deepfake, terutama jika hal tersebut mengkonfirmasi bias alami yang sudah kita miliki,” katanya.
Perlu diingat juga bahwa gambar dan suara yang dihasilkan AI dapat disematkan pada materi asli. “Mengambil video dan memanipulasinya hanya selama lima detik benar-benar dapat mengubah nada pesan,” kata Grubman.
“Anda tidak perlu banyak mengubah. Satu kalimat yang disisipkan ke dalam pidato pada waktu yang tepat dapat benar-benar mengubah maknanya.”
Senator Negara Bagian Josh Baker (D-Menlo Park) mencatat bahwa setidaknya ada tiga undang-undang negara bagian yang akan berlaku tahun depan yang mengharuskan pengungkapan lebih banyak konten yang dihasilkan AI, termasuk undang-undang yang ia buat, yaitu Undang-Undang Transparansi Kecerdasan Buatan California. Bahkan dengan langkah-langkah ini, negara masih membutuhkan peran aktif masyarakat dalam menemukan dan menghentikan informasi yang salah, katanya.
Dia mengatakan empat hal utama yang dapat dilakukan masyarakat adalah mempertanyakan konten yang menimbulkan emosi yang kuat, memverifikasi sumber informasi, hanya membagikan informasi dari sumber tepercaya, dan melaporkan konten mencurigakan kepada petugas pemilu dan platform tempat informasi tersebut dibagikan. “Jika ada sesuatu yang membuat Anda sangat emosional, mungkin ada baiknya Anda mengambil langkah mundur dan berpikir, ‘Dari mana datangnya hal ini?’” kata Baker.
McAfee menawarkan layanan di situs webnya Satu set tip Untuk mengidentifikasi potensi deepfake, menghindari penipuan terkait pemilu, dan tidak menyebarkan media palsu. Ini termasuk:
- Carilah teks yang berisi pengulangan, pemikiran dangkal, dan kelangkaan fakta. “AI sering kali mengatakan banyak hal tanpa banyak bicara, bersembunyi di balik banyaknya kosakata yang banyak agar terlihat berpengetahuan,” saran situs tersebut.
- Pada gambar dan suara, perbesar untuk mencari ketidakkonsistenan dan gerakan aneh pembicara dan dengarkan suara yang tidak sesuai dengan apa yang Anda lihat.
- Coba tingkatkan materi dengan konten dari situs mapan lainnya.
- Jangan menganggap apa pun begitu saja.
- Periksalah sumbernya, dan jika materinya berupa kutipan, usahakan mencari media aslinya sesuai konteks.
Untuk apa pun yang tidak dapat Anda lihat dengan mata kepala sendiri atau dilihat dari sumber yang 100% dapat dipercaya, “anggaplah itu mungkin hasil photoshop,” saran Grubman. Ia juga memperingatkan bahwa mudah bagi penipu untuk mengkloning situs resmi pemilu dan kemudian mengubah beberapa detail, seperti lokasi dan jam operasional TPS.
Itu sebabnya Anda sebaiknya hanya memercayai situs terkait pemungutan suara jika URL-nya berakhiran .gov, dan menambahkan: “Jika Anda tidak tahu harus mulai dari mana, Anda bisa mulai dari Pilih.govSitus ini menyediakan informasi tentang pemilu dan hak memilih, serta tautan ke situs web resmi pemilu masing-masing negara bagian.
“Kemampuan untuk memalsukan begitu banyak dunia digital kita menurunkan kepercayaan di mana pun,” kata Grubman. Pada saat yang sama, beliau mengatakan: “Ketika ada bukti sah mengenai pelanggaran, kejahatan atau perilaku tidak etis, sangat mudah untuk mengklaim bahwa hal tersebut salah. …Kemampuan kita untuk meminta pertanggungjawaban individu ketika ada bukti juga dirugikan oleh meluasnya ketersediaan barang palsu digital.
