Kampanye kepresidenan AS pada tahun 2024 ditandai dengan beberapa deepfake (pemalsuan mendalam) yang mencolok – peniruan identitas kandidat yang didukung AI yang berupaya menyesatkan pemilih atau… Meremehkan kandidat Menjadi sasaran. Berkat retweet Elon Musk, Salah satu kepalsuan yang mendalam Dilihat lebih dari 143 kali juta kali.
Prospek kampanye yang tidak bermoral atau musuh asing yang menggunakan kecerdasan buatan untuk mempengaruhi pemilih telah membuat khawatir para peneliti dan pejabat di seluruh negeri, yang mengatakan bahwa media yang dibuat dan dimanipulasi oleh AI telah menyebar dengan cepat di Internet. Misalnya, para peneliti di Clemson University menemukan kampanye pengaruh di platform media sosial X Menggunakan kecerdasan buatan untuk menghasilkan komentar Dari lebih dari 680 akun bertenaga bot yang mendukung mantan Presiden Trump dan kandidat Partai Republik lainnya; Jaringan tersebut telah memposting lebih dari 130.000 komentar sejak Maret.
Untuk memperkuat pertahanannya terhadap gambar yang dimanipulasi, Yahoo News, salah satu situs berita paling populer di Internet, menarik pengguna Lebih dari 190 juta Smileweb.com mengumumkan pada hari Rabu bahwa mereka mengintegrasikan teknologi pendeteksi gambar palsu dari perusahaan keamanan siber McAfee. Teknologi ini akan meninjau foto yang dikirimkan oleh kontributor Yahoo News dan menandai foto yang kemungkinan dibuat atau diproses oleh kecerdasan buatan, sehingga membantu tim standar editorial situs tersebut memutuskan apakah akan mempublikasikannya.
Matt Sanchez, presiden dan manajer umum Yahoo Home Ecosystem, mengatakan perusahaannya hanya berusaha untuk tetap berada di depan para penipu.
“Meskipun gambar deepfake tidak menjadi masalah di Yahoo News saat ini, alat dari McAfee ini membantu kami menjadi proaktif karena kami selalu berupaya memastikan pengalaman berkualitas tinggi,” kata Sanchez melalui email. “Kemitraan ini meningkatkan upaya kami saat ini, memberi kami akurasi, kecepatan, dan skala yang lebih baik.”
Sanchez mengatakan media di industri berita sedang mempertimbangkan ancaman deepfake – “bukan karena ini adalah masalah yang merajalela saat ini, namun karena potensi penyalahgunaannya besar.”
Namun, berkat alat AI yang mudah digunakan, deepfake telah menyebar luas 40% siswa sekolah menengah Responden survei pada bulan Agustus mengatakan mereka pernah mendengar tentang beberapa jenis foto palsu yang dibagikan di sekolah mereka. itu Basis data online tentang deepfake politik Disusun oleh tiga akademisi Universitas Purdue, buku ini memuat hampir 700 entri, lebih dari 275 di antaranya berasal dari tahun ini saja.
Steve Grubman, chief technology officer dan wakil presiden eksekutif McAfee, mengatakan kemitraan dengan Yahoo News tumbuh dari upaya McAfee pada produk untuk membantu konsumen mendeteksi deepfake di komputer mereka. Perusahaan menyadari bahwa teknologi yang dikembangkannya untuk mengidentifikasi potensi gambar yang dihasilkan AI dapat bermanfaat bagi situs berita, terutama situs seperti Yahoo yang menggabungkan karya jurnalisnya sendiri dengan konten dari sumber lain.
Grubman mengatakan teknologi McAfee menambah “kemampuan yang kaya” yang dimiliki Yahoo untuk memverifikasi integritas materi yang berasal dari sumbernya. Alat pendeteksi deepfake yang didukung AI memindai gambar untuk mencari jenis artefak yang ditinggalkan oleh alat bertenaga AI di antara jutaan titik data dalam gambar digital.
“Salah satu hal yang menyenangkan tentang AI adalah Anda tidak perlu memberi tahu model apa yang harus dicari. Model menentukan apa yang harus dicari,” kata Groopman.
“Kualitas produk palsu meningkat pesat, dan bagian dari kemitraan kami adalah upaya untuk mencapainya,” katanya. Ini berarti memantau perkembangan terkini dalam pembuatan gambar dan menggunakan contoh-contoh baru untuk meningkatkan teknologi deteksi McAfee.
Ini adalah perlombaan senjata antara perusahaan seperti miliknya dan perusahaan yang membuat generator gambar bertenaga AI, kata Nikos Vickiarides, CEO perusahaan pencegahan penipuan Attestiv. “Mereka menjadi lebih baik. Anomalinya semakin kecil,” kata Vickiarides. Meskipun ada peningkatan dukungan di antara para pemain industri besar untuk memasukkan tanda air ke dalam materi yang dihasilkan oleh AI, pelaku kejahatan tidak akan mengikuti aturan tersebut, kata Vickiarides.
Dalam pandangannya, iklan politik yang bersifat deepfake dan materi palsu lainnya yang disiarkan ke khalayak luas tidak akan berdampak banyak karena “mereka dibantah dengan sangat cepat.” Apa yang berpotensi membahayakan, katanya, adalah deepfake yang dilakukan influencer kepada pengikutnya atau disebarkan dari satu orang ke orang lain.
Daniel Kang, asisten profesor ilmu komputer di Universitas Illinois Urbana-Champaign dan pakar deteksi deepfake, memperingatkan bahwa saat ini tidak ada alat pendeteksi AI yang cukup baik untuk menangkap penyerang yang bermotivasi tinggi dan memiliki sumber daya yang baik, seperti pejabat negara. . Disponsori oleh pencipta deepfake. Karena ada begitu banyak cara untuk memanipulasi gambar, seorang penyerang “dapat mengatur lebih banyak tombol daripada jumlah bintang di alam semesta untuk mencoba melewati mekanisme deteksi,” katanya.
Namun banyak deepfake yang tidak berasal dari penyerang yang sangat canggih, itulah sebabnya Kang mengatakan dia optimis dengan teknik saat ini untuk mendeteksi media yang dihasilkan AI meskipun mereka tidak dapat mengidentifikasi semuanya. Menambahkan alat yang didukung AI ke situs kini memungkinkan alat tersebut belajar dan berkembang seiring waktu, seperti halnya filter spam, kata Kang.
Dia mengatakan hal-hal tersebut bukanlah obat mujarab. Hal ini harus dikombinasikan dengan perlindungan lain terhadap konten yang dimanipulasi. Namun, Kang berkata, “Saya pikir ada teknologi bagus yang bisa kita gunakan, dan teknologi itu akan menjadi lebih baik seiring berjalannya waktu.”
Vickiarides mengatakan masyarakat telah bersiap menghadapi gelombang deepfake dengan menerima meluasnya penggunaan alat manipulasi gambar, seperti editor foto yang benar-benar menghilangkan noda pada foto sampul majalah. “Tidaklah keren untuk beralih dari latar belakang palsu pada panggilan Zoom ke foto palsu orang yang Anda temui secara online,” tambahnya.
“Kami membiarkan kucing keluar dari tas, dan sulit untuk memasukkannya kembali,” kata Vickiarides.
