Meta mengatakan pada hari Rabu bahwa mereka telah menemukan konten yang “kemungkinan dibuat oleh AI” digunakan secara menipu di Facebook dan Instagram, termasuk komentar yang memuji penanganan Israel terhadap perang di Gaza yang diposting di bawah postingan dari organisasi berita global dan anggota parlemen AS.
Perusahaan media sosial tersebut mengatakan dalam laporan keamanan triwulanan bahwa akun tersebut mewakili pelajar Yahudi, warga Amerika keturunan Afrika, dan warga negara lain yang peduli, dan menargetkan audiens di Amerika Serikat dan Kanada. Kampanye ini dikaitkan dengan perusahaan pemasaran politik STOIC yang berbasis di Tel Aviv.
STOIC tidak segera menanggapi permintaan komentar atas tuduhan tersebut.
Mengapa ini penting
Meskipun Meta telah menemukan foto profil dasar yang dihasilkan AI dalam operasi pengaruh sejak tahun 2019, laporan tersebut adalah yang pertama mengungkapkan penggunaan teknologi AI generatif berbasis teks sejak muncul pada akhir tahun 2022.
Para peneliti khawatir bahwa AI generatif, yang dapat menghasilkan teks, gambar, dan audio mirip manusia dengan cepat dan murah, dapat menghasilkan kampanye disinformasi yang lebih efektif dan mempengaruhi pemilu.
Dalam panggilan pers, para eksekutif Meta Security mengatakan mereka menghentikan kampanye Israel lebih awal dan tidak percaya teknik AI baru menghalangi kemampuan mereka untuk mengganggu jaringan pengaruh, yang merupakan upaya terkoordinasi untuk menyampaikan pesan.
Para eksekutif mengatakan mereka belum pernah melihat jaringan seperti itu memposting foto-foto politisi yang dihasilkan AI dengan cukup realistis sehingga bisa disalahartikan sebagai foto asli.
Kutipan utama
“Ada banyak contoh di jaringan ini tentang bagaimana mereka menggunakan alat AI yang berpotensi generatif untuk membuat konten. Dan mungkin hal itu memberi mereka kemampuan untuk melakukannya lebih cepat atau melakukannya dengan volume yang lebih besar. Namun hal itu tidak terlalu memengaruhi kemampuan kita. untuk mendeteksinya,” kata Mike Devlyanski, Kepala Investigasi Ancaman.
Dalam angka
Laporan tersebut menyoroti enam operasi pengaruh terselubung yang diganggu Meta pada kuartal pertama.
Selain jaringan STOIC, Meta menutup jaringan berbasis di Iran yang berfokus pada konflik antara Israel dan Hamas, meskipun tidak mengidentifikasi penggunaan AI generatif dalam kampanye tersebut.
Konteks
Meta dan raksasa teknologi lainnya telah bergulat dengan cara mengatasi potensi penyalahgunaan teknologi AI baru, terutama dalam pemilu.
Para peneliti telah menemukan contoh pembuat gambar dari perusahaan termasuk OpenAI dan Microsoft yang menghasilkan gambar berisi misinformasi terkait pemungutan suara, meskipun perusahaan tersebut memiliki kebijakan yang melarang konten tersebut.
Perusahaan telah berfokus pada sistem penandaan digital untuk menandai konten yang dihasilkan AI pada saat konten tersebut dibuat, meskipun alat tersebut tidak berfungsi pada teks dan para peneliti meragukan efektivitasnya.
Lalu bagaimana
Meta menghadapi ujian besar terhadap pertahanannya dengan pemilu di Uni Eropa pada awal Juni dan di Amerika Serikat pada bulan November.
© Thomson Reuters 2024
