AI generatif menghidupkan kembali warisan mengerikan dari kaum fanatik, termasuk mantan diktator Jerman Adolf Hitler, ketika pengguna TikTok memanfaatkan alat AI aplikasi untuk menghidupkan kembali retorika xenofobia dari para pemimpin yang telah lama meninggal.
Fenomena ini baru-baru ini didokumentasikan dalam dua laporan berbeda, salah satunya oleh kelompok pengawas nirlaba Media penting bagi Amerika Dan satu lagi dalam penyelidikan yang dilakukannya Institut Dialog Strategis dan SITE Intelligence Group, yang menerbitkannya Washington Post. Keduanya mengungkapkan jaringan kecil akun yang membuat dan menerbitkan versi pidato Hitler yang diterjemahkan dan disulihsuarakan oleh AI.
Mengapa remaja menceritakan rahasia mereka kepada orang asing secara online?
Menurut penelitian Media Matters, rekaman audio yang dihasilkan AI telah ditonton jutaan kali, termasuk video yang mengejek pemimpin negara tersebut atau video yang mengubah audio tersebut menjadi meme. Akun lain tampaknya berdedikasi untuk membuat dan membagikan rekaman audio ini dengan pesan yang sungguh-sungguh, terkadang terang-terangan anti-Semit. Video populer yang menggunakan audio tersebut, yang sering kali dikoreografikan dengan suara pelan dan “ragu-ragu”, berasal dari April 2024, dan banyak di antaranya salah diterjemahkan. Setelah laporan tersebut dipublikasikan, TikTok menghapus akun pengunggah yang dikenal dan mulai mengarahkan pencarian terkait ke akun tersebut “Fakta tentang Holocaust” Halaman yang mendokumentasikan pembantaian jutaan warga sipil Yahudi, orang cacat, tahanan politik, anggota komunitas LGBTQ+, dan orang-orang keturunan Romani oleh Hitler.
itu Washington Post Dilaporkan bahwa kelompok-kelompok fasis terkenal memuji penggunaan kecerdasan buatan untuk menyebarkan propaganda ekstremis, dan mencatat pertumbuhan jumlah pemuda “yang dibatasi” yang terlibat dalam ujaran kebencian dan komunitas sayap kanan secara online. Para ahli mengatakan kepada publikasi tersebut bahwa mereka khawatir bahwa alat moderasi platform, termasuk yang ada di situs Meta dan X, tidak akan mampu mengimbangi penyebaran yang dibantu oleh AI.
Cerita Teratas yang Dapat Dihancurkan
Kedua laporan mencatat sejumlah besar sentimen positif di bagian komentar video, dengan beberapa pengguna secara eksplisit memuji tokoh sejarah dan kebijakannya, dan mencatat bahwa banyak dari video ini tidak menonjolkan peluit supremasi kulit putih yang jelas, sehingga meningkatkan ketakutan bahwa pengguna akan melakukan hal yang sama. sengaja melakukannya tanpa sepengetahuan mereka. Radikalisasi berdasarkan konten.
Upaya serupa untuk menulis ulang warisan tokoh sejarah juga terjadi di TikTok selama setahun terakhir, didorong oleh kecerdasan buatan. Pada bulan Juni, A Bocor secara tidak sengaja Peluncuran internal alat avatar digital baru yang didukung AI pada aplikasi tersebut – yang memungkinkan penggunanya membuat iklan menggunakan foto pembuat konten – menyebabkan beredarnya beberapa video buatan AI yang menampilkan avatar-avatar yang mengucapkan berbagai retorika supremasi kulit putih, termasuk Kutipan dari Pertarunganku Dan “Pesan Osama bin Laden untuk Amerika.” Pada tahun 2023 video TikTok Baca pernyataan yang sama seperti bin Ladendan terkadang dikaitkan dengan perasaan supremasi kulit putih, Hal ini memicu kepanikan di seluruh aplikasidi mana pengguna membingkai ulang pidato tersebut sebagai tesis anti-imperialis mengingat blokade Israel terhadap warga Palestina di Gaza dan dukungan AS terhadap negara tersebut.
Secara keseluruhan, kelompok pemantau telah mendokumentasikan contoh berulangnya aktor dalam dan luar negeri yang menyebarkan disinformasi pada aplikasi melalui penggunaan alat AI generatif, termasuk pemalsuan digital buatan (atau “deepfake”) terhadap para pemimpin politik. Akun supremasi kulit putih dan pro-Nazi juga menjamur di platform ini, bekerja sama dengan jaringan di situs-situs seperti Telegram untuk meningkatkan konten mereka dalam algoritma media sosial.
Menurut A laporan bulan Juli Dari Institute for Strategic Dialogue, TikTok menampung “ratusan” akun pro-Nazi, yang secara kumulatif mengumpulkan jutaan penayangan. Organisasi tersebut mengatakan perusahaannya tidak bergerak cukup cepat untuk menghentikan penyebarannya.
