Bagaimana gambar AI palsu dari Badai Milton dapat berdampak pada kehidupan nyata

Foto dan video yang dihasilkan AI tentang Badai Milton mungkin bukan sekadar umpan yang mengganggu. Mereka juga dapat dikaitkan dengan penipuan dan kampanye disinformasi.

Setelah badai Kategori 3 yang menghancurkan sebagian Florida, platform media sosial seperti X, TikTok, dan Facebook dibanjiri konten buatan AI. Beberapa gambar dan video yang dihasilkan AI lebih mudah dikenali dibandingkan gambar dan video lainnya, seperti gambar yang diputar untuk dijadikan bahan tertawaan gambar Tentang seorang gadis yang memeluk buaya di atas perahu di tengah hujan lebat.

Tweet tersebut mungkin telah dihapus

Yang lain lebih meyakinkan, seperti gambar Disney World yang terendam yang dihasilkan AI yang awalnya menipu banyak orang — bahkan menghasilkan uang pelanggan Melalui salah satu sarana propaganda Rusia.

Tweet tersebut mungkin telah dihapus

Dampaknya mungkin saja berupa penyebaran informasi yang salah, dan hal ini sudah cukup buruk, namun sampah online yang dihasilkan oleh AI juga digunakan untuk memikat orang agar melakukan penipuan.

Air kotor akibat Badai Milton AI ada di mana-mana

Saat ini, banyak yang telah melihat foto palsu jalur bawah air Disney World. Tapi geser ke TikTok Dia muncul Rekaman yang dibuat oleh AI tentang Badai Milton yang mendatangkan malapetaka.

Beberapa video diberi label sebagai video buatan AI dengan hashtag atau teks, namun mudah untuk membayangkan bagaimana video tersebut dapat dibagikan dan dieksploitasi oleh orang lain. Karen Panetta, seorang Rekan Institute of Electrical and Electronics Engineers (IEEE) dan profesor teknik elektro dan komputer di Universitas Tufts, menjelaskan bagaimana konten yang dihasilkan AI dapat dijadikan senjata untuk menciptakan kepanikan dan kebingungan. “Kurang dari 30% masyarakat dewasa memahami apa yang bisa dilakukan AI,” kata Panetta. “Jadi Anda bisa menyebarkan informasi yang salah kepada masyarakat umum dengan judul yang menakutkan, dan Anda akan menakuti banyak orang.”

Jelasnya, kerusakan sebenarnya yang disebabkan oleh Badai Milton sangatlah nyata. Namun ketika konten yang dihasilkan AI mulai digunakan, hal itu membuat pengguna mempertanyakan kenyataan. Hal ini, pada gilirannya, dapat menciptakan ketidakpercayaan dan lahan subur bagi teori konspirasi badai. Contohnya, satu X pengguna Dia mengklaim bahwa rekaman yang diambil oleh astronot NASA Matthew Dominick adalah palsu, dan bahkan mengisyaratkan bahwa Dominick tidak berada di luar angkasa. Rekaman itu telah beredar sejak saat itu Terverifikasi Autentik.

Tweet tersebut mungkin telah dihapus

Namun yang menambah kebingungan adalah beberapa citra satelit yang mengaku berasal dari Badai Milton telah dibantah snopes Mereka salah ditulis atau dihasilkan oleh kecerdasan buatan.

Waspadalah terhadap penipuan yang menggunakan gambar yang dihasilkan oleh kecerdasan buatan

Selain misinformasi dan disinformasi setelah Badai Milton, para ahli menyarankan untuk berhati-hati terhadap penipuan. Komisi Perdagangan Federal Diterbitkan Siaran pers sehari sebelum pendaratan Milton memperingatkan konsumen untuk mewaspadai “mereka yang mencari keuntungan dari bencana alam dengan terlibat dalam potensi penipuan atau pencungkilan harga.”

Menurut Panetta, penipuan seperti badan amal palsu bisa membuat dirinya lebih meyakinkan dengan menggunakan AI generatif. “Dalam bencana apa pun, selalu ada sesuatu yang terjadi di suatu tempat [scammers] “Cobalah membuat halaman web penggalangan dana terlarang,” kata Panetta. “Apa yang terjadi sekarang adalah karena gambar yang dihasilkan AI sangat mudah diakses, gambar tersebut digunakan untuk menambah kredibilitas dan berkata, ‘Dengar, bukan hanya saya yang meminta uang.’ Lihat betapa buruknya hal ini.”

Foto viral yang dibuat oleh AI, memperlihatkan seorang gadis kecil menggendong anak anjing dan menangis setelah terjadinya Badai Helen adalah contoh sempurna tentang bagaimana sebuah gambar dapat menarik hati sanubari dan memicu keinginan untuk berdonasi, meskipun itu palsu. Meskipun pengguna internet yang cerdas mungkin menyadari bahwa itu palsu, Orang lain mungkin tidak tahu Orang-orang ini adalah sasaran empuk penipuan.

Beberapa gambar Badai Milton yang dihasilkan oleh AI mungkin tampak seperti contoh yang tidak berbahaya bagi beberapa anak yang ingin memamerkan keterampilan AI mereka. Namun hal ini tidak selalu terjadi. Rasa tidak bersalah yang palsu mungkin merupakan salah satu cara untuk membuat orang lengah. “Ini adalah strategi yang menyeluruh,” kata Panetta. “Bagaimana saya bisa memikat orang ke dalamnya? Setelah saya yakin saya sah, muncul pertanyaan.”

“Selalu ada uang pada akhirnya,” tambahnya.

Meskipun bencana alam seperti Badai Milton dapat membuat masyarakat menjadi sangat rentan, sangatlah penting untuk menerapkan pemikiran kritis dan berpikir dua kali sebelum menanggapi apa pun secara online. FTC mengatakan penipuan sering kali menuntut pembayaran melalui transfer kawat, kartu hadiah, aplikasi pembayaran, mata uang kripto, atau uang tunai, dan merekomendasikan untuk memeriksanya. sumber daya Tentang cara menghindari penipuan setelah keadaan darurat cuaca.