Meta sedang menguji alat dan fitur baru untuk melindungi generasi muda dari ketelanjangan dan penipuan seksual yang tidak diinginkan, termasuk Direct Message Nudity Protection, sebuah fitur yang secara otomatis mengaburkan gambar telanjang.
Bagian dari kampanye ini adalah karena Meta mengatakan mereka melihat tren pemerasan finansial, di mana seseorang mendapatkan foto telanjang dari orang lain dan mengatakan mereka akan mempostingnya secara online kecuali korban mengirimkan uang atau kartu hadiah.
“Ini adalah kejahatan yang sangat mengerikan yang dirancang untuk membuat orang merasa sendirian dan malu,” kata Antigone Davis, direktur keselamatan global Meta. Dia mengatakan kepada CNN. “Kejahatan ini telah terdokumentasi dengan baik, itulah salah satu alasan kami ingin bergerak maju dan memastikan masyarakat mengetahui apa yang kami lakukan sambil terus mengembangkan alat kami.”
Remaja yang membicarakan kesehatan mentalnya di aplikasi ini bisa saja mengambil risiko besar
Perlindungan dari ketelanjangan dalam pesan langsung akan menjadi standar bagi orang yang berusia di bawah 18 tahun dan akan dianjurkan untuk semua pengguna. Ketika pengguna dengan perlindungan diaktifkan mencoba mengirim foto yang berisi ketelanjangan, mereka akan diingatkan bahwa mereka harus berhati-hati dan dapat membatalkan pengirimannya kapan saja. Jika pengguna mencoba meneruskan foto telanjang, mereka akan didorong untuk mempertimbangkan kembali dan bersikap “bertanggung jawab dan hormat.” Terakhir, ketika pengguna menerima foto yang berisi ketelanjangan, foto tersebut akan otomatis diburamkan, dan mereka akan diimbau untuk tidak merasa tertekan untuk membalasnya. Masyarakat juga akan diarahkan pada tips keselamatan saat mengirim atau menerima foto telanjang.
“Fitur ini dirancang tidak hanya untuk melindungi orang-orang agar tidak melihat ketelanjangan yang tidak diinginkan dalam pesan langsung mereka, namun juga untuk melindungi mereka dari penipu yang mungkin mengirim foto telanjang untuk mengelabui orang agar mengirimkan foto mereka sendiri sebagai balasannya.” Kata Meta dalam postingan blognya.
Meta dapat mengetahui apakah suatu gambar berisi ketelanjangan karena pembelajaran mesin pada perangkat, yang mencakup perlindungan enkripsi ujung ke ujung. Jadi, kecuali seseorang memilih untuk melaporkan foto melalui pesan langsung, Meta mengatakan mereka tidak akan dapat mengaksesnya.
Meta juga berupaya menghentikan pemerasan seks di aplikasinya dengan mengembangkan teknologi untuk mengidentifikasi akun-akun yang terlibat dalam pemerasan seks sebagai langkah pencegahan. Jika akun tersebut ditandai sebagai akun yang berpotensi melakukan pemerasan seks, pesan yang dikirim dari akun tersebut akan langsung masuk ke folder Permintaan Tersembunyi penerima. Tidak akan ada tombol “Pesan” di profil remaja jika akun tersebut ditandai sebagai akun yang berpotensi melakukan pemerasan seks, meskipun akun tersebut sudah terhubung dengan remaja tersebut. Selain itu, jika seseorang berinteraksi dengan akun yang telah dihapus karena pemerasan seks, mereka akan melihat pesan pop-up yang mengarahkan mereka ke sumber daya lainnya. Terakhir, ketika remaja melaporkan masalah terkait, mereka akan diarahkan ke saluran bantuan keselamatan anak setempat.
“Kolaborasi industri ini sangat penting karena penipu tidak terbatas pada satu platform saja – hal yang sama juga berlaku bagi penipu pemerasan seks,” kata Meta. “Penjahat ini menargetkan korban di berbagai aplikasi yang mereka gunakan, sering kali mengalihkan percakapan mereka dari satu aplikasi ke aplikasi lainnya. Itu sebabnya kami mulai membagikan lebih banyak sinyal pemerasan seks kepada Lantern, untuk membangun kolaborasi penting ini dan mencoba menghentikan penipuan pemerasan seks. Tidak hanya pada platform individual, tetapi di seluruh Internet.”
