Instagram akan menguji fitur-fitur yang mengacak pesan berisi ketelanjangan untuk melindungi remaja dan mencegah calon predator menjangkau mereka, kata perusahaan induknya Meta pada hari Kamis, sebagai bagian dari upayanya untuk menghilangkan kekhawatiran tentang konten berbahaya di aplikasinya.
Raksasa teknologi ini mendapat tekanan yang semakin besar di Amerika Serikat dan Eropa atas tuduhan bahwa aplikasi mereka bersifat adiktif dan meningkatkan masalah kesehatan mental di kalangan generasi muda.
Meta mengatakan, fitur keamanan pesan langsung Instagram akan menggunakan pembelajaran mesin pada perangkat untuk menganalisis apakah foto yang dikirim melalui layanan tersebut mengandung ketelanjangan.
Fitur ini akan diaktifkan secara default untuk pengguna di bawah 18 tahun dan Meta akan memberi tahu orang dewasa untuk mendorong mereka mengaktifkannya.
“Karena gambar dianalisis di perangkat itu sendiri, perlindungan ketelanjangan juga akan berfungsi dalam obrolan terenkripsi ujung ke ujung, di mana Meta tidak akan memiliki akses ke gambar tersebut – kecuali seseorang memilih untuk melaporkannya kepada kami,” kata perusahaan itu.
Berbeda dengan aplikasi Meta Messenger dan WhatsApp, pesan langsung di Instagram tidak dienkripsi, namun perusahaan mengatakan pihaknya berencana untuk meluncurkan enkripsi ke layanan tersebut.
Meta juga mengatakan bahwa mereka sedang mengembangkan teknologi untuk membantu mengidentifikasi akun yang mungkin terlibat dalam penipuan pemerasan seks dan sedang menguji pesan pop-up baru untuk pengguna yang mungkin telah berinteraksi dengan akun tersebut.
Pada bulan Januari, raksasa media sosial ini mengatakan akan menyembunyikan lebih banyak konten dari remaja di Facebook dan Instagram, dan menambahkan bahwa hal ini akan mempersulit mereka untuk menemukan konten sensitif seperti bunuh diri, menyakiti diri sendiri, dan gangguan makan.
Jaksa agung di 33 negara bagian AS, termasuk California dan New York, menggugat perusahaan tersebut pada bulan Oktober, dengan mengatakan bahwa perusahaan tersebut berulang kali menyesatkan masyarakat tentang risiko platformnya.
Di Eropa, Komisi Eropa telah meminta informasi tentang bagaimana Meta melindungi anak-anak dari konten ilegal dan berbahaya.
© Thomson Reuters 2024
