Komisi Eropa telah mengirimkan permintaan informasi mengenai desain dan pengoperasian sistem pemberi rekomendasi ke YouTube, Snapchat, dan TikTok. Sistem pemberi rekomendasi adalah algoritme pembelajaran mesin yang menggunakan data untuk menyarankan item yang mungkin diminati pengguna.
Namun, berdasarkan Undang-Undang Layanan Digital (DSA), yang merupakan peraturan moderasi konten penting Uni Eropa, Komisi menyatakan bahwa masalah ini merupakan inti dari risiko sistemik yang ditimbulkan oleh platform terhadap pengguna.
Dalam pernyataan yang dikeluarkan Rabu (2 September), Komisi Eropa menyatakan Dia berkata: “Berdasarkan DSA, platform harus menilai dan memitigasi dengan tepat risiko yang timbul dari sistem rekomendasi mereka, termasuk risiko terhadap kesehatan mental pengguna dan penyebaran konten berbahaya yang timbul dari desain algoritma ini yang didorong oleh keterlibatan.”
Kami telah meminta informasi dari YouTube, Snapchat, dan TikTok tentang desain sistem rekomendasi mereka berdasarkan Digital Services Act.
YouTube dan Snapchat harus memberikan detail tentang parameter algoritme mereka dan memperbesar risikonya.
TikTok harus menjelaskan langkah-langkah anti-manipulasi dan… pic.twitter.com/usQkKHfPH4
— Komisi Eropa (@EU_Commission) 2 Oktober 2024
Permintaan tersebut juga berkaitan dengan langkah-langkah platform untuk memitigasi potensi dampak sistem rekomendasi mereka terhadap penyebaran konten ilegal, seperti promosi obat-obatan terlarang dan ujaran kebencian.
Komisi menyatakan bahwa mereka telah meminta TikTok untuk memberikan informasi lebih lanjut tentang langkah-langkah yang telah diterapkan perusahaan untuk mencegah pelaku kejahatan memanipulasi platform dan untuk memitigasi risiko terkait pemilu dan wacana sipil.
YouTube dan Snapchat perlu menjawab pertanyaan tentang parameter algoritma rekomendasi mereka dan potensi peran mereka dalam memperbesar risiko sistemik, termasuk yang terkait dengan perlindungan anak di bawah umur.
Ketiga perusahaan media sosial tersebut diberi waktu hingga 15 November untuk menyampaikan data. UE mengatakan tanggapan mereka akan menginformasikan langkah selanjutnya, termasuk kemungkinan penyelidikan formal dan kemungkinan denda.
Uni Eropa membuka proses formal terhadap Meta atas sistem rekomendasinya
UE sebelumnya memulai proses ketidakpatuhan berdasarkan DSA, yang memaksa perusahaan teknologi untuk mengambil tindakan lebih tegas terhadap konten ilegal dan berbahaya di platform mereka. Tindakan tersebut terkait dengan rekomendasi dari Meta Facebook, Instagram, Aliexpress dan TikTok.
Komisi tidak membahas perusahaan induk Meta, Facebook dan Instagram, karena pertanyaan yang sama telah diajukan dalam proses resmi yang dibuka terhadap perusahaan tersebut pada bulan Mei.
ReadWrite melaporkan bahwa lembaga tersebut khawatir bahwa sistem Facebook dan Instagram, termasuk algoritme mereka, dapat mendorong kecanduan perilaku pada anak-anak, serta menciptakan apa yang disebut “efek lubang kelinci.”
Gambar unggulan: Di tengah penerbangan
Postingan UE mempertanyakan YouTube, Snapchat, dan TikTok tentang sistem rekomendasi AI mereka muncul pertama kali di ReadWrite.
