Google Foto dikatakan menambahkan fungsi baru yang memungkinkan pengguna memeriksa apakah sebuah foto dibuat atau disempurnakan menggunakan kecerdasan buatan (AI). Menurut laporan tersebut, layanan berbagi dan penyimpanan foto dan video mendapatkan tag sumber daya ID baru yang akan mengungkapkan informasi AI gambar serta jenis sumber digital. Raksasa teknologi yang berbasis di Mountain View kemungkinan sedang mengerjakan fitur ini untuk mengurangi kejadian deepfake. Namun, tidak jelas bagaimana informasi tersebut akan ditampilkan kepada pengguna.
Atribusi AI Gambar Google
Deepfakes telah muncul sebagai bentuk manipulasi digital baru dalam beberapa tahun terakhir. Ini adalah gambar, video, file audio, atau media serupa lainnya yang dibuat secara digital menggunakan kecerdasan buatan atau disempurnakan dengan berbagai cara untuk menyebarkan informasi yang salah atau menyesatkan orang. Misalnya, aktor Amitabh Bachchan baru-baru ini mengajukan gugatan terhadap pemilik perusahaan karena menjalankan iklan video palsu di mana aktor tersebut terlihat mempromosikan produk perusahaannya.
Menurut Otoritas Android sebuah laporanFungsi baru di aplikasi Google Foto akan memungkinkan pengguna melihat apakah foto di galeri mereka dibuat menggunakan sarana digital. Fitur ini terlihat di aplikasi Google Foto versi 7.3. Namun, ini bukan fitur aktif, yang berarti orang yang menggunakan aplikasi versi terbaru belum dapat melihatnya.
Dalam file tata letak, publikasi menemukan string kode XML baru yang menunjuk ke pengembangan ini. Ini adalah ID sumber daya, yang merupakan pengidentifikasi yang ditetapkan ke item atau sumber daya tertentu dalam aplikasi. Salah satunya dilaporkan berisi frasa “ai_info,” yang diyakini merujuk pada informasi yang ditambahkan ke metadata gambar. Bagian ini harus diberi nama jika gambar dihasilkan oleh alat AI yang mematuhi protokol transparansi.
Jika tidak, tag “digital_source_type” dianggap menunjukkan nama alat atau model AI yang digunakan untuk membuat atau menyempurnakan gambar. Ini dapat mencakup nama-nama seperti Gemini, Midjourney, dan lainnya.
Namun, saat ini belum ada kepastian bagaimana Google ingin menampilkan informasi tersebut. Idealnya, mereka dapat ditambahkan ke data Exchangeable Image File Format (EXIF) yang tertanam di dalam gambar sehingga lebih sedikit cara untuk memanipulasinya. Namun kelemahannya adalah pengguna tidak akan dapat melihat informasi ini dengan mudah kecuali mereka membuka halaman metadata. Alternatifnya, aplikasi dapat menambahkan lencana ke gambar untuk menunjukkan gambar AI, serupa dengan yang dilakukan Meta di Instagram.
