Google pada hari Selasa mengumumkan cara baru bagi pengguna untuk mengetahui apakah suatu gambar dibuat menggunakan kecerdasan buatan generatif (AI). Meskipun raksasa teknologi ini telah mengembangkan alat internal untuk memberi watermark pada konten yang dihasilkan AI, mereka juga bergabung dengan Content Provenance and Authenticity Alliance (C2PA) sebagai anggota komite pengarah pada bulan Februari. Setelah bekerja sama dengan pelaku industri lainnya untuk mengembangkan standar teknis baru, perusahaan kini berupaya mengintegrasikannya ke dalam gambar yang dapat diakses di seluruh alatnya.
Google membantu pengguna mengenali gambar yang dihasilkan oleh kecerdasan buatan
Bahaya seputar gambar yang dihasilkan AI adalah banyak gambar yang dibuat dan disempurnakan secara digital tidak dapat dibedakan dari gambar asli. Akibatnya, masalah deepfake, yaitu gambar realistis yang dihasilkan oleh kecerdasan buatan yang mewakili seseorang, tempat, atau peristiwa diklaim nyata, meningkat drastis hingga menyebarkan informasi yang salah.
Google melaporkan blog Pada paruh pertama tahun ini, Google bekerja sama dengan anggota aliansi lainnya untuk mengembangkan versi baru (2.1) standar teknis yang disebut Kredensial Konten. Dikatakan lebih aman terhadap berbagai jenis gangguan dan memiliki persyaratan teknis yang lebih ketat. Kriteria ini sekarang ditambahkan ke gambar yang dapat dicari menggunakan alat Google.
Raksasa teknologi itu mengatakan kredensial konten akan diintegrasikan ke dalam gambar yang muncul di Gambar Google, Lens, dan Circle to Search. Artinya, saat pengguna membuka bagian Tentang Gambar Ini pada suatu gambar, mereka dapat memeriksa metadata C2PA untuk mengonfirmasi apakah gambar tersebut dibuat atau diedit menggunakan alat AI.
Selain itu, Google mengatakan pihaknya bermaksud untuk mengintegrasikan metadata C2PA menggunakan sistem periklanannya sendiri. Data ini akan memandu kebijakan utama perusahaan dan strategi penerapannya di masa depan. Selain itu, perusahaan juga mencari cara untuk menyampaikan informasi C2PA kepada pemirsa YouTube untuk membantu mereka mengetahui apakah suatu video diambil dengan kamera atau dibuat secara digital.
Perlu dicatat bahwa raksasa teknologi ini sedang berupaya mengembangkan tanda air internal teknologi Untuk konten kecerdasan buatan disebut SynthID. Sistem ini dibuat oleh Google DeepMind dan menyematkan informasi di dalam piksel suatu gambar sedemikian rupa sehingga tidak terlihat oleh mata tetapi menjadi terlihat saat diperiksa menggunakan alat khusus.
