Google DeepMind membuka teknologi baru untuk menandai teks yang dihasilkan oleh kecerdasan buatan pada hari Rabu. Dijuluki SynthID, alat watermarking adalah alat kecerdasan buatan (AI) yang dapat digunakan dalam berbagai metode termasuk teks, gambar, video, dan audio. Namun, saat ini hanya menawarkan alat tanda air teks untuk bisnis dan pengembang. Perusahaan bertujuan agar alat ini dapat diadopsi secara lebih luas sehingga konten yang dihasilkan AI dapat dengan mudah ditemukan. Individu dan bisnis dapat mengakses alat ini melalui Responsible AI Toolkit yang diperbarui dari raksasa teknologi yang berbasis di Mountain View.
Google DeepMind adalah teknologi watermarking teks AI sumber terbuka
Di sebuah surat Pada Selain toolkit GenAI yang Bertanggung Jawab, toolkit ini juga dapat diunduh dari daftar Hugging Face di Google.
Teks yang dihasilkan AI sudah mulai memenuhi Internet. Penerapan Lab AI Amazon Web Services A Dia belajar Awal tahun ini, mereka mengklaim bahwa hingga 57,1 persen dari semua kalimat online yang diterjemahkan ke dalam dua bahasa atau lebih mungkin dihasilkan menggunakan alat AI.
Meskipun chatbot AI yang mengisi internet dengan omong kosong yang dihasilkan AI mungkin tampak seperti spam yang tidak berbahaya, ada sisi gelapnya. Di tangan pelaku kejahatan, alat AI dapat digunakan untuk menghasilkan disinformasi atau konten menyesatkan dalam skala besar. Dengan banyaknya wacana sosial yang terjadi secara online, tindakan-tindakan tersebut dapat mempengaruhi peristiwa-peristiwa nyata seperti pemilu dan dapat digunakan untuk menciptakan propaganda terhadap tokoh masyarakat.
Dari semua metode, mengukur teks yang dihasilkan AI terbukti menjadi tugas tersulit hingga saat ini. Hal ini sebagian besar disebabkan karena tidak mungkinnya memberi watermark pada kata-kata, dan meskipun demikian, pelaku kejahatan selalu dapat mengolah ulang konten tersebut dengan siklus keluaran kedua.
Namun, SynthID Google DeepMind menggunakan metode baru untuk memberi tanda air pada teks yang dihasilkan AI. Alat ini menggunakan pembelajaran mesin untuk memprediksi kata mana yang dapat muncul setelah kata tertentu dalam sebuah kalimat. Misalnya saja kalimat “John merasa sangat lelah setelah bekerja seharian”. Di sini, hanya sejumlah kata tertentu yang dapat muncul setelah “sangat”.
Berdasarkan analisis pola pembuatan konten berbagai model AI, SynthID dapat memprediksi kata mana yang akan muncul setelah “sangat” dan menggantinya dengan sinonim lain yang ditemukan di databasenya. Alat tanda air akan menyematkan kata-kata tersebut di seluruh bagian konten. Nantinya, saat alat tersebut memverifikasi konten yang dihasilkan AI, alat tersebut akan mencari jumlah kata tersebut untuk menentukan keasliannya.
Khususnya untuk foto dan video, SynthID menambahkan tanda air langsung untuk membingkai piksel sehingga tetap tidak terlihat tetapi masih dapat dideteksi di alat tersebut. Untuk audio, gelombang suara terlebih dahulu diubah menjadi spektogram, dan tanda air ditambahkan ke data visual tersebut. Kemampuan ini saat ini tidak tersedia bagi siapa pun di luar Google.
