Google memposting penjelasan tentang bencana yang disebabkan oleh alat pencarian yang didukung kecerdasan buatan (AI) – Ikhtisar AI – yang membuatnya menghasilkan respons yang tidak akurat terhadap beberapa pertanyaan, pada hari Kamis (30 Mei). Fitur pencarian AI diperkenalkan di Google I/O 2024 pada 14 Mei, tetapi dilaporkan segera mendapat sorotan karena memberikan respons aneh terhadap permintaan pencarian. Dalam penjelasan panjang lebar, Google membeberkan kemungkinan penyebab di balik masalah tersebut dan langkah yang diambil untuk mengatasinya.
tanggapan Google
Dalam sebuah blog surat, Google memulai dengan menjelaskan cara kerja fitur Ikhtisar AI secara berbeda dari chatbot dan model bahasa besar (LLM) lainnya. Menurut perusahaan, Ikhtisar AI tidak menghasilkan “output berdasarkan data pelatihan”. Sebaliknya, dikatakan terintegrasi ke dalam “sistem klasifikasi web yang mendasarinya” dan dimaksudkan untuk melakukan tugas “pencarian” tradisional dari pengindeksan. Google juga mengklaim bahwa alat pencarian AI-nya “secara umum tidak menimbulkan halusinasi.”
“Karena akurasi adalah hal terpenting dalam pencarian, fitur Ikhtisar AI dirancang untuk hanya menampilkan informasi yang didukung oleh hasil web paling penting,” kata perusahaan itu.
Lalu apa yang terjadi? Menurut Google, salah satu penyebabnya adalah ketidakmampuan fitur AI Overviews dalam menyaring konten sarkastik dan tidak logis. Menunjuk pada permintaan pencarian “berapa banyak batu yang harus saya makan” yang memberikan hasil yang menunjukkan seseorang mengonsumsi satu batu per hari, Google mengatakan bahwa sebelum pencarian “hampir tidak ada yang menanyakan pertanyaan ini.”
Hal ini, menurut perusahaan, telah menciptakan “kekosongan data” di mana konten berkualitas tinggi menjadi terbatas. Dengan pertanyaan khusus ini, konten satir juga diposting. “Jadi ketika seseorang menanyakan pertanyaan ini dalam penelusuran, gambaran umum tentang AI muncul terkait erat dengan satu-satunya situs web yang menjawab pertanyaan tersebut,” jelas Google.
Perusahaan juga mengakui bahwa Ikhtisar AI mengambil referensi dari forum, yang meskipun merupakan “sumber informasi yang nyata dan lugas”, dapat menghasilkan “nasihat yang kurang berguna”, seperti penggunaan lem pada pizza untuk membuat keju. Itu menempel. Dalam kasus lain, fitur pencarian juga salah menafsirkan bahasa di halaman web, sehingga menghasilkan respons yang tidak akurat.
Google mengatakan pihaknya “bekerja cepat untuk mengatasi masalah ini, baik melalui perbaikan algoritma kami atau melalui proses yang ada untuk menghapus tanggapan yang tidak sesuai dengan kebijakan kami.”
Langkah-langkah yang diambil untuk meningkatkan gambaran AI
Google telah mengambil langkah-langkah berikut untuk meningkatkan respons terhadap pertanyaan yang dihasilkan oleh fitur Ikhtisar AI:
- Mereka telah membangun mekanisme yang lebih baik untuk mendeteksi pertanyaan yang tidak rasional, dan membatasi penyertaan konten yang sarkastik dan tidak rasional.
- Perusahaan mengatakan mereka juga telah memperbarui sistem untuk membatasi penggunaan konten buatan pengguna dalam tanggapan yang mungkin memberikan saran yang menyesatkan.
- Ikhtisar topik berita penting berbasis AI tidak akan ditampilkan ketika “kesegaran dan realisme” adalah yang terpenting.
Google juga mengklaim bahwa mereka memantau komentar eksternal dan laporan sejumlah kecil tanggapan Ikhtisar AI yang melanggar kontennya. Namun, dikatakan bahwa kemungkinan hal ini terjadi “kurang dari satu dari 7 juta pertanyaan unik”.
