AI Overview di Google Search sedang jadi sorotan setelah dilaporkan salah membaca sejumlah pencarian kamus sebagai perintah untuk chatbot. Saat pengguna hanya ingin melihat arti sebuah kata, sistem justru merespons seolah sedang diminta menjalankan instruksi.
Gangguan ini menarik perhatian karena pencarian definisi adalah salah satu fungsi paling dasar di Google Search. Ketika kueri sederhana saja bisa disalahpahami, hal itu menunjukkan integrasi AI di hasil pencarian masih rentan keliru menangkap konteks yang sangat mendasar.
Google sudah mengakui adanya masalah tersebut. Seorang juru bicara Google mengatakan perusahaan mengetahui AI Overviews salah menafsirkan beberapa kueri yang berkaitan dengan aksi, dan perbaikannya sedang dikerjakan untuk segera diluncurkan.
Kasus yang paling banyak disorot melibatkan kata “disregard”. Saat kata itu diketik di Search, AI Overview tidak menampilkan definisi, melainkan respons seperti, “Understood! I’ll ignore the previous prompt and start fresh.”
Respons itu memperlihatkan pola khas chatbot yang menerima instruksi baru. Dengan kata lain, sistem tampak gagal membedakan apakah pengguna sedang mencari arti kata atau sedang memberi perintah langsung kepada AI.
Kata-kata tertentu memicu kekeliruan
Masalah ini rupanya tidak terbatas pada satu kata saja. Seorang pengguna di X lebih dulu menyoroti perilaku aneh pada kata “disregard”, lalu pengujian lanjutan menemukan sejumlah kata lain yang memicu hasil serupa.
Beberapa kata yang disebut ikut bermasalah antara lain “remember”, “start”, “finished”, “ignore”, dan “forget”. Pada kata-kata itu, AI Overview terlihat lebih cenderung membaca kueri sebagai instruksi tindakan daripada sebagai entri kamus.
Gangguan tersebut juga tidak selalu hilang meski pengguna menambahkan kata “definition” dalam pencarian. Ini menunjukkan bahwa pada beberapa kasus, sinyal niat pengguna masih kalah kuat dibanding tafsir sistem terhadap kata kerja yang dianggap sebagai perintah.
Namun, masalah ini tidak terjadi pada semua kata. AI Overview masih disebut mampu menampilkan definisi secara normal untuk banyak istilah lain di Search.
Mengapa kasus ini penting
Sebelum integrasi AI makin dominan, Google Search lama dikenal memiliki kotak definisi bawaan di bagian atas hasil pencarian. Saat pengguna mengetik sebuah kata, Google biasanya langsung menampilkan arti kata tersebut tanpa perlu membuka situs lain.
Kini, peran itu banyak diambil alih oleh AI Overviews. Dalam banyak kasus, sistem ini tetap berjalan sebagaimana mestinya, tetapi insiden pada kata-kata tertentu memperlihatkan bahwa model AI bisa kesulitan saat berhadapan dengan istilah yang juga umum dipakai sebagai instruksi.
Masalah seperti ini menyoroti tantangan mendasar pada mesin berbasis model bahasa. Kata yang sama bisa punya dua fungsi sekaligus, yaitu sebagai objek yang dicari maknanya dan sebagai perintah operasional, sehingga konteks menjadi penentu utama.
Dalam skenario pencarian kamus, konteks seharusnya relatif jelas karena pengguna sedang berada di Search. Namun, contoh yang muncul menunjukkan AI Overview masih dapat salah mengunci interpretasi sejak awal.
Dampak ke pengalaman pengguna
Bagi pengguna biasa, error seperti ini mungkin terlihat lucu pada percobaan pertama. Tetapi dalam praktiknya, hasil yang salah bisa mengganggu fungsi pencarian cepat yang selama ini menjadi kekuatan utama Google.
Pencarian definisi sering dipakai untuk kebutuhan sekolah, pekerjaan, penerjemahan, hingga sekadar memahami istilah yang baru ditemui. Jika hasil teratas berubah menjadi respons ala asisten percakapan, pengguna harus melakukan langkah tambahan untuk mendapatkan jawaban yang sebenarnya sederhana.
Masalah ini juga muncul di area yang seharusnya berisiko rendah. Tidak seperti pertanyaan kompleks atau topik yang membutuhkan penalaran panjang, definisi kata adalah jenis kueri yang umumnya singkat, langsung, dan mudah diverifikasi.
Karena itu, kekeliruan tersebut bisa memunculkan pertanyaan lebih luas soal konsistensi AI di hasil pencarian. Jika kueri satu kata saja masih bisa dibaca sebagai instruksi, pengguna berpotensi menjadi lebih berhati-hati terhadap jawaban otomatis yang muncul di posisi paling atas.
Google belum memaparkan detail teknis penyebab bug ini. Namun pernyataan resminya menegaskan bahwa perusahaan sudah mengetahui salah tafsir pada kueri terkait aksi dan sedang menyiapkan perbaikan.
Sampai pembaruan dirilis, pengguna yang mencari arti kata-kata tertentu mungkin masih menjumpai respons yang tidak sesuai. Untuk saat ini, masalah tersebut tampak terbatas pada beberapa istilah tertentu, sementara sebagian besar pencarian definisi lain tetap berjalan normal.
