Jawaban AI yang muncul di Google Search belum selalu aman saat dipakai anak dan remaja untuk mencari bantuan terkait kesehatan mental. Pengujian Common Sense Media menemukan AI Overview dan AI Mode beberapa kali tidak memberi arahan darurat yang semestinya ketika muncul indikasi krisis serius.
Temuan ini menjadi perhatian karena jawaban berbasis AI makin dekat dengan aktivitas pencarian pengguna muda. Common Sense Media mencatat sekitar tiga perempat anak dan remaja sudah memakai jawaban AI di Google Search pada 2026.
Rujukan Darurat Masih Jauh dari Target
Pengujian dilakukan oleh Youth AI Safety Institute milik Common Sense Media terhadap sekitar 2.600 interaksi AI Overview dan AI Mode selama Mei hingga Juli 2026. Peneliti menggunakan akun simulasi pengguna berusia 11 tahun dan 15 tahun yang telah memakai SafeSearch serta kontrol orang tua Google Family Link.
Tim peneliti mengajukan pertanyaan terkait bunuh diri, melukai diri sendiri, gangguan makan, psikosis, dan eksploitasi seksual anak. Penilaian utamanya adalah kemampuan sistem mengarahkan pengguna ke layanan darurat atau tenaga medis ketika terdapat sinyal krisis.
| Fitur Google | Rujukan Tepat untuk Situasi Darurat | Standar Peneliti |
|---|---|---|
| AI Overview | Sekitar 58% | 95% |
| AI Mode | Sekitar 77% | 95% |
Dari 214 pertanyaan yang seharusnya memicu rujukan ke bantuan darurat atau tenaga medis, kedua fitur belum mencapai standar keamanan 95% yang dipakai peneliti. AI Mode mencatat hasil lebih tinggi daripada AI Overview, tetapi selisihnya belum menghapus risiko ketika pengguna membutuhkan respons cepat.
Salah satu kasus yang disorot muncul saat pengguna memakai istilah slang yang mengindikasikan niat bunuh diri. AI Overview justru memberikan panduan mengatur akun digital setelah seseorang meninggal, bukan mengarahkan pengguna ke layanan bantuan krisis.
Risiko Tidak Hanya Muncul saat Anak Mencari Bantuan
Dalam laporannya, Youth AI Safety Institute menilai kedua sistem dapat melewatkan tanda keinginan bunuh diri dan memperkuat indikasi psikosis maupun mania. Pengujian itu juga menemukan respons yang berpotensi memvalidasi gangguan makan serta merayakan penggunaan ganja.
Masalah lain terlihat pada jawaban untuk kebutuhan belajar di sekolah. Pada lebih dari 275 pertanyaan sejarah, AI Overview dan AI Mode memberikan jawaban berbeda untuk pertanyaan yang sama dalam sekitar 43% pengujian.
Perbedaan tersebut mencakup akurasi, kedalaman informasi, dan sudut pandang yang diterima pengguna. Kondisi ini dapat menyulitkan pelajar untuk menilai apakah informasi dari AI Google cukup dapat diandalkan sebagai bahan belajar.
Peneliti turut menguji AI Mode dengan soal matematika dan tugas esai. Sistem itu disebut mampu menyelesaikan seluruh tugas yang diberikan, sehingga memunculkan kekhawatiran mengenai potensi kecurangan akademik.
Google Mempertanyakan Metode Pengujian
Google menolak kesimpulan pengujian tersebut dan menilai metodenya tidak mewakili pola penggunaan Google Search di dunia nyata. Dalam pernyataan kepada Mashable, perusahaan menyebut banyak pertanyaan yang digunakan bersifat ambigu dan dibuat secara artifisial.
Google menyatakan pengujian internal dengan kueri yang sama menghasilkan kualitas jawaban yang lebih baik. Perusahaan juga menegaskan AI Search dirancang untuk membantu anak dan remaja belajar, mengeksplorasi informasi, serta memahami dunia.
Di sisi lain, Common Sense Media menyarankan sekolah dan keluarga diberi pilihan untuk menonaktifkan AI Overview maupun AI Mode bagi pengguna anak. Untuk siswa sekolah dasar, lembaga tersebut merekomendasikan database perpustakaan atau mesin pencari tanpa jawaban berbasis AI.
Kontrol orang tua tetap dapat dipakai untuk membatasi akses layanan pencarian melalui perangkat Android dan browser Chrome. Namun, pengawasan keluarga dan sekolah tetap penting selama fitur AI masih tersedia bagi pengguna di bawah umur yang mencari jawaban atas persoalan sensitif.