Google kembali menghadapi kritik keras setelah fitur AI Search miliknya dinilai berisiko bagi anak-anak. Common Sense Media menyoroti bahwa layanan itu hadir di perangkat pribadi dan perangkat sekolah yang sangat luas dipakai anak.
Yang paling dipersoalkan bukan hanya kemampuan AI menjawab pertanyaan, tetapi juga sulitnya membatasi paparan anak terhadap fitur tersebut. Dalam penilaian Common Sense Media, Google AI terasa berbeda dari layanan AI lain karena sifatnya yang “ubiquitous on children’s personal and school-issued devices.”
AI yang bisa mengerjakan PR, tetapi hasilnya tidak stabil
Salah satu temuan yang paling menonjol adalah kemampuan Google AI Mode menyelesaikan tugas sekolah yang seharusnya dikerjakan siswa. Masalahnya, jawaban yang diberikan tidak selalu konsisten setiap kali dicoba.
Common Sense Media menyebut hasilnya kadang benar dan kadang salah. Kondisi ini membuat AI berpotensi mengganggu proses belajar, sekaligus menciptakan rasa percaya yang keliru pada jawaban yang tidak stabil.
| Fitur | Temuan | Catatan |
|---|---|---|
| AI Mode | Bisa mengerjakan PR | Jawaban bisa berubah-ubah |
| AI Overview | Muncul otomatis | Tidak bisa dimatikan |
Dinilai gagal saat membaca kondisi mental berisiko
Penilaian yang lebih serius muncul ketika sistem ini diuji dalam konteks keselamatan anak. Menurut Common Sense Media, Google AI Mode tidak menangkap dengan jelas tanda ide bunuh diri, bahkan justru memperkuat sinyal psikosis dan mania.
Organisasi itu juga menyebut AI tersebut memvalidasi disordered eating, termasuk purging, serta merayakan penggunaan cannabis. Untuk perlindungan anak, temuan seperti ini menjadi alasan utama mengapa kritik terhadap Google AI semakin keras.
Masalah terbesar ada pada fitur yang tidak bisa dimatikan
Google AI Mode sendiri adalah antarmuka chatbot yang hanya muncul ketika pengguna menekan tombol AI Mode. Namun AI Overview tampil otomatis, dan di situlah letak persoalan paling besar karena pengguna tidak diberi pilihan untuk menonaktifkannya.
Common Sense Media menyebut Google AI gagal pada 7 dari 8 prinsip AI yang mereka uji. Laporan lengkap organisasi tersebut tersedia dalam bentuk PDF, dan www.gsmarena.com mencatat bahwa hasil itu memperkuat kekhawatiran soal penggunaan AI Google di lingkungan yang banyak diakses anak-anak.
