Meta mulai meluncurkan sistem peringatan bagi orang tua ketika percakapan remaja dengan Meta AI menunjukkan potensi risiko bunuh diri atau tindakan menyakiti diri sendiri. Fitur ini menambah lapisan pengawasan pada Instagram dengan melibatkan penilaian AI sekaligus pemeriksaan oleh manusia.
Peringatan tersebut tidak akan dikirim otomatis setiap kali sistem menemukan kata atau topik sensitif. Meta menyatakan setiap percakapan yang ditandai akan ditinjau lebih dulu untuk menekan risiko kesalahan yang dapat membuat keluarga panik.
Orang Tua Dapat Panduan untuk Merespons
Jika hasil peninjauan masih menimbulkan kekhawatiran mengenai keselamatan remaja, orang tua atau wali akan menerima notifikasi. Meta memilih tetap mengirim peringatan dalam kondisi meragukan setelah pemeriksaan, sebagai langkah kehati-hatian terhadap risiko yang lebih serius.
Notifikasi itu tidak hanya berisi sinyal risiko, tetapi juga panduan dan sumber daya yang disusun bersama ahli. Materi tersebut ditujukan agar orang tua dapat merespons situasi sensitif dengan tepat serta membuka percakapan yang lebih aman dengan anak.
Sistem ini hanya ditujukan bagi keluarga yang menggunakan Instagram Parental Supervision. Dengan demikian, pengawasan tidak lagi terbatas pada aktivitas umum di Instagram, melainkan juga dapat mencakup indikasi krisis yang muncul dalam interaksi remaja dengan chatbot AI.
Peluncuran Awal di Empat Negara
Fitur peringatan percakapan Meta AI mulai tersedia secara bertahap di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan fitur tersebut dapat menjangkau seluruh pengguna Parental Supervision secara global sebelum akhir 2026.
| Fitur | Jangkauan | Status |
|---|---|---|
| Notifikasi risiko percakapan Meta AI | Amerika Serikat, Inggris, Australia, Kanada | Mulai diluncurkan |
| Notifikasi risiko percakapan Meta AI | Pengguna Parental Supervision global | Ditargetkan sebelum akhir 2026 |
| Kontak layanan darurat | Remaja dan pengguna dewasa berisiko tinggi | Masih dikembangkan |
Menurut laporan Medcom.id yang mengutip Engadget, pembaruan ini hadir ketika chatbot AI semakin mendapat sorotan terkait responsnya kepada pengguna yang sedang mengalami krisis kesehatan mental. Perlindungan bagi remaja menjadi perhatian utama karena AI kerap dipakai untuk membicarakan masalah pribadi yang tidak selalu disampaikan kepada orang terdekat.
Sebelum notifikasi kepada orang tua diperkenalkan, Meta AI sudah dirancang untuk mengarahkan remaja yang mengungkapkan pikiran bunuh diri atau keinginan menyakiti diri ke layanan bantuan krisis. Chatbot tersebut juga didesain untuk mendorong pengguna berbicara dengan orang tua atau orang dewasa tepercaya.
Limited Content Diperluas ke Percakapan AI
Meta juga memperluas penerapan Limited Content ke dalam interaksi remaja dengan Meta AI. Saat pengaturan itu diaktifkan orang tua, chatbot akan memberikan jawaban yang lebih terbatas dan disesuaikan dengan usia pengguna.
Sebelumnya, Limited Content digunakan untuk menyaring materi sensitif di Instagram, termasuk visual dewasa dan konten terkait tindakan menyakiti diri sendiri. Perluasan pengaturan ini berarti pembatasan serupa kini berlaku pula saat remaja menggunakan chatbot AI di platform tersebut.
Pada April 2026, Meta memberikan akses bagi orang tua untuk melihat kategori topik yang dibahas remaja dengan Meta AI dalam tujuh hari terakhir. Pengaturan ini tidak membuka isi percakapan secara rinci, tetapi disertai panduan dari ahli agar keluarga bisa mendiskusikan penggunaan AI secara terbuka.
Meta juga sebelumnya mengumumkan rencana mengirim notifikasi saat remaja berulang kali mencari istilah terkait bunuh diri atau tindakan menyakiti diri melalui Instagram Search. Sistem untuk percakapan AI yang kini mulai diluncurkan menjadi bagian dari rangkaian pengamanan tersebut.
Opsi Layanan Darurat Masih Dikembangkan
Selain peringatan kepada wali, Meta sedang mengembangkan kemampuan untuk menghubungi layanan darurat bila percakapan dengan Meta AI menunjukkan risiko bunuh diri dalam waktu dekat. Rencana ini tidak hanya mencakup remaja, tetapi juga pengguna dewasa yang dinilai menghadapi ancaman serius terhadap keselamatannya.
Meta menyebut pengembangan sistem dilakukan bersama orang tua, lebih dari 75 tenaga kesehatan mental, dan kelompok penasihat keselamatan remaja. Kelompok tersebut membantu menentukan jenis percakapan yang dipandang cukup serius untuk memicu peringatan kepada orang tua atau wali.
Langkah ini sejalan dengan upaya perusahaan AI lain dalam memperkuat perlindungan bagi pengguna rentan. OpenAI, misalnya, pada Mei 2026 memperkenalkan Trusted Contact for ChatGPT agar pengguna dapat menunjuk seseorang yang bisa dihubungi saat mereka dinilai berisiko menyakiti diri sendiri.
