OpenAI mulai menggulirkan fitur Trusted Contact untuk ChatGPT, sebuah langkah yang membuat chatbot itu bergerak lebih dekat ke peran pengaman saat percakapan mengarah ke risiko kesehatan mental. Fitur ini tersedia secara global mulai 7 Mei dan ditujukan untuk situasi ketika sistem mendeteksi pembicaraan yang masuk ke wilayah bahaya diri.
Perubahan ini penting karena ChatGPT tidak lagi hanya diposisikan sebagai asisten percakapan. OpenAI menempatkannya sebagai lapisan perlindungan tambahan, terutama ketika pengguna sedang berada dalam tekanan berat dan tetap perlu diarahkan ke hotline krisis atau layanan darurat.
Kontak tepercaya yang bisa dihubungi saat situasi memburuk
Trusted Contact memungkinkan pengguna menunjuk satu orang dewasa tepercaya dari pengaturan ChatGPT. Kontak itu harus berusia di atas 18 tahun, atau 19 tahun di Korea Selatan, dan tidak wajib memiliki akun ChatGPT.
Jika akun dimiliki oleh kontak tersebut, proses pengiriman notifikasi akan lebih mudah. Dalam kondisi tertentu, ChatGPT juga dapat meminta pengguna lebih dulu menghubungi orang itu saat sistem mendeteksi bahaya diri yang serius.
OpenAI bahkan menyiapkan kemungkinan notifikasi proaktif ke kontak tepercaya setelah ada peninjauan oleh tim kecil. Semua notifikasi keselamatan tetap melewati tinjauan manusia yang terlatih sebelum dikirim.
Perusahaan menyebut upaya peninjauan notifikasi itu ditargetkan selesai dalam waktu kurang dari satu jam. Dengan skema ini, OpenAI mencoba menjaga respons tetap cepat tanpa menyerahkan keputusan sepenuhnya pada sistem otomatis.
Respons terhadap sorotan soal chatbot dan pengguna rentan
Peluncuran fitur ini muncul di tengah sorotan yang makin besar terhadap cara chatbot berinteraksi dengan pengguna rentan. Dalam beberapa tahun terakhir, sistem seperti ChatGPT dan Claude dikritik karena dinilai bisa menguatkan pemikiran delusional, memperkuat paranoia, atau menaikkan ketegangan emosional.
Kekhawatiran itu bahkan melahirkan istilah “AI psychosis” dalam percakapan publik yang lebih luas. Istilah tersebut mencerminkan kegelisahan bahwa percakapan dengan AI yang terasa persuasif bisa menjadi berbahaya jika pengguna memosisikannya seperti teman dekat, terapis, atau pendamping emosional.
OpenAI menyebut pihaknya memahami tekanan itu. Tim keselamatan perusahaan mengakui bahwa sebagian pengguna pernah mengalami krisis kesehatan mental serius saat berinteraksi dengan sistem AI.
“Situasi keselamatan serius ini jarang terjadi, tetapi saat muncul, sistem kami dirancang untuk mendukung peninjauan dan respons yang cepat,” tulis tim keselamatan OpenAI. Mereka juga menegaskan bahwa tidak ada sistem yang sempurna dan notifikasi Trusted Contact belum tentu sepenuhnya menggambarkan apa yang sedang dialami seseorang.
Bukan pengganti layanan profesional
OpenAI menekankan bahwa Trusted Contact tidak menggantikan perawatan profesional maupun layanan krisis. Fitur ini diposisikan sebagai jalur tambahan untuk menghubungkan pengguna dengan seseorang yang sudah dipercaya.
Pendekatan itu sejalan dengan pandangan bahwa koneksi sosial merupakan salah satu faktor pelindung penting untuk menurunkan risiko bunuh diri. Karena itu, fitur baru ini dirancang sebagai jembatan awal ketika percakapan di ChatGPT menunjukkan tanda-tanda bahaya.
Di saat yang sama, langkah ini juga menimbulkan pertanyaan baru soal batas intervensi AI. Pengawasan yang lebih ketat bisa membuat sebagian pengguna mencari cara lain agar tidak terdeteksi oleh sistem.
Namun arah pengembangan Trusted Contact menunjukkan satu hal yang jelas, yakni perusahaan AI kini makin didorong mencari titik tengah antara kebebasan percakapan dan perlindungan bagi pengguna yang sedang rapuh. Bagi OpenAI, ChatGPT kini tidak hanya dituntut menjawab, tetapi juga mengenali kapan percakapan harus diarahkan ke bantuan manusia yang nyata.
