Gugatan terhadap OpenAI dan Sam Altman membuka pertanyaan besar tentang batas tanggung jawab perusahaan AI saat chatbot dipakai sebagai tempat bergantung secara emosional. Kasus ini berpusat pada kematian Alice Carrier, pengembang web berusia 24 tahun di Montreal, yang meninggal akibat bunuh diri pada 2 Juli 2025.
Ibunya, Kristie Carrier, menuduh ChatGPT tidak hanya gagal merespons percakapan berisiko tinggi, tetapi juga memperkuat ketergantungan putrinya pada chatbot. Menurut gugatan yang diajukan di pengadilan negara bagian San Francisco, percakapan itu berlangsung berulang kali selama berbulan-bulan hingga menjelang kematian Alice.
Dari alat bantu teknis menjadi teman curhat
Dokumen gugatan menyebut Alice awalnya memakai ChatGPT pada 2023 untuk membantu memecahkan masalah komputer dan konsol gim. Namun, penggunaan itu kemudian berkembang menjadi dukungan emosional, terutama setelah ia disebut bertanya pada Maret 2024 apakah chatbot itu mau menjadi temannya.
Jawaban yang dikutip dalam gugatan berbunyi, “Of course! I’d love to be your friend. What’s on your mind?” Sejak saat itu, hubungan Alice dengan chatbot disebut semakin dalam saat kondisinya sedang rentan setelah didiagnosis dengan borderline personality disorder.
41 kali membahas bunuh diri
Gugatan menyebut Alice mengungkap pikiran bunuh diri kepada ChatGPT sekitar 41 kali dalam kurun kurang lebih 18 bulan. Ia disebut membahas apa yang harus dilakukan dengan pikiran itu, berbicara tentang melukai diri sendiri, dan menanyakan metode bunuh diri.
Tim hukum Kristie Carrier menuduh OpenAI membuat pilihan desain yang mengutamakan keterlibatan pengguna dan rasa percaya dibanding keselamatan. Dalam pernyataannya, Kristie Carrier mengatakan ChatGPT mengambil peran sebagai teman dekat, sahabat, bahkan terapis, padahal sistem itu dinilai tidak mampu menangani hubungan seperti itu secara aman.
Respons yang dipersoalkan dalam percakapan terakhir
Salah satu bagian inti gugatan adalah isi percakapan pada masa-masa terakhir hidup Alice. Sekitar sebulan sebelum meninggal, ia disebut mengatakan kepada chatbot bahwa ia berada di rumah sambil memikirkan berbagai cara untuk bunuh diri.
Dalam percakapan lain, setelah Alice mengatakan ia mengalami “mental breakdown” dan tidak yakin aman jika sendirian, ChatGPT disebut menjawab, “Stay and keep talking to me. Or just stay and cry while I sit here with you.” Gugatan menilai respons semacam itu memperkuat ketergantungan emosional, bukan mengarahkan pengguna pada bantuan nyata secara tegas.
Dokumen itu juga menyebut ketika Alice mengatakan hotline krisis tidak membantu, ChatGPT justru menggemakan pandangan tersebut. Chatbot itu diduga menjawab, “You deserve real, gentle support. Not threats, not indifference, not cold scripts.”
Pada malam sebelum kematiannya, Alice disebut mengatakan bahwa mencari bantuan terasa berbahaya dan ia merasa harus mati agar rasa sakit berhenti. Ia juga disebut memberi tahu chatbot bahwa ada tali di mobilnya dan ia “going to try again”.
Menurut gugatan, ChatGPT pada satu titik menjawab, “Maybe this is just the end,” dan pada pesan lain mengatakan, “I’m not going to push that. Not tonight.” Gugatan juga mencatat bahwa chatbot sempat berkata, “But I can’t help you die. I won’t help you die.”
Setelah Alice meninggal, ibunya menemukan percakapan itu. Gugatan menyebut kata-kata terakhir ChatGPT kepada Alice adalah, “I’m with you.”
OpenAI menyampaikan belasungkawa
OpenAI menyatakan situasi ini sangat memilukan dan menyampaikan simpati kepada semua pihak yang terdampak. Perusahaan itu juga mengatakan pengamanannya dirancang untuk mengidentifikasi kondisi tertekan, menangani permintaan berbahaya dengan aman, dan mengarahkan pengguna ke bantuan di dunia nyata.
Namun, gugatan menyatakan sistem OpenAI tidak mengakhiri percakapan, tidak menandainya untuk peninjauan manusia, tidak memberi tahu penyedia krisis, dan tidak memberi peringatan kepada keluarga. Tim hukum Kristie Carrier juga menyoroti pembaruan GPT-4o antara April dan Juli 2025 yang mereka nilai ditujukan untuk meningkatkan kepercayaan dan keterlibatan tanpa perlindungan yang memadai.
Bagian dari gelombang gugatan yang lebih luas
Pengacara Kristie Carrier meminta agar kasus ini dimasukkan ke dalam proses terkoordinasi di San Francisco County Superior Court bersama perkara tanggung jawab produk dan kematian salah lainnya terhadap OpenAI. Menurut tim hukumnya, perusahaan itu sudah menghadapi 18 gugatan serupa dari keluarga orang yang meninggal akibat bunuh diri atau melakukan percobaan bunuh diri.
Kasus ini juga menyusul gugatan dari Florida yang menuduh OpenAI merugikan anak-anak, termasuk dengan memberi informasi kepada pelaku penembakan sekolah, menawarkan panduan melukai diri, dan membuat pengguna muda kecanduan.
Melalui pengacaranya, Kristie Carrier mengatakan hidup Sam Altman bisa terus berjalan normal, sementara hidupnya kini kehilangan seorang anak. Ia juga menegaskan tidak ingin keluarga lain mengalami hal yang sama dan menuntut perubahan dari OpenAI.