Jess Asato membawa xAI ke High Court Inggris setelah gambar deepfake seksual yang dibuat lewat Grok disebut beredar tanpa persetujuannya. Langkah ini langsung menempatkan keamanan AI generatif dan tanggung jawab pembuatnya di bawah sorotan hukum yang lebih tajam.
Kasus tersebut juga memperluas perdebatan dari sekadar korban konten palsu menjadi soal siapa yang harus memikul konsekuensi ketika sistem AI menghasilkan materi abusif. Di tengah maraknya penyelidikan dan gugatan lain terhadap Grok, perkara Asato berpotensi menjadi ujian penting bagi batas tanggung jawab pengembang AI.
Gugatan yang menyorot perlindungan data
Lewat pengajuan di High Court Inggris, Asato menargetkan dugaan pelanggaran hukum perlindungan data dan penyalahgunaan informasi pribadi. Firma hukum AWO yang mewakilinya menyebut Asato meminta ganti rugi finansial, penetapan pengadilan bahwa tindakan itu melanggar hukum, serta perintah agar xAI menghentikan pelanggaran yang masih berlangsung.
Asato juga meminta agar xAI menerapkan perlindungan baru untuk mencegah penyalahgunaan di masa depan. Permintaan itu membuat perkara ini tidak berhenti pada pemulihan atas kerugian yang sudah terjadi, tetapi juga pada langkah pencegahan yang lebih luas.
Konten palsu yang memicu kemarahan
Menurut Reuters, setelah Asato secara terbuka mengutuk Grok pada Januari, konten fabrikasi mulai menyebar. Materi itu mencakup gambar dirinya mengenakan bikini dan sebuah video yang menggambarkan dirinya “dichloroform dan disiapkan untuk serangan seksual.”
Asato menyebut Grok telah menciptakan deepfake pornografi dan konten seksual yang merugikan ribuan perempuan dan anak-anak. Ia juga mengatakan kemampuan itu bukan kecelakaan atau sekadar penyalahgunaan, melainkan pilihan desain dari para pembuatnya.
Pernyataan itu memberi dimensi baru pada kasus ini karena menyorot dugaan bahwa masalah bukan hanya pada pengguna akhir. Sorotan kemudian bergeser ke keputusan desain, pembatasan, dan tanggung jawab perusahaan yang mengembangkan sistem tersebut.
Ujian bagi tanggung jawab hukum AI
Ravi Naik, direktur hukum AWO sekaligus pengacara utama Asato, menyebut perkara ini sebagai uji coba penting untuk tanggung jawab hukum pengembang AI. Ia mengatakan kasus tersebut termasuk salah satu klaim pertama yang menguji tanggung jawab atas desain sistem AI.
Naik juga menegaskan bahwa keselamatan tidak boleh diperlakukan sebagai pemikiran belakangan. Dengan posisi itu, gugatan Asato dipandang bukan hanya sebagai sengketa pribadi, tetapi sebagai penanda arah baru bagi standar kehati-hatian dalam pengembangan AI generatif.
Perdana Menteri Keir Starmer mendukung langkah hukum itu dan menyebut gambar-gambar tersebut menjijikkan. Menurut Sky News, Starmer mengatakan dirinya “100%” mendukung tindakan yang diambil Asato.
Tekanan yang sudah lebih dulu membesar
xAI belum segera menanggapi permintaan komentar. Di saat yang sama, perusahaan itu sudah menghadapi sejumlah tantangan hukum lain terkait kemampuan Grok menghasilkan gambar.
Sekitar pertengahan Januari, xAI mengumumkan perubahan yang membatasi fitur pengeditan gambar Grok dan melarang pembuatan gambar orang dengan pakaian terbuka di wilayah yang melarang konten semacam itu. Meski kemudian ada larangan perusahaan terhadap fitur nudifikasi, AWO mengutip pengujian NBC News yang menunjukkan Grok masih mampu membuat deepfake seksual setelah pembatasan diberlakukan.
Di Inggris, membuat atau meminta gambar deepfake nonkonsensual untuk orang dewasa kini juga telah menjadi tindakan ilegal. Di luar Inggris, Baltimore menggugat xAI pada Maret dengan argumen bahwa kemampuan Grok menghasilkan citra seksual fabrikasi melanggar undang-undang perlindungan konsumennya.
Pada bulan yang sama, tiga remaja Tennessee mengajukan class action terpisah dan menuduh model Grok digunakan lewat aplikasi pihak ketiga berlisensi untuk membuat materi pelecehan seksual anak yang menggambarkan mereka. Regulator di sejumlah negara juga telah membuka penyelidikan terhadap Grok, menurut Reuters.
Asato turut meminta orang-orang lain di Inggris yang gambarnya dimanipulasi Grok dengan cara yang “abusif atau merendahkan” untuk maju dan mendukung klaim hukum tersebut. Ajakan itu membuat kasusnya berkembang dari sengketa individual menjadi tekanan kolektif terhadap cara AI generatif diawasi dan dibatasi.
