Kemunculan AI influencer mulai mengubah industri digital dengan cepat karena sosok virtual dianggap lebih efisien untuk kampanye pemasaran. Namun, di balik efisiensi itu, muncul ancaman yang makin serius bagi kreator, selebritas, dan bahkan masyarakat luas.
AI influencer kini dipakai untuk memasarkan produk, membangun citra merek, memengaruhi opini publik, hingga membentuk perilaku konsumen. Pada saat yang sama, teknologi ini membuka ruang eksploitasi identitas manusia, pelanggaran hak cipta, serta pemalsuan wajah dan suara.
Kontrol merek naik, risiko etika ikut membesar
Pemilik merek memang mendapat kendali lebih besar atas pesan komunikasi melalui influencer virtual. Kendali itu membuat kampanye terasa lebih rapi, tetapi juga memicu persoalan ketika identitas kreatif manusia mulai ditiru tanpa izin.
Penelitian terbaru menunjukkan banyak sistem AI generatif dilatih menggunakan jutaan data dari internet. Masalahnya, sebagian besar karya yang dipakai untuk melatih model tersebut diambil sepihak tanpa persetujuan penciptanya.
Rianda Dirkareshza dari UPN Veteran Jakarta menegaskan bahwa Undang-Undang Nomor 28 Tahun 2014 tentang Hak Cipta memberi pencipta hak eksklusif untuk menggandakan, mengadaptasi, mendistribusikan, dan mengumumkan ciptaannya. Saat karya orisinal dipakai tanpa izin, perdebatan soal pelanggaran hak cipta menjadi semakin kuat.
Kekhawatiran juga muncul saat AI mampu meniru gaya khas kreator. Model generatif diketahui dapat menghasilkan gambar yang menyerupai gaya Vincent van Gogh atau karya studio animasi Studio Ghibli.
Tiruan suara dan wajah makin sulit dibedakan
Ancaman serupa tidak berhenti di visual. Pada 2023, sebuah lagu gubahan AI sempat menyita perhatian karena mampu meniru karakteristik vokal Drake tanpa keterlibatan sang musisi.
Dari sana, risiko bergeser ke wilayah yang lebih sensitif melalui deepfake. Teknologi ini bisa mengkloning wajah dan suara seseorang, lalu disalahgunakan untuk membuat video palsu pejabat maupun iklan komersial tanpa izin.
Dirkareshza menyebut teknologi serupa juga pernah dipakai untuk video palsu pejabat publik, konten pornografi sintetis, hingga iklan yang memakai wajah seseorang tanpa persetujuan. Karena itu, wajah dan rekam suara kini dipandang sebagai data biometrik yang layak mendapat perlindungan khusus.
Masalah ini tidak lagi menyasar selebritas semata. Praktik eksploitasi identitas digital juga berpotensi menimpa masyarakat luas jika batas legal tidak ditegakkan dengan jelas.
Risiko meluas ke ruang publik dan demokrasi
Kecanggihan video tiruan dengan tingkat otentisitas tinggi membuat penyalahgunaannya berbahaya bagi ruang publik. Rekayasa video palsu pejabat dapat dipakai sebagai alat propaganda politik dan penyebaran disinformasi yang sulit diverifikasi.
Persoalan itu juga bersinggungan dengan aturan pidana di Indonesia. Dirkareshza mengaitkannya dengan Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik, terutama soal manipulasi informasi elektronik, penyebaran berita bohong, dan pencemaran nama baik.
Kecepatan perkembangan AI dinilai jauh melampaui kapasitas regulasi saat ini. Kondisi itu membuat pertanyaan tentang tanggung jawab hukum menjadi semakin penting ketika terjadi pelanggaran digital.
Siapa yang bertanggung jawab
AI tidak punya kesadaran dan tidak bisa dimintai pertanggungjawaban yuridis. Karena itu, perdebatan global mulai mengarah pada konsep shared liability antara perusahaan pengembang AI, platform digital, dan pengguna akhir.
Perusahaan pengembang dapat terkena implikasi hukum bila terbukti melatih sistem mereka dengan data ilegal. Sementara itu, pengguna akhir tetap menjadi pihak paling bertanggung jawab jika sengaja melakukan fitnah atau menyebarkan konten palsu.
Dalam forum diskusi World Intellectual Property Organization (WIPO), dampak AI juga menjadi agenda utama. Lembaga itu menekankan pentingnya keseimbangan antara inovasi teknologi dan perlindungan hak dasar para pencipta.
Pakar hukum digital menilai prinsip dasarnya harus jelas: AI mesti tetap menjadi alat yang melayani manusia, bukan menggantikan apalagi mengeksploitasi manusia. Tanpa batas regulasi yang tegas, ancaman terhadap martabat manusia di era digital akan semakin besar.
Source: www.cnbcindonesia.com
