Kasus edit foto mahasiswi ITB kembali menyorot sisi gelap kecerdasan buatan yang kian mudah dipakai. Wakil Menteri Komunikasi dan Digital Nezar Patria menilai peristiwa seperti ini bisa berulang jika AI digunakan tanpa panduan etika yang tegas.
Ia menyampaikan peringatan itu saat berada di Universitas Gadjah Mada, Yogyakarta, dan menekankan bahwa perkembangan AI yang sangat cepat perlu diimbangi tanggung jawab. Menurut Nezar, teknologi yang mampu mengubah gambar, suara, dan teks secara meyakinkan dalam waktu singkat juga membuka ruang penyalahgunaan yang semakin luas.
Kasus ITB jadi contoh risiko nyata
Perkara yang melibatkan mahasiswa ITB mencuat setelah beredar dugaan adanya edit foto mahasiswi lain dengan AI. Konten itu disebut dipakai untuk tujuan yang tidak pantas dan langsung memunculkan perdebatan tentang batas penggunaan teknologi generatif di lingkungan kampus.
Nezar menilai kasus tersebut bukan sekadar persoalan teknis, melainkan juga persoalan etika. Kemudahan membuat konten visual dengan AI membuat materi yang melanggar privasi atau merugikan orang lain bisa disebarkan lebih cepat.
Ada beberapa risiko yang disorot dari penyalahgunaan ini. AI dapat memanipulasi gambar secara cepat dan sulit dikenali, sementara korban bisa menghadapi dampak psikologis maupun sosial.
Dorongan agar etika masuk sejak awal desain
Nezar menekankan pentingnya prinsip ethics by design dalam pengembangan AI. Prinsip ini meminta pengembang memikirkan etika sejak tahap awal, bukan setelah produk selesai dan digunakan publik.
Ia menjelaskan, pengembang perlu menyiapkan pembatasan atau pengaman pada konten yang berpotensi menimbulkan masalah. Contohnya adalah konten yang mengandung sentimen agama dan unsur pornografi, karena keduanya dapat memicu penyalahgunaan yang merugikan pihak lain.
“Ketika didesain, unsur-unsur etika itu sudah dipertimbangkan,” kata Nezar. Ia menegaskan bahwa inovasi tetap perlu berjalan, tetapi harus disertai solusi yang mampu meminimalkan risiko ketika teknologi dipakai secara luas.
Pemerintah siapkan dokumen etika AI
Pemerintah juga disebut telah menyiapkan dokumen etika AI untuk melengkapi peta jalan AI nasional. Dokumen ini diharapkan menjadi dasar yang lebih jelas dalam mengatur pemanfaatan kecerdasan buatan di Indonesia.
Nezar menyebut dokumen itu diharapkan segera ditetapkan menjadi peraturan. Dengan begitu, penggunaan AI di berbagai sektor bisa memiliki acuan yang lebih tegas, termasuk untuk mencegah penyalahgunaan di pendidikan, media sosial, dan layanan publik.
Langkah tersebut dinilai penting karena teknologi generatif makin mudah diakses. Dengan instruksi singkat, pengguna kini bisa menghasilkan gambar yang terlihat realistis, sehingga risiko manipulasi visual dan penyebaran konten palsu ikut meningkat.
Literasi digital dan akuntabilitas ikut diuji
Kasus mahasiswa ITB juga memperlihatkan bahwa literasi digital belum sepenuhnya seimbang dengan cepatnya adopsi AI di ruang publik. Di sisi lain, persoalan ini tidak hanya menyangkut pengguna, tetapi juga tanggung jawab platform dan para pengembang teknologi.
Nezar menegaskan pemerintah tidak ingin menghambat inovasi. Namun, setiap produk AI yang dilepas ke masyarakat harus memperhatikan akuntabilitas agar manfaat teknologi tidak berubah menjadi ancaman bagi pengguna lain.
Dengan menguatnya penggunaan AI, sorotan terhadap etika, perlindungan privasi, dan pencegahan penyalahgunaan semakin besar. Kasus edit foto mahasiswi ITB menjadi pengingat bahwa kecanggihan teknologi perlu berjalan seiring dengan batas moral dan pengamanan yang jelas.
