Prompt Injection

OpenAI mulai memperluas Lockdown Mode ke lebih banyak pengguna ChatGPT, termasuk akun Free. Fitur ini dirancang sebagai lapisan perlindungan tambahan untuk menahan serangan prompt injection saat ChatGPT dipakai menjalankan tugas yang terhubung ke web. Langkah ini penting karena prompt injection menjadi salah satu risiko yang paling mengkhawatirkan di era AI generatif. Serangan semacam itu bisa menyisipkan instruksi tersembunyi di halaman atau materi berbahaya, lalu membuat model mengikuti perintah yang tidak pernah dimaksudkan pengguna. Perlindungan yang kini menjangkau akun gratis Sebelumnya, Lockdown Mode diperkenalkan untuk paket ChatGPT enterprise. Kini OpenAI menyatakan fitur ini juga digulirkan ke akun personal dan akun self-serve ChatGPT Business. Dokumentasi OpenAI menyebut Lockdown Mode tersedia untuk akun Free, Go, Plus, Pro, dan self-serve ChatGPT Business. Namun, peluncurannya dilakukan bertahap sehingga tidak semua akun akan langsung melihat opsi ini pada waktu yang sama. Bagi pengguna yang sudah mendapatkannya, pengaturan ini bisa dicek melalui menu Settings lalu Security. Di bagian Advanced Security, Lockdown Mode muncul sebagai tombol yang dapat diaktifkan atau dinonaktifkan. Cara kerja Lockdown Mode OpenAI pertama kali menjelaskan Lockdown Mode dalam unggahan blog pada Februari. Inti fitur ini adalah mencegah ChatGPT melakukan live outbound network requests saat mode tersebut diaktifkan. Dengan pembatasan itu, ChatGPT dapat dihentikan sebelum data dikirim ke luar jika ada pihak jahat yang mencoba memancing model untuk melakukan pengiriman data. Mekanisme ini ditujukan untuk memutus jalur serangan yang berupaya membajak perilaku model lewat prompt berbahaya. Serangan seperti ini biasanya muncul ketika AI diminta menjalankan tugas di web. Pelaku dapat menyisipkan prompt tersembunyi di halaman tertentu untuk memengaruhi tindakan model di balik layar. Dalam kondisi itu, model bisa diarahkan menjalankan instruksi yang tidak dimaksudkan pengguna. Risiko paling seriusnya adalah kebocoran data pribadi atau informasi sensitif ke pihak penyerang. Ada konsekuensi pada fitur yang terhubung keluar Perlindungan ekstra ini datang dengan kompromi. OpenAI menjelaskan bahwa Lockdown Mode menonaktifkan atau membatasi sejumlah fitur yang bergantung pada panggilan jaringan keluar. Artinya, pengalaman memakai ChatGPT bisa menjadi lebih konservatif dibanding mode biasa. Namun pendekatan ini memang ditujukan bagi pengguna dan tim yang bekerja dengan informasi sensitif atau ingin perlindungan lebih ketat. OpenAI menyebut Lockdown Mode sebagai pengaturan opsional. Pengguna dapat memilih sendiri apakah ingin memprioritaskan fungsi yang lebih luas atau keamanan yang lebih tinggi saat memakai fitur terhubung. Bagi pengguna yang sering memproses data penting, kompromi ini bisa terasa masuk akal. Ancaman prompt injection tidak selalu terlihat langsung oleh orang yang sedang memakai chatbot. Mengapa pembaruan ini relevan Kemunculan model bahasa besar mengubah lanskap keamanan siber dengan cepat. Teknologi yang sama dipakai untuk membangun pertahanan sekaligus oleh pihak yang mencari celah serangan baru. Dari situ muncul kategori ancaman yang lebih spesifik ke AI. Pelaku tidak hanya menyerang sistem pengguna, tetapi juga berupaya memanipulasi model agar menjalankan perintah yang menguntungkan mereka. Dalam konteks itu, Lockdown Mode menjadi relevan karena membatasi salah satu jalur serangan paling sensitif, yaitu kemampuan model mengirim data keluar setelah dipengaruhi prompt berbahaya. Perluasan ke pengguna gratis juga membuat perlindungan ini lebih merata. Sebelumnya, akses semacam ini lebih identik dengan pelanggan enterprise, tetapi kini pengguna personal pun mulai mendapat opsi keamanan serupa. Bagi pengguna biasa, manfaat utamanya ada pada kendali yang lebih jelas atas perilaku ChatGPT saat menangani fitur yang terhubung ke luar. Ketika mode ini aktif, model tidak bebas melakukan permintaan jaringan langsung yang bisa dimanfaatkan penyerang. OpenAI memosisikan fitur ini untuk pengalaman ChatGPT yang lebih hati-hati. Pendekatan tersebut cocok untuk orang atau tim yang ingin mengurangi risiko saat bekerja dengan informasi sensitif maupun fitur yang saling terhubung. Karena peluncurannya bertahap, sebagian akun mungkin belum langsung melihat opsi ini. Namun kehadiran Lockdown Mode di akun Free menunjukkan bahwa perlindungan terhadap prompt injection kini tidak lagi terbatas pada pelanggan premium atau enterprise saja. Source: www.xda-developers.com

ChatGPT Gratis Dapat Tameng Baru, Serangan Prompt Injection Kini Bisa Diputus Lebih Dini

Celah AI Meta Dipakai Ambil Alih Akun Instagram, Bahkan Akun Obama Ikut Terdampak