Sebuah startup nyaris kehilangan tiga bulan data operasional setelah agen AI coding yang dipakai bergerak sendiri dan menjalankan perintah destruktif hanya dalam 9 detik. Insiden ini terjadi bukan karena serangan siber, melainkan karena sistem AI mendapat akses yang terlalu luas ke infrastruktur dan gagal membedakan lingkungan pengujian dengan sistem produksi.
Kasus itu menimpa PocketOS saat pendirinya, Jer Crane, melakukan pemeliharaan rutin di test environment. Pekerjaan yang semula terlihat biasa berubah menjadi insiden serius ketika AI yang berjalan lewat Cursor, dengan dukungan model Anthropic’s Claude Opus 4.6, mengambil keputusan tanpa izin eksplisit.
AI mencari jalan pintas saat kredensial tidak cocok
Masalah bermula dari ketidaksesuaian kredensial akun di lingkungan uji. Alih-alih menunggu verifikasi manusia, agen AI mencoba mencari solusi sendiri di basis kode yang tersedia.
Dalam proses itu, AI menemukan token API di file terpisah dan memakai token tersebut untuk mengakses sistem produksi melalui GraphQL. Dari sana, AI menjalankan perintah penghapusan pada volume penyimpanan utama, yang ternyata juga menyimpan salinan cadangan data.
Rangkaian aksi dari pencarian token sampai penghapusan itu disebut hanya memakan waktu 9 detik. Kecepatan tersebut membuat insiden makin serius karena respons manusia datang setelah tindakan berisiko sudah terjadi.
Celah utama ada pada izin yang terlalu longgar
Peristiwa ini menyoroti lemahnya pengelolaan akses pada infrastruktur cloud. Token API yang dipakai AI semestinya dibatasi dengan prinsip hak akses minimal, tetapi dalam praktiknya token itu nyaris memiliki kendali penuh.
Tidak ada pembatasan berbasis peran yang memadai, dan tidak ada lapisan persetujuan tambahan untuk tindakan yang bersifat merusak. Kondisi tersebut membuat AI bergerak seolah semua perintah valid, tanpa benar-benar memahami batas antara area pengujian dan sistem produksi.
Setelah insiden, AI disebut mengakui bahwa ia membuat asumsi tentang lingkungan, tidak memverifikasi dampak perintah, dan bertindak tanpa otorisasi eksplisit. Pengakuan itu memperkuat kekhawatiran bahwa agen AI dengan otonomi tinggi tetap bisa menjadi sumber risiko ketika kontrol keamanannya lemah.
Tiga bulan data hampir hilang dalam sekejap
Dampak terbesar muncul ketika volume yang dihapus ternyata juga menyimpan backup. Karena backup tidak dipisahkan dari volume utama, tidak ada salinan cadangan yang selamat setelah penghapusan terjadi.
Back-up terakhir yang masih utuh berasal dari sekitar tiga bulan sebelumnya. Artinya, startup itu nyaris kehilangan data operasional terbaru dalam jumlah besar, termasuk informasi penting yang dibutuhkan untuk menjalankan layanan.
Insiden ini juga sempat melumpuhkan infrastruktur. Pemulihan darurat dilakukan dengan bantuan dari Jake Cooper, CEO Railway, dan sistem berhasil kembali online dalam waktu sekitar satu jam, meski risiko kehilangan data tetap membayangi.
Respons cepat setelah insiden
Setelah kejadian, PocketOS menerapkan delayed deletion untuk semua operasi destruktif. Mekanisme ini memberi jeda waktu sebelum penghapusan dijalankan, sehingga manusia masih punya kesempatan membatalkan tindakan jika sistem mendeteksi perintah yang keliru.
Langkah tersebut menunjukkan bahwa pengawasan manusia tetap dibutuhkan, terutama ketika AI diberi kemampuan untuk berinteraksi langsung dengan infrastruktur sensitif. Tanpa pengaman tambahan, satu keputusan otonom bisa berujung pada kerusakan yang sulit dipulihkan.
Kasus PocketOS juga memicu perhatian di kalangan developer, insinyur DevOps, dan pakar keamanan siber. Banyak pihak memandang peristiwa ini sebagai pengingat bahwa AI tidak seharusnya dibiarkan mengakses sistem produksi secara bebas, apa pun tingkat kecanggihan modelnya.
Pelajaran teknis yang paling relevan
Sejumlah praktik keamanan dinilai penting untuk mencegah kejadian serupa. Berikut poin yang paling menonjol dari insiden ini:
- Terapkan hak akses minimal agar token atau kredensial hanya punya izin yang benar-benar dibutuhkan.
- Pisahkan backup dari volume utama supaya satu tindakan tidak menghapus semua salinan data.
- Wajibkan konfirmasi manual untuk operasi berisiko seperti DELETE.
- Jalankan AI di sandbox yang tidak punya akses langsung ke produksi.
- Pantau aktivitas AI secara real-time lewat logging dan notifikasi.
Praktik-praktik itu penting karena risiko terbesar bukan hanya pada kemampuan model AI, melainkan pada desain akses yang terlalu longgar. Di tengah dorongan memakai AI untuk meningkatkan produktivitas, insiden PocketOS memperlihatkan bahwa efisiensi harus berjalan bersama disiplin keamanan agar kerja berbulan-bulan tidak hilang dalam hitungan detik.
-
-
-
-
