Regulator global mulai menaikkan level kewaspadaan terhadap penggunaan AI di sektor keuangan. Kekhawatiran utamanya bukan lagi soal efisiensi, melainkan risiko ketika sistem AI makin otonom dan bisa mengambil keputusan dengan pengawasan manusia yang terbatas.
Badan Stabilitas Keuangan atau FSB, lembaga internasional bentukan G20, meminta sistem keuangan menyiapkan pengamanan baru untuk meredam ancaman itu. Dalam laporannya, FSB menyoroti kebutuhan mendesak untuk mengatur penggunaan AI, terutama pada sistem yang disebut Agentic AI.
AI yang mulai masuk ke operasional bank
Agentic AI adalah sistem yang bisa merencanakan, bernalar, dan menjalankan tugas dengan pengawasan manusia yang terbatas. Teknologi ini sudah mulai dipakai perusahaan keuangan untuk mendeteksi penipuan, menjalankan layanan konsumen, dan menangani fungsi back-office.
Di sisi lain, kemampuan itu justru membuat regulator khawatir. FSB menilai AI yang terotomatisasi dapat memunculkan tindakan ilegal, kebocoran data, dan gangguan pada sistem yang saling terhubung.
Laporan itu juga menegaskan bahwa agen AI menghadirkan tantangan tersendiri bagi pengawasan manusia. Sistem tersebut bisa bergerak menyimpang dari niat perusahaan tanpa diketahui karyawan atau tanpa ada waktu cukup untuk melakukan intervensi.
Adopsi cepat, risiko ikut membesar
Survei Cambridge Centre for Alternative Finance menunjukkan adopsi Agentic AI di sektor keuangan sudah meluas. Sebanyak 52% responden melaporkan penggunaan aktif, 23% sedang memperluas adopsinya, dan 29% baru akan memulai penerapan.
Kondisi itu membuat dorongan pengawasan dari regulator menjadi semakin relevan. Di saat perusahaan keuangan berlomba memanfaatkan AI untuk efisiensi, standar keamanan dan kontrol internal dinilai belum selalu bergerak secepat teknologi yang dipakai.
Peringatan terhadap risiko AI di sektor keuangan juga menguat sejak Anthropic merilis Mythos. Para ahli menilai model AI canggih itu membawa tantangan keamanan siber yang signifikan bagi industri perbankan.
Aturan baru yang diusulkan regulator
Untuk menekan risiko, lembaga penetapan standar global mengajukan sejumlah praktik yang dianggap baik. Perusahaan keuangan diminta menetapkan batasan jelas atas penggunaan AI dan membangun pengamanan yang kuat.
Pedoman itu juga mendorong pembatasan terhadap apa yang boleh dilakukan agen AI. Untuk tindakan berisiko tinggi, seperti transaksi keuangan di atas ambang batas tertentu, persetujuan manusia tetap dibutuhkan.
FSB membuka pedoman yang tidak mengikat itu untuk masukan hingga 22 Juli 2026. Artinya, industri masih punya ruang memberi tanggapan sebelum arahan final dipakai lebih luas.
Perbankan diminta menyesuaikan kontrol internal
FSB juga menyebut perusahaan keuangan, termasuk perbankan, perlu mempertimbangkan penyesuaian kontrol dan proses sumber daya manusia terhadap agen AI. Salah satu pendekatan yang diusulkan adalah memperlakukan mereka sebagai “karyawan sintetis”.
Pendekatan itu menunjukkan bahwa regulator mulai melihat AI bukan sekadar alat bantu, tetapi bagian dari struktur kerja yang perlu diawasi seperti entitas operasional lain. Dengan cara itu, batas tugas, tanggung jawab, dan kontrol bisa dibuat lebih tegas sejak awal.
Bagi bank-bank di seluruh dunia, pesan utama dari regulator jelas: adopsi AI tidak boleh berjalan lebih cepat daripada sistem pengamanannya. Tanpa pengawasan yang memadai, otomatisasi justru bisa membuka pintu bagi risiko baru yang sulit dipulihkan jika sudah terlanjur terjadi.