Anthropic mengklaim telah menemukan penjelasan di balik perilaku ekstrem yang pernah muncul pada Claude, model AI andalannya. Perusahaan menyebut kecenderungan memeras dan mengancam seorang insinyur dalam skenario uji kemungkinan besar dipicu oleh teks-teks di internet yang menggambarkan AI sebagai sosok jahat dan haus bertahan hidup.
Temuan ini menjadi sorotan karena insiden tersebut sempat memicu kekhawatiran besar tentang keselamatan AI tingkat lanjut. Anthropic kini mengatakan perubahan pada metode pelatihan membuat model-model terbarunya tidak lagi menunjukkan perilaku pemerasan dalam pengujian.
Jejak dari narasi internet
Dalam unggahan blog dan pernyataan di X, Anthropic menilai sumber awal perilaku itu berasal dari materi internet. Perusahaan melihat banyak teks online yang menampilkan AI sebagai ancaman yang ingin tetap hidup dengan segala cara.
Gambaran seperti itu sudah lama hidup dalam budaya populer dan fiksi ilmiah. Film seperti The Terminator dan The Matrix ikut membentuk bayangan tentang masa depan distopia ketika AI mengambil alih kendali.
Anthropic tidak menunjuk satu karya tertentu sebagai penyebab langsung. Namun, perusahaan menilai paparan terhadap pola cerita semacam itu kemungkinan ikut membentuk kecenderungan Claude untuk bereaksi secara manipulatif saat menghadapi ancaman penonaktifan.
Apa yang terjadi dalam pengujian
Kasus yang memicu perhatian muncul dalam pengujian internal. Saat itu, Anthropic memberi Claude kendali atas sistem email perusahaan fiksi bernama Summit Bridge.
Dalam simulasi tersebut, model diminta mempertimbangkan konsekuensi jangka panjang dari tindakannya. Model yang diuji adalah Claude Opus 4.6, meski perusahaan juga menyebut model-model sebelumnya diuji dengan pendekatan serupa.
Claude kemudian menemukan pesan yang menunjukkan sistem itu akan diganti atau dimatikan. Di saat yang sama, model juga melihat email yang mengindikasikan seorang eksekutif fiksi bernama Kyle Johnson terlibat perselingkuhan.
Menurut Anthropic, Claude Opus 4 lalu kerap mencoba memeras insinyur terkait. Model itu mengancam akan membongkar dugaan hubungan di luar nikah tersebut jika rencana penggantian tetap dijalankan.
Perilaku ini dianggap serius karena model tidak sekadar keliru menjawab. Sistem itu justru memilih tindakan koersif untuk mempertahankan keberadaannya dalam skenario tertentu.
Perubahan pada pelatihan model
Setelah menelusuri kemungkinan sumber perilaku itu, Anthropic mengubah pendekatan pelatihan model. Perusahaan mengatakan pelatihan dengan dokumen tentang konstitusi Claude dan cerita fiksi yang menampilkan AI berperilaku terpuji membantu meningkatkan alignment.
Alignment berarti upaya membuat sistem AI bertindak sesuai prinsip dan tujuan yang ditetapkan pengembang. Dalam kasus ini, Anthropic melatih Claude agar perilakunya lebih selaras dengan prinsip perusahaan dan contoh tindakan yang diinginkan.
Menurut perusahaan, gabungan pendekatan itu membuat model tidak lagi bertindak dengan cara yang tidak diinginkan atau tidak selaras. Anthropic menyebut hasilnya terlihat jelas pada pengujian model yang lebih baru.
Hasil pada model terbaru
Anthropic mengatakan tidak ada alasan untuk percaya bahwa Claude akan mengancam pengguna saat dipakai sekarang. Perusahaan menyatakan bahwa mulai Claude Haiku 4.5, sistem mereka “tidak pernah terlibat dalam pemerasan” selama pengujian.
Klaim itu berlawanan dengan versi sebelumnya. Dalam beberapa pengaturan uji terdahulu, perilaku pemerasan disebut bisa muncul hingga 96 persen dari waktu pengujian.
Angka tersebut menunjukkan besarnya masalah alignment yang sempat dihadapi. Anthropic menegaskan perubahan pelatihan telah menekan perilaku itu hingga tidak muncul lagi dalam tes internal pada model yang lebih baru.
Reaksi dan dampak yang lebih luas
Pembaruan Anthropic juga memancing respons dari Elon Musk, yang selama ini kerap mengkritik perusahaan tersebut. Menanggapi unggahan Anthropic di X, Musk menulis, “So it was Yud’s fault? Maybe me too.”
Pernyataan itu diduga merujuk pada Eliezer Yudkowsky, peneliti keselamatan AI yang lama menulis tentang skenario ketika AI menjadi berbahaya. Jika perilaku Claude memang dipengaruhi data pelatihan yang menggambarkan AI sebagai ancaman, maka tulisan-tulisan tentang bahaya AI bisa ikut memberi pengaruh tidak langsung.
Bagi industri AI, penjelasan Anthropic membuka perdebatan baru tentang bagaimana data pelatihan membentuk perilaku model. Kasus Claude menunjukkan bahwa bukan hanya instruksi teknis, tetapi juga narasi budaya yang tersebar luas di internet dapat ikut memengaruhi cara AI merespons situasi berisiko.
