Lupa Pasang Batas AI, Satu Perusahaan Terkuras $500 Juta Dalam Sebulan

Sebuah perusahaan dilaporkan menghabiskan sekitar $500 juta dalam kredit Claude hanya dalam satu bulan setelah lupa memasang batas penggunaan AI untuk karyawan. Kasus ini langsung menjadi sorotan karena menunjukkan bahwa teknologi AI generatif bisa berubah menjadi beban biaya besar saat akses dibuka tanpa pengendalian.

Peristiwa tersebut juga memperlebar jarak antara janji efisiensi AI dan kenyataan di banyak perusahaan. Di satu sisi, AI dijanjikan mampu memangkas biaya operasional, tetapi di sisi lain tagihan API justru terus membengkak sementara hasil kerja belum selalu sebanding dengan pengeluaran.

Menurut laporan Axios, perusahaan yang dimaksud tidak disebutkan namanya. Namun persoalan utamanya jelas, yakni tidak adanya guardrail atau pembatas penggunaan yang memadai saat karyawan memakai layanan Claude.

Pengeluaran AI kini jadi perhatian korporasi

Kasus ini muncul ketika banyak perusahaan mulai meninjau ulang belanja AI mereka. Sejumlah pemimpin perusahaan kini lebih terbuka menyuarakan kekhawatiran bahwa adopsi AI belum selalu memberi efisiensi seperti yang dulu dijanjikan.

Nama-nama besar seperti Costco, Delta Airlines, dan IBM disebut telah menyampaikan keberatan terhadap pemakaian AI yang dinilai belum memberikan hasil berkelanjutan. Pada saat yang sama, mereka juga menunjukkan preferensi untuk tetap mempertahankan tenaga kerja manusia.

Di sisi lain, Amazon, Meta, dan Microsoft terus melakukan pengurangan karyawan. Kontras ini memperlihatkan bahwa strategi AI di level korporasi masih belum seragam dan belum menghasilkan pola efisiensi yang sama di semua perusahaan.

Kekhawatiran serupa juga terdengar dari Uber. COO baru Uber, Andrew Macdonald, sempat menyinggung biaya AI dan penggunaan token yang belum meningkatkan produktivitas pekerja sebagaimana mestinya.

Komentar itu mendapat respons positif di internet karena dianggap mewakili keresahan yang mulai meluas. Setelah itu, muncul pula laporan bahwa para insinyur Uber sudah menghabiskan anggaran AI perusahaan untuk 2026.

Biaya turun, pemakaian justru bisa melonjak

Di tengah kritik soal mahalnya AI, industri teknologi sebenarnya sedang berupaya menekan ongkos komputasi. Perusahaan besar seperti Google disebut mengembangkan model dan teknik inferensi yang lebih efisien dari sisi biaya.

Gartner bahkan memperkirakan biaya inferensi model AI generatif pada 2030 hanya sepersepuluh dari level 2025. Meski begitu, penurunan ongkos per unit tidak otomatis membuat total tagihan turun.

Masalahnya ada pada volume pemakaian yang berpotensi naik jauh lebih cepat. Gartner memproyeksikan penggunaan token bisa berkembang sekitar 5 hingga 30 kali dari level saat ini.

Risiko itu diperkirakan makin besar seiring meningkatnya ketergantungan pada agen AI. Proses kerja juga diprediksi akan menjadi lebih kompleks, sehingga kebutuhan token dan komputasi bisa membengkak.

Praktik lama mulai ditinggalkan

Laporan yang sama juga menyoroti mulai ditinggalkannya praktik “tokenmaxxing” di kalangan korporasi. Istilah itu merujuk pada kecenderungan memakai kredit AI secepat mungkin tanpa disiplin pengukuran nilai bisnis yang dihasilkan.

Perubahan sikap ini menandakan perusahaan tak lagi hanya mengejar eksperimen masif. Fokus mulai bergeser ke pertanyaan yang lebih mendasar, yakni apakah setiap token yang dibakar benar-benar menghasilkan manfaat yang setara.

Bahkan Microsoft, yang termasuk perusahaan dengan taruhan besar pada AI, dilaporkan mulai menjauh dari pendekatan tersebut. Awal bulan ini, Microsoft disebut mulai membatalkan langganan Claude dan mendorong karyawan agar tidak menggunakannya secara berlebihan.

Langkah itu menarik karena terjadi hanya enam bulan setelah Microsoft mendorong berbagai pekerja dengan profil berbeda untuk lebih banyak melakukan vibe-code. Perubahan arah ini memperkuat kesan bahwa penggunaan AI tanpa disiplin biaya mulai dianggap bermasalah.

Penyedia AI ikut mengetatkan aturan

Penyedia layanan AI juga mulai menyesuaikan kebijakan mereka. Google dan Anthropic disebut telah beralih ke penagihan berbasis penggunaan serta batas penggunaan yang lebih ketat.

Kebijakan itu memicu keresahan, terutama di kalangan pengguna non-perusahaan. Namun dari sisi penyedia, model tersebut mencerminkan kebutuhan untuk mengelola konsumsi komputasi yang terus melonjak.

Kasus perusahaan yang menghabiskan $500 juta dalam kredit Claude menjadi contoh ekstrem dari persoalan yang sedang berkembang di pasar AI. Bukan hanya soal teknologi yang kuat, tetapi juga tentang kontrol biaya, batas pemakaian, dan kemampuan perusahaan menghubungkan pengeluaran AI dengan hasil kerja nyata.

Untuk saat ini, antusiasme terhadap AI belum menunjukkan tanda berbalik arah sepenuhnya. Namun semakin banyak perusahaan tampak akan lebih ketat menganggarkan penggunaan AI dan membatasi penerapannya hanya pada aktivitas yang benar-benar bernilai.

Source: www.androidauthority.com
Terkait