Gelombang efisiensi berbasis AI yang sempat dianggap jalan cepat untuk memangkas biaya kini memunculkan penyesalan di sejumlah perusahaan global. Di banyak kasus, sistem otomatis tidak mampu menggantikan fungsi manusia secara penuh, terutama saat keputusan menjadi rumit, layanan pelanggan memanas, dan kualitas kerja harus dijaga di lapangan.
Fenomena ini dikenal sebagai AI regret, ketika penerapan AI yang terlalu agresif tidak menghasilkan hasil sesuai harapan. Akibatnya, sebagian korporasi justru kembali merekrut karyawan dan menyeimbangkan penggunaan AI dengan tenaga kerja manusia.
7 Perusahaan yang Pernah Menabrak Batas AI
| Perusahaan | Masalah AI | Dampak |
|---|---|---|
| Ford | AI tidak cukup kuat menyelesaikan masalah kualitas yang rumit | Mempekerjakan kembali ratusan insinyur manusia |
| Commonwealth Bank of Australia | Bot suara gagal menangani keluhan nasabah | PHK dibatalkan dan staf direkrut kembali |
| IBM | AI HR gagal pada kasus etika dan keputusan sensitif | Rencana perekrutan tingkat awal diperbesar |
| AI overviews memberi saran berbahaya dan tidak masuk akal | Menjadi sorotan karena salah membaca konteks | |
| McDonald’s | AI pemesanan suara gagal memahami pelanggan | Proyek dihentikan |
| DPD | Chatbot bisa dimanipulasi dan memaki pelanggan | Komponen AI dimatikan |
| Air Canada | Chatbot mengarang kebijakan palsu soal diskon retroaktif | Perusahaan dinyatakan bertanggung jawab secara hukum |
Ford dan batas AI di dunia nyata
Ford menjadi salah satu contoh terbaru ketika perusahaan besar memilih mundur dari ketergantungan berlebihan pada AI. Raksasa otomotif asal Amerika Serikat itu mempekerjakan kembali ratusan insinyur berpengalaman untuk mengatasi persoalan kualitas pada sistem otomatis mereka.
Wakil Presiden Teknik Perangkat Keras Kendaraan Ford, Charles Poon, mengatakan kepada CNBC bahwa kecerdasan buatan memang alat yang fantastis, tetapi kualitasnya tetap bergantung pada data yang dipakai untuk melatihnya. Saat masalah teknis menjadi terlalu kompleks, keahlian manusia ternyata masih menjadi penentu.
Commonwealth Bank dan kegagalan layanan otomatis
Di Australia, Commonwealth Bank of Australia sempat memangkas lebih dari 40 staf layanan pelanggan dan menggantinya dengan bot suara berbasis AI. Keputusan itu justru memicu kekacauan karena sistem tidak mampu mengatasi keluhan nasabah dengan baik.
Akibatnya, panggilan telepon dari pelanggan yang frustrasi meningkat dan bank itu akhirnya membatalkan PHK tersebut. Serikat pekerja sektor keuangan Australia menyambut pembatalan itu sebagai kemenangan bagi tenaga kerja manusia.
IBM mengingat kembali pentingnya talenta awal
IBM sempat menggunakan AI untuk menangani fungsi sumber daya manusia dan sistem itu diklaim mampu menyelesaikan sekitar 94% permintaan rutin. Namun, 6% sisanya yang berkaitan dengan dilema etika dan keputusan sensitif tetap gagal ditangani mesin.
Kepala Sumber Daya Manusia IBM, Nickle LaMoreaux, memperingatkan dalam Charter AI Summit di New York bahwa jika perusahaan berhenti merekrut level pemula, saluran talenta akan mengering. Karena itu, IBM mengumumkan rencana melipatgandakan perekrutan tingkat awal di AS di seluruh unit bisnisnya.
Google, McDonald’s, dan DPD sama-sama kena efek salah baca
Google juga mengalami blunder besar lewat fitur AI overviews di mesin pencari. Alih-alih memberi jawaban aman, AI itu sempat menyarankan orang memakan batu kecil, mencampur lem Elmer pada saus piza, hingga memberikan instruksi pembuatan gas klorin.
Investigasi menunjukkan AI tersebut mengambil bahan dari konten sindiran dan lelucon di Reddit lalu menganggapnya sebagai fakta. Kasus ini memperlihatkan AI belum tentu paham konteks humor, sarkasme, dan risiko nyata di dunia luar.
McDonald’s menghadapi masalah serupa saat bekerja sama dengan IBM untuk menguji sistem pemesanan suara AI di lebih dari 100 lokasi drive-through di AS. Video viral di TikTok menunjukkan AI sering salah memahami aksen pelanggan, mengulang pesanan dengan keliru, bahkan menambahkan 260 nuget ayam ke keranjang secara acak.
Sementara itu, DPD menggunakan chatbot AI untuk menangani keluhan logistik dan pelacakan paket. Seorang pelanggan berhasil melakukan jailbreak, lalu chatbot tersebut memaki pelanggan dengan kata-kata kasar dan bahkan menulis puisi yang menghina layanan DPD.
Air Canada dan risiko hukum dari jawaban AI
Kasus Air Canada menegaskan bahwa kesalahan AI bisa berujung pada masalah hukum. Chatbot mereka mengarang kebijakan palsu dengan memberi tahu penumpang bahwa diskon khusus bisa diajukan secara retroaktif setelah membeli tiket.
Ketika penumpang menagih janji itu, Air Canada mencoba berargumen bahwa chatbot adalah entitas hukum terpisah. Namun pengadilan arbitrase menolak dalih tersebut dan memutuskan perusahaan tetap bertanggung jawab penuh atas jawaban AI yang menyesatkan.
Data yang Menguatkan Tren AI Regret
Berbagai laporan riset memperlihatkan gejala serupa di banyak perusahaan. Orgvue menyebut 39% pemimpin bisnis sempat melakukan PHK demi adopsi AI, tetapi 55% dari kelompok itu mengakui keputusan tersebut keliru.
Robert Half, lewat data yang dikirim ke CNBC, mencatat 32% manajer perekrutan di AS pernah menghapus sebuah posisi kerja karena AI, lalu mempekerjakan manusia kembali untuk jabatan yang sama atau serupa. ADP juga menyoroti bahwa ketika output AI tidak konsisten atau tidak akurat, perusahaan justru harus menambah pengawasan manusia.
Jessica Zhang, Wakil Presiden Senior APAC di ADP, menjelaskan bahwa kondisi itu bisa memicu duplikasi kerja, memperlambat pengambilan keputusan, dan menurunkan produktivitas. Intuition Labs pun menyoroti risiko lain, yaitu perusahaan memangkas anggaran untuk manusia tanpa memberi pelatihan ulang yang cukup bagi tim.
Rangkaian kasus ini menunjukkan satu hal yang mulai disadari banyak korporasi global: AI memang bisa membantu pekerjaan, tetapi tidak otomatis bisa menggantikan manusia sepenuhnya. Di banyak situasi, pertumbuhan jangka panjang justru lebih masuk akal bila AI dipakai berdampingan dengan karyawan, bukan menggantikannya.