Satya Nadella mengingatkan perusahaan bahwa AI bukan sekadar alat kerja yang cepat dan murah. Menurut bos Microsoft itu, penggunaan AI yang terlalu dalam justru bisa membuat perusahaan menyerahkan pengetahuan internal paling berharga tanpa sadar.
Peringatan ini memusat pada satu risiko yang jarang dibahas terang-terangan: data dan konteks bisnis yang dimasukkan agar AI makin pintar. Semakin banyak dokumen, proses, dan koreksi yang diberikan, semakin besar pula peluang pengetahuan itu terserap ke sistem AI.
AI Bisa Membalik Posisi Pembeli dan Penjual Informasi
Nadella menyampaikan kekhawatiran itu lewat unggahan panjang di X pada Minggu (12/7/2026) malam. Unggahan tersebut kemudian dilihat lebih dari 5,7 juta kali dan memicu perhatian luas karena ia menyoroti apa yang disebutnya sebagai reverse information paradox.
Istilah itu merujuk pada teori ekonom peraih Nobel Kenneth Arrow tentang paradoks dalam perdagangan informasi. Dalam teori klasik, penjual sulit membuktikan nilai informasi tanpa membukanya lebih dulu, tetapi setelah dibuka pembeli langsung memilikinya.
Di era AI, menurut Nadella, posisi itu justru terbalik. Ia menilai pembeli kini harus membocorkan pengetahuannya sendiri agar produk AI yang dibeli benar-benar berguna.
“Anda pada dasarnya membayar kecerdasan dua kali, sekali dengan uang, dan sekali lagi dengan sesuatu yang lebih berharga, yakni pengetahuan hak milik yang harus Anda ungkapkan agar kecerdasan itu berguna. Semakin baik kinerja model yang Anda inginkan, semakin banyak pengetahuan yang harus Anda berikan,” ujar Nadella, dikutip dari TechCrunch.
| Istilah | Makna | Dampak bagi Perusahaan |
|---|---|---|
| Reverse Information Paradox | Pembeli harus membuka pengetahuan sendiri agar AI berguna | Perusahaan berisiko menyerahkan aset informasi internal |
| AI Exhaust | Jejak prompt, alat yang dipanggil AI agent, dan koreksi pengguna | Setiap interaksi ikut menjadi sumber pembelajaran model |
Jejak Kerja Karyawan Juga Jadi Bahan Belajar
Nadella menilai ancaman terbesar bukan hanya dokumen yang diunggah ke model AI, melainkan seluruh jejak penggunaan selama proses kerja. Ia menyebut jejak itu sebagai AI exhaust, yang mencakup prompt, alat yang dipanggil oleh AI agent, hingga koreksi yang dibuat karyawan saat model salah menjawab.
Menurut dia, model belajar dari jejak itu dan menyaringnya menjadi pengetahuan institusional. Artinya, setiap koreksi dan evaluasi yang dilakukan pengguna bukan hanya tindakan teknis, tetapi juga sumber pembelajaran yang sangat berharga.
Masalahnya, aliran pengetahuan itu tidak selalu seimbang. Penyedia model terus mempelajari bisnis pelanggan, sementara pelanggan tidak sepenuhnya tahu apa yang dipelajari penyedia dari seluruh interaksi tersebut.
Standar Ganda di Industri AI
Nadella juga menyoroti aturan distilasi model AI yang menurutnya tidak konsisten. Ia mengakui pengembang model membutuhkan perlindungan hukum seperti prinsip fair use agar bisa melatih model dari data publik di internet.
Namun setelah model selesai dibuat, banyak penyedia AI justru membatasi distilasi, yaitu teknik mempelajari keluaran model untuk melatih model lain yang lebih efisien atau lebih murah. Pada Februari lalu, Anthropic bahkan menuduh sebuah model open source asal China mengirim jutaan permintaan ke Claude untuk mempelajari perilaku model tersebut.
Di saat yang sama, Nadella mempertanyakan kebijakan penyedia AI yang tetap memberi hak kepada diri mereka sendiri untuk mempelajari data penggunaan dan interaksi pelanggan. Jika pembelajaran hanya berjalan satu arah, ia menilai nilai akhirnya akan terkonsentrasi pada pemilik infrastruktur AI, bukan pada perusahaan yang menciptakan pengetahuan itu.
Dalam unggahan itu, ia juga mengutip CEO Palantir Alex Karp yang menyebut pelanggan sebenarnya menginginkan kepemilikan atas alat produksi, bukan sekadar menjadi pengguna teknologi.
Kerangka 5C untuk Menjaga Kendali Data
Untuk mengurangi risiko tersebut, Nadella menawarkan 5C Framework agar perusahaan tetap memegang kendali atas proses pembelajaran AI. Prinsip pertama adalah control, yaitu membangun sistem evaluasi sendiri dan memiliki kepemilikan penuh atas memori AI, jejak penggunaan, serta umpan balik pengguna.
Prinsip kedua adalah capability, yakni melakukan pelatihan dan penyempurnaan model di dalam lingkungan cloud milik perusahaan sendiri. Dengan begitu, data tidak keluar dari batas sistem internal organisasi.
Prinsip ketiga adalah choice, yaitu membangun lapisan orkestrasi agar perusahaan bisa berpindah dari satu model AI ke model lainnya tanpa kehilangan kemampuan yang sudah dibangun. Prinsip ini juga mengurangi ketergantungan pada satu penyedia layanan.
Prinsip keempat adalah cost, karena lapisan orkestrasi memungkinkan perusahaan memilih model paling efisien untuk tiap pekerjaan sehingga biaya operasional lebih terkendali. Prinsip kelima adalah compound, yaitu membuat siklus pembelajaran AI terus berkembang tanpa menyerahkan pengetahuan internal kepada pihak lain.
“Dalam mengonsumsi kecerdasan, Anda juga menciptakan kecerdasan. Dan apa yang Anda ciptakan seharusnya menjadi milik Anda,” tutup Nadella.
Minat ke Model Open Source Makin Meningkat
Meski Nadella tidak menyebut open source sebagai jawaban langsung, banyak perusahaan mulai mengambil arah itu dengan menjalankan model AI di infrastruktur sendiri atau secara on-premises. Tujuannya adalah menjaga agar data tetap berada di lingkungan internal perusahaan.
Idit Levine, pendiri sekaligus CEO Solo.io, mengatakan banyak pelanggannya awalnya mencoba model AI proprietary sebelum menyadari risiko dan biayanya. Setelah itu, mereka mulai melirik model open source yang bisa dijalankan secara lokal.
“Bisakah saya mengambil model open source dan menjalankannya secara on-prem? Model itu mampu melakukan hampir 90% dari apa yang dilakukan model besar dengan biaya yang jauh lebih murah. Mereka memahaminya, dan mereka dapat mengendalikannya,” kata Levine.
Solo.io adalah perusahaan perangkat lunak jaringan dan keamanan yang membantu organisasi mengelola sistem AI. Teknologinya dipilih sebagai fondasi project agentgateway milik Linux Foundation, dan pelanggannya mencakup T-Mobile, ADP, serta SAP.
Tren serupa juga terlihat di Vercel dan OpenRouter, dua perusahaan yang menyediakan layanan pengalihan model AI. Keduanya melaporkan lonjakan penggunaan model open source, dan menurut data Vercel, model open source menyumbang sekitar 29% dari seluruh lalu lintas AI yang melewati gateway mereka pada bulan lalu.
Pernyataan Nadella menarik perhatian karena Microsoft merupakan salah satu investor terbesar di OpenAI dan juga memiliki hubungan bisnis dengan Anthropic. Di tengah adopsi AI yang makin cepat, pesan Nadella menegaskan bahwa perusahaan harus memastikan pengetahuan yang lahir dari penggunaan AI tetap menjadi milik organisasi itu sendiri.