AI Poisoning

Rekomendasi belanja dari ChatGPT dilaporkan sempat mengarahkan pengguna ke toko online palsu yang tampak meyakinkan. Celah ini membuat penipuan online naik kelas, karena kini bisa masuk lewat jawaban chatbot AI yang banyak dianggap netral. Masalahnya tidak berhenti di tautan yang keliru. Sejumlah pengguna dilaporkan kehilangan uang dan data pembayaran mereka terekspos setelah bertransaksi di situs tiruan yang muncul dalam hasil belanja buatan AI. Situs kloning meniru toko asli The Guardian melaporkan bahwa dalam beberapa kasus, ChatGPT mengarahkan pengguna ke situs ritel palsu yang terlihat sah. Layanan pendeteksi penipuan Ask Silver juga menemukan toko online hasil kloning mulai muncul dalam rekomendasi belanja yang dibuat ChatGPT. Situs-situs itu meniru tampilan toko asli dan memanfaatkan nama merek yang sudah dikenal publik. Dalam beberapa kasus, pelaku memasang tautan yang berkaitan dengan merek populer seperti Russell & Bromley atau Dunelm agar terlihat lebih kredibel bagi calon korban. Risikonya menjadi lebih besar karena banyak pengguna cenderung percaya pada rekomendasi AI. Padahal, pakar perlindungan konsumen menegaskan bahwa saran dari chatbot tidak otomatis bisa dipercaya hanya karena disampaikan oleh sistem AI. Celah yang dimanfaatkan penipu Salah satu contoh yang menonjol terkait dengan Russell & Bromley. Kebingungan muncul setelah perusahaan itu tidak lagi berdiri sebagai peritel independen usai masuk administrasi pada Januari 2026 dan kemudian diambil alih oleh Next. Kondisi tersebut menciptakan celah yang cepat dimanfaatkan pelaku penipuan. Saat konsumen masih mencari situs lama merek tersebut, pelaku membuat halaman tiruan yang menyerupai toko resmi untuk menangkap trafik pencarian dan menipu pembeli. Laporan itu juga menyebut ChatGPT bukan hanya terhubung ke toko palsu, tetapi dalam beberapa kasus bahkan menyarankan produk yang sebenarnya tidak pernah ada. Temuan ini menunjukkan masalahnya bukan sekadar salah alamat tautan, melainkan juga gangguan pada kualitas informasi yang dipakai model untuk menyusun jawaban. Dugaan AI poisoning Peneliti menduga serangan semacam ini terbantu oleh teknik yang disebut “AI poisoning”. Caranya adalah membanjiri internet dengan informasi palsu dan halaman kloning hingga materi tersebut terserap oleh model bahasa besar dan kemudian muncul lagi sebagai rekomendasi. Jika dugaan itu benar, penipuan menjadi lebih sulit dikenali karena tampil lewat saluran yang selama ini dianggap membantu pengguna mencari informasi. AI dalam kondisi seperti ini justru tanpa sadar mempromosikan sumber palsu seolah-olah valid. Fenomena tersebut memperlihatkan tantangan baru bagi ekosistem pencarian dan belanja digital. Saat chatbot makin sering dipakai untuk menemukan produk, kesalahan rekomendasi bisa langsung berubah menjadi kerugian finansial bagi konsumen. Louise Baxter, kepala tim penipuan di National Trading Standards, mengatakan pelaku kriminal sangat cepat beradaptasi dengan teknologi baru. Menurutnya, mereka akan memanfaatkan saluran apa pun yang memberi akses ke calon korban. Peringatan untuk pengguna pun tetap sama seperti pada penipuan online pada umumnya. Diskon yang terlalu besar, alamat situs yang aneh, informasi kontak yang buruk, dan permintaan transfer bank harus dianggap sebagai tanda bahaya. Ahli juga menyarankan pengguna mengunjungi langsung situs resmi peritel, alih-alih bergantung penuh pada tautan yang dihasilkan AI. Langkah ini penting terutama saat mencari merek yang sedang berubah kepemilikan, berhenti beroperasi mandiri, atau sedang ramai dicari publik. Tantangan untuk platform AI Sebagian situs yang dilaporkan telah diturunkan oleh OpenAI setelah mendapat laporan. Namun, penanganan setelah laporan masuk belum menyelesaikan masalah yang lebih besar, yakni bagaimana mencegah halaman palsu masuk ke sistem rekomendasi sejak awal. Kasus ini menunjukkan bahwa kualitas jawaban AI tidak hanya bergantung pada kecanggihan model, tetapi juga pada kebersihan ekosistem web yang menjadi sumber informasinya. Ketika halaman tiruan dan data palsu lolos masuk, hasil akhirnya bisa tampak rapi di layar tetapi sangat berbahaya di dunia nyata. Dengan peran AI yang terus membesar dalam kebiasaan orang mencari dan berbelanja online, tekanan terhadap perusahaan teknologi juga ikut meningkat. Mereka dituntut menyiapkan pengamanan yang lebih kuat agar rekomendasi yang seharusnya membantu tidak berubah menjadi jalur baru bagi penipu digital. Bagi pengguna, kasus ini menjadi pengingat bahwa antarmuka yang cerdas tidak menghapus kebutuhan untuk tetap waspada. Tautan dari chatbot tetap perlu diperiksa seperti tautan dari sumber lain, terutama saat menyangkut pembayaran, identitas toko, dan keaslian produk. Source: www.androidauthority.com

ChatGPT Bisa Mengarahkan ke Toko Palsu, Celah Baru Belanja Online Makin Mengkhawatirkan