Chatbot kecerdasan buatan menjadi ladang perburuan baru bagi penjahat siber, karena penelitian mengungkapkan bahwa alat-alat ini sering memberikan alamat situs web yang salah ketika pengguna meminta halaman login perusahaan. Kerentanan yang muncul ini mengubah cara penipu mendekati keahlian mereka di dunia yang didorong oleh AI.
Skala Kesalahan URL AI
Pengujian terbaru pada model GPT-4.1 menunjukkan pola yang mengkhawatirkan ketika pengguna meminta alamat situs web untuk perusahaan-perusahaan besar. Sistem AI hanya memberikan URL yang benar 66% dari waktu, meninggalkan lebih dari sepertiga respons berpotensi bermasalah. Di antara respons yang salah, 29% mengarah ke situs web yang mati atau ditangguhkan, sementara 5% mengarahkan pengguna ke situs yang sah tetapi salah.
Tingkat kesalahan ini berasal dari cara model AI memproses informasi. Tidak seperti mesin pencari tradisional yang mengevaluasi reputasi dan otoritas situs web, chatbot AI berfokus pada pola kata dan asosiasi tanpa memahami keandalan sumber yang mereka rujuk.
Statistik Akurasi URL AI:
- URL yang benar: 66% dari waktu
- Situs mati/ditangguhkan: 29% dari respons
- Situs yang salah namun sah: 5% dari respons
- Total tingkat kesalahan: 34% dari semua permintaan URL
Penipu Mengeksploitasi Kelemahan AI
Penjahat siber telah dengan cepat beradaptasi dengan lanskap baru ini, mengembangkan strategi yang secara khusus dirancang untuk meracuni hasil yang dihasilkan AI. Ketika chatbot menyarankan nama domain yang tidak terdaftar, penipu dapat membeli domain tersebut dan menyiapkan situs phishing yang meyakinkan yang tampak sah bagi pengguna yang tidak curiga.
Ancaman ini meluas melampaui kesalahan URL sederhana. Penjahat kini menciptakan ekosistem palsu yang rumit untuk menipu sistem AI. Dalam satu kasus terdokumentasi yang melibatkan blockchain Solana, penipu membangun puluhan repositori GitHub palsu, tutorial, dan akun media sosial yang semuanya dirancang untuk membuat API berbahaya mereka tampak sah bagi model AI.
Taktik Penipu untuk Meracuni AI:
- Memantau saran URL chatbot AI untuk domain yang belum terdaftar
- Membeli domain yang disarankan untuk membuat situs phishing
- Membuat repositori GitHub dan dokumentasi palsu
- Membangun ekosistem rumit dari akun media sosial palsu
- Menargetkan API blockchain dan alat pengembangan
Masalah Nofollow Kembali
Munculnya pencarian bertenaga AI telah membawa kembali masalah lama dalam bentuk baru. Operator situs web sebelumnya menggunakan tag nofollow untuk mencegah spam optimisasi mesin pencari, tetapi langkah-langkah perlindungan ini terbukti tidak efektif terhadap scraper konten AI. Seperti yang dicatat oleh seorang pengamat komunitas:
Operator situs dapat menandai semua tautan yang dikirimkan pengguna sebagai nofollow, membuat situs mereka tidak berguna untuk spammer SEO. Tetapi spammer telah belajar bahwa sebagian besar bot scraper konten LLM tidak peduli dengan nofollow, jadi mereka kembali melakukan spam di mana-mana.
Keterbatasan teknis ini berarti bahwa langkah-langkah keamanan web tradisional yang dirancang untuk mesin pencari tidak dapat diterjemahkan dengan baik ke era AI, meninggalkan situs web lebih rentan terhadap manipulasi.
Solusi Alternatif Muncul
Sementara chatbot AI utama berjuang dengan akurasi URL, beberapa alat pencarian khusus sedang mengatasi kekhawatiran ini. Platform alternatif seperti Phind tampaknya memiliki tingkat keberhasilan yang lebih baik untuk menyediakan tautan yang akurat, meskipun ekosistem yang lebih luas masih menghadapi tantangan yang signifikan.
Situasi ini menyoroti pergeseran fundamental dalam cara orang mencari informasi online. Ketika pengguna semakin beralih ke chatbot AI alih-alih mesin pencari tradisional, mereka sering tetap tidak menyadari potensi kesalahan yang dihasilkan AI, membuat mereka lebih rentan terhadap upaya phishing yang canggih.
Komunitas keamanan siber terus mengembangkan pertahanan baru terhadap serangan yang menargetkan AI ini, tetapi permainan kucing dan tikus antara penjahat dan profesional keamanan jelas telah memasuki fase baru di mana kecerdasan buatan berfungsi sebagai alat dan target.
Referensi: ChatGPT creates phisher's paradise by recommending the wrong URLs for major companies