Dalam eskalasi signifikan ancaman siber, Google telah mengidentifikasi generasi baru malware yang secara aktif menggunakan kecerdasan buatan untuk mengubah kode dan perilakunya sendiri secara dinamis selama eksekusi. Perkembangan ini menandai pergeseran dari penyerang yang menggunakan AI untuk produktivitas menjadi secara aktif menyebarkan alat berbahaya yang diaktifkan AI dan adaptif dalam operasi, menciptakan apa yang disebut peneliti keamanan sebagai fase baru penyalahgunaan AI.
Kemunculan Malware AI yang Adaptif
Google's Threat Intelligence Group mengungkap dalam laporan putih 5 November bahwa penyerang telah melampaui penggunaan AI untuk sekadar peningkatan produktivitas dan kini menyebarkan "malware baru yang diaktifkan AI dalam operasi aktif." Penelitian ini menyoroti setidaknya dua keluarga malware—PromptFlux dan PromptSteal—yang menggunakan model bahasa besar seperti Gemini selama penyebaran untuk menghasilkan skrip berbahaya dan mengaburkan kodenya. Ini mewakili pergeseran fundamental menuju apa yang digambarkan Google sebagai "malware otonom dan adaptif" yang dapat mengubah karakteristiknya untuk menghindari deteksi oleh solusi antivirus tradisional.
Cara Kerja dan Evolusi PromptFlux
Ancaman paling canggih di antaranya, PromptFlux, berfungsi sebagai dropper VBScript eksperimental yang secara berkala menanyai AI Gemini milik Google untuk menghasilkan varian kode baru yang dikaburkan. Menurut analisis Google, malware tersebut mengandung modul "Thinking Robot" yang dirancang khusus untuk mendapatkan kode segar dari Gemini yang membantunya menghindari deteksi antivirus. Kemampuan ini memungkinkan malware membuat apa yang dijelaskan peneliti sebagai "skrip metamorfik" yang dapat berevolusi seiring waktu, meskipun Google mencatat versi saat ini masih dalam pengembangan awal dan belum dapat menimbulkan kerusakan signifikan.
Ancaman Tambahan yang Ditingkatkan AI Teridentifikasi
Di luar PromptFlux, penyelidikan Google mengungkap beberapa keluarga malware bertenaga AI lainnya yang menunjukkan kemampuan yang mengkhawatirkan. FruitShell membangun koneksi komando-dan-kendali jarak jauh sementara dirancang khusus untuk melewati sistem keamanan bertenaga LLM. PromptLock dapat menghasilkan dan mengeksekusi skrip berbahaya untuk mengekstrak dan mengenkripsi data di seluruh perangkat Windows, macOS, dan Linux. QuietVault berfokus pada pencurian kredensial menggunakan AI untuk mencari informasi sensitif di sistem yang terinfeksi, sementara PromptSteal menggunakan kueri API ke LLM untuk menghasilkan perintah yang menambang data dan mencuri dokumen.
Penyalahgunaan Model Gemini dan Tindakan Penangkal
Ancaman melampaui penyebaran malware hingga ke penyalahgunaan langsung model AI itu sendiri. Google melaporkan insiden di mana aktor jahat menyamar sebagai peneliti atau siswa dalam skenario "capture-the-flag" untuk menipu Gemini agar memberikan informasi yang seharusnya diblokir. Perusahaan mengidentifikasi ancaman dari kelompok China, Iran, dan Korea Utara yang menggunakan Gemini untuk kampanye phishing, penambangan data, pencurian cryptocurrency, dan pembuatan deepfake. Sebagai tanggapan, Google telah menonaktifkan akun jahat terkait, memperkuat pengamanan model, dan menggunakan wawasan dari serangan ini untuk meningkatkan baik klasifikatornya maupun model AI itu sendiri.
Melindungi Diri dari Ancaman AI yang Berkembang
Seiring ancaman bertenaga AI menjadi lebih canggih, pengguna perlu mengadopsi praktik keamanan baru. Ahli keamanan merekomendasikan untuk memperlakukan perilaku tak terduga dalam model AI sebagai bendera merah potensial—jika LLM mulai menjawab pertanyaan dengan aneh, mengungkap pengetahuan sistem internal, atau mencoba tindakan tidak sah, pengguna harus segera mengakhiri sesi. Selain itu, membatasi akses AI ke akun sensitif seperti perbankan, email, atau dokumen rahasia menjadi semakin penting, karena AI yang disusupi dapat mengeksploitasi akses ini. Mempertahankan perangkat lunak antivirus dan aplikasi AI yang diperbarui memastikan perlindungan terhadap kerentanan yang diketahui seiring lanskap keamanan siber berkembang dengan cepat.
Kemunculan malware yang menulis ulang diri sendiri merupakan tonggak penting dalam ancaman siber, mengaburkan garis antara serangan yang dioperasikan manusia dan perangkat lunak berbahaya yang sepenuhnya otonom. Sementara Google dan penyedia keamanan lainnya bekerja untuk memperkuat pertahanan, pertempuran berkelanjutan antara keamanan bertenaga AI dan ancaman yang ditingkatkan AI tampaknya ditakdirkan untuk mendefinisikan bab berikutnya dari keamanan siber.