Kecerdasan buatan telah menjadi alat yang ampuh untuk inovasi maupun manipulasi, sebagaimana laporan keamanan terbaru OpenAI mengungkap sisi gelap adopsi AI oleh para pelaku jahat. Perusahaan di balik ChatGPT telah mengidentifikasi dan membongkar berbagai kampanye terkoordinasi di mana kelompok-kelompok yang disponsori negara memanfaatkan teknologi AI untuk menyebarkan propaganda, memanipulasi opini publik, dan melakukan operasi pengaruh canggih di berbagai platform global.
Eksploitasi AI yang Disponsori Negara Mencapai Tingkat Baru
Laporan OpenAI berjudul Disrupting malicious uses of AI: June 2025 mendokumentasikan bagaimana perusahaan berhasil menggagalkan sepuluh kampanye jahat terpisah selama beberapa bulan pertama tahun 2025. Operasi-operasi ini merepresentasikan eskalasi signifikan dalam cara rezim-rezim otoriter mempersenjatai teknologi AI untuk pengaruh geopolitik. Kampanye-kampanye tersebut menargetkan segala hal mulai dari penipuan pekerjaan hingga operasi rekayasa sosial kompleks yang dirancang untuk merusak proses demokrasi dan menabur perpecahan di negara-negara target.
Kampanye yang Digagalkan Berdasarkan Negara Asal:
- China: 4 kampanye (termasuk " Sneer Review " dan " Uncle Spam ")
- Russia: Beberapa kampanye (termasuk " Helgoland Bite ")
- Iran: Beberapa kampanye
- North Korea: Beberapa kampanye
- Total yang digagalkan: 10 kampanye dalam beberapa bulan pertama tahun 2025
Operasi Tiongkok Menargetkan Taiwan dan Wacana Politik AS
Empat dari kampanye yang digagalkan berasal dari Tiongkok, menunjukkan taktik canggih yang memadukan konten yang dihasilkan AI dengan disinformasi strategis. Operasi Sneer Review secara khusus menargetkan kemerdekaan Taiwan dengan membanjiri ulasan permainan papan Reversed Front dengan komentar kritis yang dihasilkan AI. Para pelaku Tiongkok kemudian memanfaatkan ulasan-ulasan palsu ini untuk membuat artikel yang mengklaim adanya reaksi keras yang meluas terhadap permainan tersebut, yang menggambarkan perlawanan terhadap Partai Komunis Tiongkok. Pendekatan berlapis ini menunjukkan bagaimana AI dapat memperkuat kontroversi buatan untuk mencapai tujuan politik.
Pelaku Rusia Menggunakan ChatGPT untuk Interferensi Pemilu Jerman
Kampanye Helgoland Bite mengungkap upaya Rusia untuk mempengaruhi politik Jerman melalui konten berbahasa Jerman yang dihasilkan AI yang mengkritik Amerika Serikat dan NATO. Operatif Rusia menggunakan ChatGPT tidak hanya untuk membuat materi propaganda tetapi juga untuk mengidentifikasi aktivis oposisi dan blogger untuk dijadikan target. Waktu kampanye ini bertepatan dengan siklus pemilu Jerman 2025, menyoroti bagaimana alat AI dipersenjatai untuk mengganggu proses demokrasi di berbagai negara secara bersamaan.
Kampanye Uncle Spam Mengeksploitasi Perpecahan Politik AS
Mungkin yang paling mengkhawatirkan bagi audiens Amerika, operasi Uncle Spam menunjukkan bagaimana pelaku Tiongkok menggunakan ChatGPT untuk membuat konten yang sangat memecah belah yang bertujuan memperlebar polarisasi politik di Amerika Serikat. Kampanye ini menghasilkan akun media sosial yang berargumen baik mendukung maupun menentang topik-topik kontroversial seperti tarif, sambil juga membuat halaman dukungan veteran palsu untuk membangun kredibilitas. Pendekatan menghasilkan konten di berbagai sisi isu-isu yang memecah belah ini merepresentasikan pemahaman canggih tentang cara memaksimalkan perpecahan sosial melalui manipulasi yang dihasilkan AI.
Taktik Canggih Termasuk Ulasan Kinerja dan Penjangkauan Tertarget
Kecanggihan operasi-operasi ini melampaui sekadar pembuatan konten sederhana. Propagandis Tiongkok membuat ulasan kinerja terperinci yang mendokumentasikan penggunaan ChatGPT mereka untuk operasi pengaruh, memperlakukan manipulasi AI sebagai perusahaan profesional dengan hasil yang dapat diukur. Selain itu, para pelaku ini menggunakan teknologi OpenAI untuk menyusun email tertarget kepada jurnalis, analis, dan politisi dengan dalih palsu, berusaha membangun hubungan dan mengekstrak informasi sensitif melalui rekayasa sosial yang ditingkatkan AI.
Taktik dan Target Kampanye:
- Penipuan pekerjaan dan operasi pengaruh
- Manipulasi media sosial dan pembuatan akun palsu
- Penerjemahan dan pembuatan konten dalam berbagai bahasa
- Pendekatan terarah kepada jurnalis, analis, dan politisi
- Dokumentasi tinjauan kinerja penyalahgunaan AI
- Pesan terkoordinasi lintas platform
Lanskap Ancaman yang Berkembang Mencakup Berbagai Negara
Ben Nimmo , investigator utama OpenAI di tim intelijen dan investigasi, menekankan bahwa Tiongkok hanya merepresentasikan satu bagian dari lanskap ancaman yang lebih luas. Laporan tersebut mengidentifikasi aktivitas jahat serupa dari Rusia, Iran, dan Korea Utara, menunjukkan bahwa operasi pengaruh bertenaga AI telah menjadi alat standar dalam arsenal perang digital rezim-rezim otoriter. Adopsi global AI untuk tujuan jahat ini menghadirkan tantangan yang belum pernah ada sebelumnya baik bagi perusahaan teknologi maupun institusi demokratis.
Detail Kampanye Spesifik:
- Sneer Review: Menargetkan permainan papan " Reversed Front " Taiwan dengan ulasan negatif palsu
- Helgoland Bite: Operasi Rusia yang menciptakan konten berbahasa Jerman anti- US / NATO untuk pemilu Jerman 2025
- Uncle Spam: Operasi Tiongkok yang menciptakan konten politik AS yang memecah belah dan halaman dukungan veteran palsu
Implikasi untuk Integritas Informasi Online
Temuan OpenAI berfungsi sebagai pengingat keras bahwa keaslian konten online tidak lagi dapat diasumsikan begitu saja. Laporan perusahaan memperingatkan bahwa individu yang berinteraksi dengan konten kontroversial online mungkin tanpa sadar berinteraksi dengan materi yang dihasilkan AI yang dirancang untuk memicu respons emosional tertentu. Realitas ini secara fundamental menantang bagaimana warga mengonsumsi dan mengevaluasi informasi di era digital, memerlukan tingkat literasi media dan keterampilan berpikir kritis yang baru untuk menavigasi lingkungan informasi yang semakin dimanipulasi.