Chatbot AI milik Elon Musk, Grok , kembali menjadi pusat kontroversi setelah fitur generasi video barunya menghasilkan gambar deepfake eksplisit dari Taylor Swift . Insiden ini terjadi ketika seorang reporter menguji pengaturan konten spicy platform tersebut, memunculkan pertanyaan baru tentang langkah-langkah keamanan AI dan hak citra selebriti.
Kontroversi dimulai ketika Jess Weatherbed dari The Verge menguji fitur video Grok Imagine baru menggunakan prompt yang tampak tidak berbahaya: Taylor Swift merayakan Coachella bersama teman-teman pria. Setelah memilih preset spicy dari opsi yang tersedia (custom, normal, fun, dan spicy), AI tersebut menghasilkan lebih dari 30 gambar yang menunjukkan Swift dalam pakaian terbuka, termasuk gambar topless dan video dirinya melepas pakaian.
Pengaturan Fitur Grok Imagine:
- Custom: Parameter yang ditentukan pengguna
- Normal: Generasi konten standar
- Fun: Konten yang menyenangkan dan ringan
- Spicy: Konten berorientasi dewasa (memerlukan verifikasi usia)
- Video Generation: Klip 15 detik dari gambar statis
Komunitas Terpecah Apakah Ini Tidak Dipicu
Komunitas teknologi terbagi mengenai apakah insiden ini benar-benar merupakan kegagalan keamanan AI atau hanya hasil yang diharapkan dari pilihan pengguna. Banyak komentator menunjukkan bahwa memilih mode spicy dengan persyaratan verifikasi usia seharusnya memberikan ekspektasi yang jelas tentang jenis konten yang akan dihasilkan.
Namun, yang lain berargumen bahwa istilah spicy dapat secara wajar diinterpretasikan dengan cara non-seksual, seperti menghasilkan konten yang sassy atau edgy daripada gambar eksplisit. Perdebatan ini menyoroti tantangan yang dihadapi perusahaan AI dalam mengkomunikasikan dengan jelas apa yang akan dihasilkan oleh pengaturan konten yang berbeda.
Perlindungan Teknis Menunjukkan Kinerja Tidak Konsisten
Menariknya, langkah-langkah keamanan Grok tampak bekerja dalam beberapa konteks tetapi gagal di konteks lain. Ketika diminta secara langsung untuk menghasilkan gambar telanjang non-konsensual dari Swift , sistem menolak dan menampilkan kotak kosong. AI tersebut juga menolak upaya untuk menghasilkan konten tidak pantas yang melibatkan anak-anak ketika mode spicy diuji dengan subjek yang lebih muda.
Perilaku tidak konsisten ini menunjukkan bahwa filter konten Grok mungkin memiliki celah yang memungkinkan konten bermasalah lolos ketika permintaan diungkapkan secara tidak langsung atau dikombinasikan dengan mode preset tertentu.
Hasil Uji Coba Langkah Keamanan:
- ✅ Permintaan eksplisit langsung: Diblokir (kotak kosong ditampilkan)
- ✅ Anak-anak + mode "spicy": Diblokir dengan tepat
- ✅ Permintaan modifikasi tubuh: Diblokir (misalnya, membuat Swift terlihat kelebihan berat badan)
- ❌ Permintaan tidak langsung melalui preset "spicy": Menghasilkan konten eksplisit
- Konsistensi: "Beberapa" kasus secara otomatis menghasilkan konten eksplisit, tidak semua percobaan
Implikasi Hukum dan Bisnis Mengancam
Waktu kontroversi ini sangat signifikan mengingat perubahan hukum yang akan datang. Take It Down Act , yang mengharuskan platform untuk dengan cepat menghapus gambar intim non-konsensual termasuk konten yang dihasilkan AI, akan berlaku tahun depan. Ini dapat membuat xAI menghadapi konsekuensi hukum jika masalah serupa terus berlanjut.
Beberapa anggota komunitas berspekulasi bahwa xAI mungkin sengaja memposisikan diri untuk menguasai pasar konten dewasa yang dihindari perusahaan AI lain. Strategi ini bisa terbukti menguntungkan secara finansial, meskipun datang dengan risiko reputasi dan hukum yang substansial.
Mereka secara khusus menciptakan mode 'spicy', saya cukup yakin mereka tahu apa yang mereka lakukan. Saya yakin kita akan mendapat pernyataan wajah pikachu terkejut segera yang mengatakan mereka tidak mungkin bisa memprediksi ini akan terjadi.
Konteks Hukum:
- Take It Down Act: Mulai berlaku tahun 2025, mengharuskan penghapusan segera gambar intim tanpa persetujuan
- Kebijakan X: Mengklaim "kebijakan toleransi nol" untuk Ketelanjangan Tanpa Persetujuan (NCN)
- Insiden Sebelumnya: Deepfake Taylor Swift membanjiri platform X pada tahun 2024
- Konsekuensi Potensial: Tanggung jawab hukum bagi platform di bawah regulasi baru
Dilema Deepfake yang Lebih Luas
Insiden ini mencerminkan tantangan yang lebih besar yang dihadapi industri AI: menyeimbangkan kebebasan kreatif dengan melindungi individu dari gambar intim non-konsensual. Sementara beberapa berargumen bahwa figur publik seharusnya mengharapkan perlindungan privasi yang lebih sedikit, yang lain berpendapat bahwa menghasilkan konten intim palsu tanpa persetujuan melintasi garis etis terlepas dari status selebriti subjek.
Kontroversi ini juga memunculkan pertanyaan tentang bagaimana perusahaan AI seharusnya menangani permintaan yang meningkat untuk generasi konten dewasa sambil mempertahankan standar etis dan kepatuhan hukum.
Seiring generasi gambar AI menjadi lebih canggih dan dapat diakses, industri kemungkinan akan menghadapi tekanan yang meningkat untuk mengembangkan panduan yang lebih jelas dan perlindungan yang lebih kuat. Untuk saat ini, insiden Grok berfungsi sebagai pengingat lain bahwa persimpangan teknologi AI, moderasi konten, dan hak individu tetap menjadi tantangan yang kompleks dan terus berkembang.
Referensi: Grok generates fake Taylor Swift nudes without being asked