Debat panas sedang berlangsung di komunitas teknologi dan kemanusiaan mengenai maraknya AI-generated poverty porn—gambar-gambar penderitaan yang stereotip dan terasialisasi yang dibuat oleh kecerdasan buatan. Sementara banyak yang mengutuk teknologi ini, diskusi yang lebih mendalam muncul tentang apakah masalah sebenarnya terletak pada alat itu sendiri atau bias yang sudah berlangsung lama dari organisasi yang menggunakannya.
Konflik Inti: Apakah AI Masalahnya atau Hanya Sang Pembawa Pesan?
Argumen sentral yang memecah komunitas adalah apakah generative AI merupakan penyebab utama citra berbahaya atau hanya mekanisme penyampaian yang baru dan lebih efisien untuk prasangka yang sudah ada sebelumnya. Kritikus teknologi ini melihatnya sebagai pemicu berbahaya yang harus dikendalikan, sementara yang lain berargumen bahwa melarang alat tersebut akan menjadi perbaikan superfisial yang mengabaikan masalah mendasar.
Masalahnya ada pada alatnya. Menyarankan sebaliknya sama dengan menyarankan siapa pun seharusnya bisa membeli senjata nuklir yang dengan sendirinya tidak melakukan apa-apa. Aktor jahat hanya bisa memanfaatkan apa yang ada.
Perspektif ini melihat AI sebagai alat yang secara inheren berbahaya dan memperbesar kerugian. Namun, pandangan ini sangat ditentang oleh mereka yang percaya fokus seharusnya pada pengguna dan motivasi mereka, bukan pada teknologinya itu sendiri. Mereka berargumen bahwa dorongan untuk menciptakan citra yang merendahkan martabat manusia sudah ada jauh sebelum AI, berakar pada pola pikir kolonial di dalam sektor kemanusiaan yang mengutamakan sensibilitas donor Barat daripada martabat subjek.
Konsekuensi Praktis dari Diagnosis yang Salah
Diskusi dengan cepat beralih ke dampak dunia nyata dari bagaimana kita membingkai masalah ini. Jika solusinya adalah larangan menyeluruh terhadap AI dalam komunikasi kemanusiaan, banyak yang khawatir hal itu akan merugikan organisasi-organisasi lokal yang lebih kecil secara tidak proporsional. Bagi kelompok-kelompok ini, AI bukanlah alat untuk menciptakan poverty porn melainkan keuntungan taktis dalam pertarungan untuk bertahan hidup. Mereka seringkali kekurangan sumber daya untuk tim komunikasi penuh dan fotografer profesional, menjadikan AI sebagai cara yang hemat biaya untuk bersaing mendapatkan visibilitas di dunia yang digerakkan oleh algoritme yang menuntut konten visual secara konstan.
Lebih lanjut, beberapa organisasi etis menggunakan AI untuk memecahkan masalah yang sangat etis, seperti membuat potret bermartabat untuk cerita tanpa mengeksploitasi persetujuan orang sungguhan. Larangan luas akan melucuti kasus penggunaan positif ini sambil mengizinkan organisasi besar dan kaya untuk kembali ke praktik berbahaya lama mereka menggunakan fotografi tradisional. Ini menyoroti ketegangan kritis dalam debat: risiko menghukum inovasi etis sementara gagal menangani masalah budaya inti di organisasi bantuan besar.
Pandangan Mendalam tentang Masalah Sistemik dan Akuntabilitas
Komentator menunjuk bahwa kompleks industri-NGO telah lama menyebarkan tropa berbahaya ini, terlepas dari teknologi yang digunakan. Model bisnis banyak organisasi besar bergantung pada menunjukkan penderitaan untuk mendorong donasi, menciptakan permintaan sistemik untuk citra semacam itu. Hal ini menunjukkan bahwa masalahnya bukanlah teknologis melainkan struktural, terkait dengan bagaimana bantuan didanai dan dibenarkan bagi donor di Global North.
Percakapan ini mengungkap ketidaksepakatan mendasar tentang sifat solusinya. Beberapa menganjurkan perbaikan teknis dan moderasi konten, sementara yang lain bersikeras bahwa hanya pergeseran budaya yang mendalam di dalam sektor kemanusiaan—menantang warisan kolonialnya yang dalam dan belum terselesaikan—yang akan menciptakan perubahan yang langgeng. Ini membingkai ulang debat dari Haruskah kita menggunakan AI? menjadi Bagaimana kita menantang sistem yang menuntut gambar-gambar ini sejak awal?
Pertukaran yang Tak Terhindarkan di Dunia yang Terhubung
Diskusi ini meluas menjadi debat filosofis yang lebih luas tentang pertukaran inheren dalam membangun sistem komunikasi modern. Seorang komentator menyajikan trilema yang suram, berargumen bahwa kita hanya bisa memiliki dua dari tiga kualitas yang diinginkan dalam ekosistem digital kita: platform terdesentralisasi, partisipasi anonim, dan konten terpercaya yang kebal dari aktor jahat. Kerangka kerja ini menunjukkan bahwa masalah dengan konten yang dihasilkan AI tidak unik tetapi merupakan bagian dari teka-teki tata kelola online yang lebih besar dan tidak terpecahkan. Kita dihadapkan pada pilihan antara lanskap neraka yang tidak dapat digunakan, taman berdinding korporat yang terpusat, atau taman berdinding tingkat pemerintah yang terverifikasi identitas. Perspektif ini menyiratkan bahwa mungkin tidak ada solusi teknis yang sempurna untuk tantangan etis yang ditimbulkan oleh AI.
Debat tentang AI-generated poverty porn masih jauh dari selesai. Ini telah berevolusi dari sekadar kutukan terhadap teknologi baru menjadi pemeriksaan kompleks terhadap bias sistemik, konsekuensi praktis bagi organisasi kecil, dan pertukaran mendasar yang diperlukan di era digital kita. Seperti yang dicatat seorang komentator, pekerjaan nyata ke depan bukan tentang mengawasi sebuah alat, tetapi tentang menantang budaya kerja yang memberikan lampu hijau untuk kampanye-kampanye ini sejak awal.
Referensi: How do we stop AI-generated ‘poverty porn’ fake images?