Sebuah studi terobosan dari Harvard University telah mengungkap titik buta budaya yang signifikan dalam sistem kecerdasan buatan. Ketika para peneliti menguji ChatGPT menggunakan World Values Survey , mereka menemukan bahwa alat AI berkinerja sangat baik dalam meniru perspektif Barat namun kesulitan secara dramatis ketika merepresentasikan budaya non-Barat.
Studi tersebut mengungkap pola yang mengkhawatirkan: semakin jauh budaya suatu negara berbeda dari nilai-nilai Amerika, semakin buruk AI dalam memahami dan merepresentasikan populasi tersebut. Untuk negara-negara seperti Libya dan Pakistan , respons AI hampir tidak lebih baik dari tebakan acak.
Jarak Budaya vs Akurasi AI: Studi ini menemukan korelasi negatif yang jelas antara jarak budaya suatu negara dari USA dan akurasi ChatGPT dalam merepresentasikan nilai-nilai populasi tersebut, dengan negara-negara seperti Libya dan Pakistan menunjukkan tingkat akurasi yang hanya sedikit lebih baik dari lemparan koin.
Masalah WEIRD dalam Pengembangan AI
Penelitian ini dibangun berdasarkan konsep yang sudah mapan dalam psikologi yang disebut WEIRD - merujuk pada orang-orang yang Western, Educated, Industrialized, Rich, dan Democratic . Meskipun kelompok ini hanya mewakili sebagian kecil dari umat manusia, sebagian besar penelitian psikologi secara historis telah berfokus pada populasi WEIRD , yang menyebabkan pemahaman yang miring tentang perilaku manusia.
Sistem AI tampaknya telah mewarisi bias yang sama. Para peneliti Harvard memberikan World Values Survey kepada ChatGPT sebanyak 1.000 kali dan membandingkan hasilnya dengan respons manusia nyata dari berbagai negara. Hasilnya menunjukkan korelasi yang jelas: semakin besar jarak budaya dari Amerika Serikat , semakin tidak akurat AI tersebut.
WEIRD: Sebuah akronim yang menggambarkan populasi Western, Educated, Industrialized, Rich, Democratic yang telah mendominasi penelitian psikologi meskipun mewakili minoritas dari kemanusiaan global.
Metodologi Penelitian: Peneliti Harvard memberikan World Values Survey sebanyak 1.000 kali kepada ChatGPT dan membandingkan hasilnya dengan respons manusia nyata dari berbagai negara untuk mengukur keselarasan budaya.
Dampak Nyata pada Penelitian dan Bisnis
Implikasinya meluas jauh melampaui rasa ingin tahu akademis. Perusahaan dan peneliti yang bekerja di pasar non-Barat menghadapi tantangan ganda. Wilayah-wilayah ini sering menerima anggaran penelitian yang lebih kecil, dan sekarang mereka juga harus menghadapi alat AI yang secara fundamental salah memahami populasi mereka.
Bias ini dapat mempengaruhi setiap tahap penelitian, dari desain proyek awal hingga analisis akhir. Moderator AI mungkin mengajukan pertanyaan yang tidak sesuai secara budaya, sementara analisis bertenaga AI dapat melewatkan konteks sosial penting yang mendorong pengambilan keputusan dalam budaya yang berbeda. Ada risiko nyata bahwa perspektif manusia yang beragam diproses melalui sistem-sistem ini dan muncul terlihat sangat khas California .
Diskusi komunitas telah menyoroti kekhawatiran tambahan tentang hambatan bahasa. Seorang pengguna mencatat bahwa ChatGPT berkinerja jauh lebih buruk ketika beroperasi dalam bahasa Rusia , bahkan kehilangan jejak informasi yang telah diidentifikasi dengan benar dalam bahasa Inggris .
Solusi Potensial dan Cara Mengatasi
Meskipun menghadapi tantangan-tantangan ini, para peneliti tidak sepenuhnya meninggalkan alat AI. Sebaliknya, mereka mengembangkan strategi untuk mengatasi keterbatasan budaya. Beberapa pendekatan termasuk menggunakan prompting konteks-pertama, di mana pengguna memberikan latar belakang budaya sebelum mengajukan pertanyaan penelitian.
Saya telah menyimpan instruksi untuk Gemini untuk menerjemahkan kueri ke dalam bahasa lokal kemudian menerjemahkan kembali output ke bahasa Inggris , ketika bertanya tentang negara/budaya yang tidak berbahasa Inggris . Ini tampaknya bekerja dengan cukup baik.
Komunitas penelitian juga mengeksplorasi apakah model AI non-Amerika seperti DeepSeek atau Mistral mungkin berkinerja lebih baik untuk wilayah masing-masing, meskipun ini sebagian besar belum diuji.
Studi ini berfungsi sebagai pengingat penting bahwa ketika AI menjadi lebih lazim dalam penelitian dan bisnis global, kita harus tetap waspada tentang perspektif siapa yang benar-benar diwakili oleh sistem-sistem ini. Tantangannya bukan hanya teknis - ini tentang memastikan bahwa pengembangan AI tidak secara tidak sengaja meratakan kekayaan keragaman pengalaman manusia menjadi satu pandangan dunia yang berpusat pada Barat.
Referensi: WEIRD in, WEIRD out
 |
|---|
| Emblem ini melambangkan komitmen untuk meningkatkan kualitas data dan pemahaman budaya dalam sistem AI, mencerminkan kebutuhan akan solusi yang lebih baik dalam merepresentasikan perspektif yang beragam |