Komunitas teknologi sedang terlibat dalam perdebatan sengit tentang apakah sistem seperti ChatGPT seharusnya disebut kecerdasan buatan sama sekali. Diskusi ini semakin menguat menyusul kritik bahwa sistem-sistem ini hanyalah generator teks canggih daripada mesin yang benar-benar cerdas.
Argumen Generator Omong Kosong
Para kritikus berargumen bahwa model bahasa besar (LLMs) seperti ChatGPT sebenarnya tidak memahami apa pun yang mereka hasilkan. Sebaliknya, mereka melakukan pencarian probabilistik untuk menemukan kata berikutnya yang paling mungkin berdasarkan pola dalam data pelatihan mereka. Proses ini menyerupai mesin pencari canggih yang memprediksi teks tanpa memahami makna. Kekhawatirannya adalah bahwa menyebut sistem ini sebagai AI menyesatkan orang untuk mempercayainya lebih dari yang seharusnya.
Salah satu anggota komunitas menjelaskan bahwa LLMs tidak dapat membayangkan solusi seperti manusia, merujuk pada kutipan terkenal Einstein tentang imajinasi yang lebih penting daripada pengetahuan. Tidak seperti pemecahan masalah manusia, sistem-sistem ini bergantung sepenuhnya pada pola data yang ada daripada penalaran atau kreativitas yang sesungguhnya.
Argumen Utama Menentang Penyebutan ChatGPT sebagai "AI":
- Melakukan prediksi teks probabilistik daripada pemahaman
- Tidak dapat memahami makna dari outputnya
- Bergantung sepenuhnya pada pola data pelatihan yang ada
- Tidak memiliki imajinasi atau kemampuan penalaran yang sesungguhnya
- Beroperasi dengan "ketidakpedulian terhadap kebenaran"
Fenomena Efek AI
Para pendukung membantah bahwa kritik ini merupakan kasus klasik dari menggeser tiang gawang. Mereka menunjuk pada Efek AI - sebuah pola di mana tugas-tugas yang dikuasai komputer tiba-tiba tidak lagi dianggap sebagai contoh kecerdasan buatan. Fenomena ini telah terjadi berulang kali sepanjang sejarah komputasi, dari program bermain catur hingga sistem pengenalan suara.
Perdebatan ini mencerminkan pertanyaan yang lebih dalam tentang apa yang dimaksud dengan kecerdasan itu sendiri. Beberapa berargumen bahwa fokus pada apakah LLMs benar-benar cerdas sama sekali melewatkan intinya, membandingkannya dengan memperdebatkan apakah hot dog adalah sandwich - secara teknis menarik tetapi praktis tidak relevan.
Argumen Utama yang Mendukung ChatGPT sebagai AI:
- Menunjukkan "Efek AI" - menggeser tolok ukur ketika komputer mencapai kemampuan baru
- Menghasilkan perilaku yang tampak cerdas terlepas dari mekanisme internalnya
- Perbandingan dengan kognisi manusia mungkin tidak adil karena kita belum sepenuhnya memahami kesadaran
- Kegunaan praktis lebih penting daripada definisi filosofis
- Menunjukkan tanda-tanda penalaran dan kesadaran diri pada model-model yang lebih baru
Kekhawatiran Praktis vs Filosofis
Banyak pengguna menemukan diri mereka terjebak antara kekhawatiran filosofis dan kebutuhan praktis. Meskipun beberapa mengakui keterbatasan sistem AI saat ini, mereka juga mengenali kegunaannya dalam pekerjaan sehari-hari. Kenyataannya adalah bahwa alat-alat ini telah menjadi penting bagi banyak profesional, terlepas dari apakah mereka memenuhi definisi kecerdasan yang ketat.
Saya akan jauh lebih tidak efektif dalam pekerjaan saya dibandingkan dengan pesaing saya di pasar kerja jika saya tidak menggunakan ChatGPT, terlepas dari apakah itu perangkat lunak sumber terbuka atau memenuhi definisi kecerdasan yang dia maksud.
Diskusi ini juga menyentuh isu-isu yang lebih luas seperti kebebasan perangkat lunak dan privasi data, karena pengguna tidak dapat menjalankan sistem ini secara lokal dan harus bergantung pada server jarak jauh yang dikontrol oleh perusahaan.
Masalah Perbandingan Manusia
Mungkin aspek paling menarik dari perdebatan ini melibatkan perbandingan sistem AI dengan kognisi manusia. Beberapa berargumen bahwa jika kita tidak dapat sepenuhnya menjelaskan bagaimana kecerdasan manusia bekerja, kita tidak dapat secara definitif mengatakan bahwa LLMs beroperasi secara berbeda. Yang lain mempertahankan bahwa ada perbedaan yang jelas antara pencocokan pola statistik dan pemahaman yang sesungguhnya, bahkan jika kita tidak dapat mengukur kesadaran atau makna secara tepat.
Perpecahan filosofis ini terus membentuk bagaimana masyarakat mendekati pengembangan dan regulasi AI. Saat sistem-sistem ini menjadi lebih canggih, pertanyaan tentang apa yang merupakan kecerdasan sejati menjadi semakin penting untuk pengembangan teknis dan kebijakan publik.
Perdebatan ini tidak menunjukkan tanda-tanda penyelesaian, dengan kedua belah pihak menyajikan argumen yang menarik tentang sifat kecerdasan, pemahaman, dan masa depan sistem buatan dalam masyarakat manusia.
Referensi: Reasons not to use ChatGPT