Mark Zuckerberg telah menerbitkan pernyataan visi baru yang menguraikan pergeseran Meta menuju personal superintelligence, namun komunitas teknologi fokus pada apa yang tampaknya tersirat di antara baris-baris tersebut: sinyal bahwa Meta mungkin meninggalkan pendekatan AI open source-nya. Pengumuman ini datang pada hari pengumuman hasil keuangan Meta, menimbulkan pertanyaan apakah ini merupakan inovasi yang sesungguhnya atau upaya pengendalian kerusakan perusahaan.
Konteks Investasi AI Meta
- Meta telah menghabiskan lebih dari 100 miliar USD untuk teknologi metaverse/VR dengan adopsi mainstream yang terbatas
- Pengumuman superintelligence dipublikasikan pada hari laporan keuangan Meta
- Laporan muncul dua minggu sebelumnya tentang Meta yang mempertimbangkan model closed-source untuk alasan kompetitif
Model AI Open Source Mungkin Menjadi Closed Source
Kekhawatiran paling signifikan yang muncul dari diskusi komunitas berpusat pada mundurnya Meta dari pengembangan AI open source. Meskipun pernyataan Zuckerberg menyebutkan bahwa manfaat superintelligence harus dibagikan dengan dunia seluas mungkin, hal itu langsung diikuti dengan peringatan penting tentang berhati-hati dalam memilih apa yang akan dibuat open source karena masalah keamanan.
Bahasa ini telah memicu skeptisisme di antara pengembang dan peneliti yang mencatat bahwa laporan muncul hanya dua minggu sebelumnya tentang kepemimpinan superintelligence Meta yang membahas perpindahan ke model closed source karena alasan kompetitif daripada keamanan. Waktu tersebut menunjukkan bahwa masalah keamanan mungkin menjadi justifikasi yang nyaman untuk keputusan bisnis yang sudah bergerak.
Konflik Model Bisnis
- Pendapatan Meta bergantung pada ekstraksi data dan modifikasi perilaku untuk periklanan
- "Superinteligensi personal" dapat meningkatkan kemampuan pengumpulan data
- Komitmen open source tampak melemah karena "kekhawatiran keamanan"
- Pola historis memprioritaskan engagement daripada kesejahteraan pengguna
Kesenjangan Kredibilitas Setelah Investasi Metaverse
Respons komunitas mengungkapkan skeptisisme mendalam tentang rekam jejak Zuckerberg dengan janji teknologi yang ambisius. Pivot Meta sebelumnya ke metaverse melibatkan pengeluaran lebih dari 100 miliar dolar Amerika Serikat untuk teknologi virtual reality yang gagal mendapat adopsi mainstream, membuat banyak orang memandang pengumuman superintelligence ini sebagai gangguan mahal lainnya dari bisnis inti Meta.
Kritikus menunjukkan kontradiksi antara visi Zuckerberg untuk memberdayakan individu dan model bisnis Meta, yang secara fundamental bergantung pada ekstraksi data, modifikasi perilaku, dan penangkapan perhatian untuk pendapatan iklan. Sejarah perusahaan yang memprioritaskan engagement daripada kesejahteraan pengguna telah menciptakan masalah kepercayaan yang bertahan hingga inisiatif AI baru ini.
Realitas Teknis vs Hype Marketing
Sebagian besar komunitas teknis mempertanyakan apakah teknologi AI saat ini benar-benar dapat mengarah pada superintelligence. Banyak pengembang berargumen bahwa large language model, meskipun merupakan alat yang mengesankan, memiliki keterbatasan fundamental yang tidak akan diselesaikan hanya dengan meningkatkan daya komputasi atau menambah lebih banyak data pelatihan.
LLM tidak akan secara fundamental membentuk ulang masyarakat. Produktivitas akan naik beberapa persen, keuntungan dari produktivitas tersebut akan pergi ke orang-orang terkaya. Beberapa pekerjaan akan menjadi tidak relevan, beberapa pekerjaan baru akan tercipta. Hanya itu. Sama seperti biasanya.
Ketidaksesuaian antara janji-janji besar Zuckerberg dan kemampuan AI Meta saat ini sangat mencolok. Pengguna melaporkan bahwa mereka masih tidak dapat mencari Facebook Marketplace dengan benar, menyoroti kesenjangan antara retorika superintelligence dan fungsionalitas dasar.
Kekhawatiran Teknis Utama yang Diangkat
- Sistem AI saat ini yang berbasis prediksi token mungkin memiliki keterbatasan fundamental
- Tidak ada jalur yang jelas dari model bahasa besar menuju superinteligensi yang sesungguhnya
- Masalah fungsionalitas dasar masih bertahan (misalnya, masalah pencarian Facebook Marketplace )
- Kerentanan injeksi prompt tetap belum terpecahkan
Kekhawatiran Ekonomi tentang Konsentrasi AI
Diskusi komunitas mengungkapkan kekhawatiran yang lebih dalam tentang konsentrasi kekayaan dan ketidaksetaraan ekonomi di masa depan yang didominasi AI. Banyak komentator khawatir bahwa superintelligence yang dikembangkan oleh mega-korporasi akan terutama menguntungkan pemegang saham sambil menggantikan pekerja tanpa jaring pengaman sosial yang memadai.
Tantangan ekonomi fundamental tetap tidak teratasi: bahkan jika AI secara dramatis meningkatkan produktivitas, manfaatnya mungkin tidak mencapai orang biasa jika sewa tanah dan biaya hidup naik sesuai. Ini menciptakan skenario di mana kemajuan teknologi gagal meningkatkan kualitas hidup bagi kebanyakan orang, terlepas dari kemampuan AI.
Waktu pengumuman ini bersamaan dengan laporan hasil keuangan Meta menunjukkan bahwa ini mungkin terutama dimaksudkan untuk membenarkan investasi AI besar-besaran yang berkelanjutan kepada pemegang saham daripada menguraikan peta jalan teknologi yang realistis. Apakah Meta dapat memenuhi janji-janji ini sambil mempertahankan kepercayaan publik tetap menjadi pertanyaan terbuka saat perusahaan menavigasi antara model bisnis yang didorong iklan dan ambisi superintelligence-nya.
Referensi: Personal Superintelligence