Dukungan Anthropic terhadap RUU regulasi AI California SB 53 telah memicu perdebatan sengit di komunitas teknologi mengenai apakah perusahaan tersebut benar-benar mempromosikan keamanan atau terlibat dalam regulatory capture untuk menghambat persaingan. RUU tersebut akan mewajibkan perusahaan AI besar untuk menerbitkan kerangka kerja keamanan, melaporkan insiden, dan menyediakan perlindungan whistleblower - persyaratan yang sangat mirip dengan apa yang sudah dilakukan Anthropic .
Persyaratan Utama SB 53:
- Mengembangkan dan menerbitkan kerangka kerja keselamatan untuk manajemen risiko katastrofik
- Merilis laporan transparansi publik sebelum menerapkan model-model yang kuat
- Melaporkan insiden keselamatan kritis kepada negara bagian dalam waktu 15 hari
- Memberikan perlindungan whistleblower untuk pelanggaran keselamatan
- Menghadapi sanksi moneter untuk pelanggaran kerangka kerja
- Berlaku untuk model yang dilatih dengan 10^26 FLOPS atau lebih
Skeptisisme Komunitas terhadap Regulatory Capture
Komunitas teknologi telah merespons dengan skeptisisme luas terhadap dukungan Anthropic untuk legislasi tersebut. Banyak komentator melihat ini sebagai kasus klasik regulatory capture, di mana perusahaan yang sudah mapan mendukung regulasi yang memformalkan praktik mereka yang sudah ada sambil menciptakan hambatan bagi pesaing baru. Kritik berpusat pada pengamatan bahwa ketika perusahaan mendukung regulasi yang harus mereka patuhi, hal ini sering menandakan bahwa aturan tersebut tidak membebani mereka atau justru membantu menghilangkan persaingan.
Namun, situasinya tidak sepenuhnya mudah dipahami. Beberapa anggota komunitas menunjukkan bahwa OpenAI dan perusahaan modal ventura Andreessen Horowitz menentang RUU tersebut, yang memperumit teori anti-kompetisi yang sederhana. Perpecahan di antara pemain utama ini menunjukkan bahwa lanskap regulasi mungkin lebih bernuansa daripada koordinasi industri murni.
Posisi Industri terhadap SB 53:
- Mendukung: Anthropic
- Menentang: OpenAI, Andreessen Horowitz (A16Z)
- Praktik serupa sudah diterapkan: Google DeepMind, Microsoft
- Diberikan pengecualian: Startup dan perusahaan kecil yang tidak mungkin mengembangkan model yang powerful
Kekhawatiran Teknis dan Kemampuan AI Saat Ini
Sebagian besar diskusi berfokus pada apakah model AI saat ini benar-benar menimbulkan risiko katastrofik yang ingin ditangani oleh SB 53 . Para kritikus berargumen bahwa model yang ada saat ini masih jauh dari kemampuan menghasilkan insiden korban massal atau kerusakan moneter yang substansial, sehingga kerangka regulasi tersebut merupakan birokrasi yang prematur. Mereka berpendapat bahwa model yang kuat sudah ada dan dapat berjalan di perangkat keras konsumen tanpa masalah besar.
Generasi model saat ini masih jauh dari kemampuan menghasilkan hasil yang katastrofik.
Para pendukung menjawab bahwa model tanpa batasan dengan daya komputasi yang cukup dapat menciptakan masalah yang belum pernah terjadi sebelumnya, dan regulasi proaktif lebih baik daripada respons reaktif setelah insiden terjadi.
Dampak Lanskap Kompetitif
Perdebatan ini mengungkap kekhawatiran yang lebih dalam tentang bagaimana regulasi dapat membentuk kembali industri AI. Anggota komunitas khawatir bahwa posisi Anthropic yang berfokus pada keamanan berfungsi sebagai strategi pemasaran sekaligus competitive moat. Dengan memposisikan diri sebagai perusahaan AI yang aman sambil secara bersamaan melatih model mutakhir, para kritikus berargumen bahwa mereka menginginkan keduanya - mengklaim posisi moral tinggi sambil mengejar kemajuan teknologi yang sama dengan pesaing.
Ambang batas 10^26 FLOPS untuk regulasi khususnya menarik kritik karena berpotensi sewenang-wenang, dengan kekhawatiran bahwa hal ini dapat melewatkan beberapa model yang kuat sambil membebani yang lain secara tidak perlu. Spesifikasi teknis ini menjadi krusial dalam menentukan perusahaan mana yang menghadapi biaya kepatuhan regulasi.
Implikasi Industri yang Lebih Luas
Kontroversi ini meluas melampaui satu RUU saja hingga pertanyaan tentang bagaimana industri AI seharusnya diatur. Beberapa orang melihat kemitraan Pentagon terbaru Anthropic sebagai kontradiksi terhadap retorika keamanan mereka, memandangnya sebagai bukti bahwa klaim keamanan AI korporat terutama merupakan pemasaran daripada prinsip yang tulus. Yang lain berargumen bahwa bekerja dengan lembaga pertahanan sebenarnya konsisten dengan pengembangan AI yang bertanggung jawab.
Diskusi ini mencerminkan ketegangan yang lebih luas di komunitas teknologi antara mereka yang percaya pengembangan AI memerlukan pengawasan dan mereka yang melihat sebagian besar regulasi yang diusulkan sebagai hambatan prematur terhadap inovasi. Seiring kemampuan AI terus berkembang pesat, perdebatan tentang kerangka kerja tata kelola yang tepat ini kemungkinan akan semakin intensif di berbagai yurisdiksi.
Referensi: Anthropic is endorsing SB 53