Seorang pengacara California telah diperintahkan untuk membayar denda sebesar 10.000 dolar Amerika setelah mengirimkan banding pengadilan yang berisi 21 kutipan hukum palsu yang dihasilkan oleh ChatGPT. Kasus ini menyoroti kekhawatiran yang terus meningkat tentang penyalahgunaan kecerdasan buatan di lingkungan profesional dan menimbulkan pertanyaan tentang akuntabilitas dalam profesi hukum.
Pengacara Amir Mostafavi menggunakan ChatGPT untuk memperbaiki dokumen hukumnya pada Juli 2023, namun gagal memverifikasi konten yang dihasilkan AI sebelum mengirimkannya. California 2nd District Court of Appeal menemukan bahwa 21 dari 23 kutipan kasus dalam dokumen tersebut sepenuhnya dibuat-buat oleh sistem AI.
Detail Lengkap:
- Jumlah: $10.000 USD (denda terbesar terkait AI oleh pengadilan negara bagian California)
- Pelanggaran: Mengajukan banding sembrono, melanggar aturan pengadilan, mengutip kasus palsu, membuang-buang waktu pengadilan
- Kutipan yang dipalsukan: 21 dari 23 kutipan kasus adalah palsu
- Tanggal kejadian: Juli 2023
Tanggung Jawab Profesional vs. Kemudahan AI
Komunitas hukum terbagi dalam cara menangani integrasi AI sambil mempertahankan standar profesional. Respons Mostafavi terhadap denda tersebut telah memicu kontroversi khusus, karena dia menyarankan bahwa pengacara yang menggunakan AI harus mengharapkan beberapa korban, beberapa kerusakan, beberapa kehancuran selama periode transisi.
Sikap ini telah menarik kritik tajam dari para profesional hukum yang berargumen bahwa pengacara memiliki kewajiban fundamental untuk memverifikasi semua informasi sebelum mengirimkannya ke pengadilan. Tanggung jawab tetap berada pada pengacara terlepas dari alat yang digunakan, baik sistem AI maupun asisten manusia.
Respons Regulasi:
- Batas waktu California Judicial Council : 15 Desember 2024 untuk kebijakan AI
- California Bar Association : Meninjau kode etik untuk penggunaan AI
- Preseden pengadilan federal: Denda $31,100 USD kepada firma hukum karena fabrikasi AI
- Lisensi profesional: Denda di atas $1,000 USD harus dilaporkan ke state bar
Pola yang Meningkat dari Pelanggaran Hukum Terkait AI
Para ahli hukum yang melacak penyalahgunaan AI di pengadilan melaporkan peningkatan dramatis dalam kasus-kasus serupa. Yang dimulai sebagai beberapa insiden per bulan telah meningkat menjadi beberapa kasus setiap hari di berbagai yurisdiksi. Masalah ini tampak sangat akut di antara pengacara yang kelebihan beban kerja dan penggugat yang mewakili diri sendiri yang mungkin tidak sepenuhnya memahami keterbatasan AI.
Yang mengkhawatirkan, masalah ini meluas melampaui pengacara hingga mencakup hakim itu sendiri, dengan dokumentasi terbaru tentang tiga hakim yang mengutip otoritas hukum palsu dalam keputusan resmi mereka.
Statistik Akurasi AI:
- Tingkat halusinasi saat ini: ~33% dari kueri ( Stanford RegLab analysis )
- Peningkatan dari waktu ke waktu: Estimasi pengurangan dari 21/23 kutipan palsu (2023) menjadi berpotensi 1/23 dengan model saat ini
- Kasus yang dilacak: 52 di California, 600+ secara nasional
- Pola pertumbuhan: Dari beberapa kasus per bulan menjadi beberapa kasus per hari
 |
|---|
| Integrasi AI yang semakin meningkat dalam profesi hukum menimbulkan risiko, menekankan perlunya kewaspadaan terhadap kesalahan teknologi |
Keterbatasan Teknologi dan Implikasi Masa Depan
Model bahasa AI saat ini kesulitan dengan akurasi ketika menghasilkan kutipan hukum, dengan tingkat halusinasi mempengaruhi sekitar sepertiga dari kueri menurut penelitian Stanford University. Meskipun sistem AI yang lebih baru menunjukkan perbaikan, para ahli memperingatkan bahwa tingkat kesalahan yang berkurang sebenarnya mungkin meningkatkan risiko dengan membuat pengguna lebih lengah tentang verifikasi.
Semakin sulit argumen hukum Anda untuk dibuat, semakin model akan cenderung berhalusinasi, karena mereka akan mencoba menyenangkan Anda. Di situlah bias konfirmasi mulai berperan.
Profesi hukum menghadapi tekanan untuk beradaptasi dengan cepat terhadap alat AI sambil mempertahankan standar etika. California's Judicial Council telah mewajibkan pengadilan untuk melarang AI generatif atau menetapkan kebijakan penggunaan yang jelas pada 15 Desember 2024, mencerminkan urgensi mengatasi tantangan-tantangan ini.
Denda sebesar 10.000 dolar Amerika mewakili hukuman terbesar yang dikeluarkan oleh pengadilan negara bagian California untuk fabrikasi terkait AI, meskipun pengadilan federal telah mengenakan sanksi yang lebih tinggi pada firma hukum untuk pelanggaran serupa. Seiring adopsi AI yang dipercepat di seluruh profesi hukum, regulator berlomba untuk menetapkan mekanisme pengawasan yang tepat sambil menyeimbangkan inovasi dengan tanggung jawab profesional.
Referensi: California issues historic fine over lawyer's ChatGPT fabrications