Sebuah investigasi baru oleh Electronic Frontier Foundation telah mengungkap detail yang mengkhawatirkan tentang Draft One milik Axon, sebuah alat AI yang menulis laporan polisi dari audio kamera tubuh. Sistem ini tampaknya dirancang untuk menghindari transparansi daripada meningkatkannya, menimbulkan pertanyaan serius tentang akuntabilitas dalam penegakan hukum.
 |
|---|
| Alat AI Draft One milik Axon menimbulkan pertanyaan serius tentang akuntabilitas dan transparansi dalam penegakan hukum |
Jejak Kertas yang Menghilang
Draft One membuat laporan polisi dengan memproses audio dari kamera tubuh petugas menggunakan sistem mirip ChatGPT. Namun, draft asli yang dihasilkan AI menghilang begitu petugas selesai mengeditnya. Ini bukan kelalaian - ini disengaja. Seorang manajer produk Axon secara terbuka menyatakan mereka tidak menyimpan draft asli karena hal terakhir yang ingin kami lakukan adalah menciptakan lebih banyak masalah pengungkapan untuk pelanggan kami.
Pilihan desain ini berarti tidak ada yang bisa mengetahui bagian mana dari laporan polisi final yang berasal dari AI dan mana yang ditulis oleh petugas manusia. Ketika kesalahan, bias, atau bahkan kebohongan muncul dalam laporan, tidak ada cara untuk menentukan apakah AI atau petugas yang bertanggung jawab.
Kekhawatiran Komunitas Tentang Akuntabilitas
Diskusi komunitas teknologi mengungkapkan skeptisisme mendalam tentang pendekatan ini. Banyak yang menunjukkan masalah fundamental: petugas seharusnya bertanggung jawab penuh atas laporan yang mereka tandatangani, tetapi sifat manusia menunjukkan mereka akan semakin bergantung pada AI tanpa tinjauan yang cermat.
Jadi kami tidak menyimpan draft asli dan itu memang dirancang demikian dan itu benar-benar karena hal terakhir yang ingin kami lakukan adalah menciptakan lebih banyak masalah pengungkapan untuk pelanggan kami dan kantor pengacara kami
Perbandingan dengan standar keselamatan penerbangan sering muncul dalam diskusi. Pilot tetap bertanggung jawab atas keputusan autopilot, tetapi mereka memiliki log terperinci dan sistem untuk melacak apa yang terjadi. Draft One tidak menawarkan transparansi seperti ini.
Tindakan Legislatif:
- California AB-2544: Akan mewajibkan pengungkapan AI dan penyimpanan draft
- Utah: Mempertimbangkan persyaratan pengungkapan AI yang wajib
- King County, Washington: Jaksa wilayah melarang laporan polisi berbasis AI
- EU AI Act: Secara khusus melarang aplikasi AI penegakan hukum semacam itu
Masalah Audit
Bahkan pertanyaan dasar tentang penggunaan Draft One hampir tidak mungkin dijawab. Departemen kepolisian tidak dapat dengan mudah menghasilkan daftar petugas mana yang menggunakan sistem atau laporan mana yang melibatkan bantuan AI. Beberapa departemen memberi tahu peminta catatan publik bahwa mereka sama sekali tidak dapat mengidentifikasi laporan yang dihasilkan AI.
Fitur audit yang ada sangat terbatas. Administrator harus mencari secara manual melalui log petugas individual atau mencari kata kunci tertentu dalam teks laporan. Untuk departemen besar dengan ratusan atau ribuan petugas, pengawasan yang bermakna menjadi praktis tidak mungkin.
Keterbatasan Audit Draft One:
- Tidak ada fitur untuk mengekspor daftar petugas yang menggunakan sistem
- Tidak ada cara untuk mengekspor daftar laporan yang dihasilkan AI (kecuali ditambahkan pengungkapan khusus)
- Hanya melacak tindakan dasar: draf diminta, pengungkapan tanggung jawab ditandatangani
- Tinjauan manual diperlukan untuk setiap petugas secara individual
- Beberapa departemen sama sekali tidak dapat mengidentifikasi laporan AI
Dampak Dunia Nyata
Beberapa departemen kepolisian sudah menggunakan Draft One, dengan hasil yang beragam pada manfaat yang diklaim untuk menghemat waktu. Yang lebih mengkhawatirkan adalah kasus-kasus terdokumentasi di mana sistem memungkinkan petugas untuk melewati pengaman keselamatan yang dirancang untuk mencegah pengiriman konten AI yang tidak diedit.
Teknologi ini juga tampaknya mengubah cara polisi menulis laporan secara keseluruhan, dengan beberapa departemen mencatat perbedaan signifikan dalam format narasi. Namun banyak yang menerapkan sistem tanpa berkonsultasi dengan jaksa yang mengandalkan laporan ini untuk kasus pengadilan.
Pengguna Draft One Saat Ini:
- Frederick Police Department ( Colorado ) - pengguna awal
- Lafayette Police Department ( Indiana ) - laporan tidak dapat dicari
- Palm Beach County Sheriff's Office ( Florida ) - 1.000+ laporan dihasilkan Des 2024-Mar 2025
- Campbell Police Department - mencatat perubahan format narasi yang signifikan
Respons Legislatif
California sedang mempertimbangkan undang-undang yang akan mengharuskan laporan polisi yang dihasilkan AI untuk menyimpan draft asli dan menyertakan pengungkapan yang jelas tentang keterlibatan AI. Karena Draft One secara khusus dirancang untuk tidak menyimpan draft, sistem ini tidak dapat mematuhi persyaratan tersebut.
Yurisdiksi lain mengambil sikap yang lebih kuat. Kantor jaksa wilayah King County, Washington telah menginstruksikan polisi untuk tidak menggunakan AI untuk penulisan laporan sama sekali, dengan alasan kekhawatiran tentang keandalan dan akuntabilitas.
Investigasi ini menyoroti ketegangan yang lebih luas antara efisiensi teknologi dan transparansi sistem keadilan. Meskipun alat AI berpotensi meningkatkan pelaporan polisi, implementasi saat ini memprioritaskan kenyamanan daripada akuntabilitas - sebuah perkembangan yang mengkhawatirkan dalam sistem yang sudah dikritik karena kurangnya pengawasan.
Referensi: Axon's Draft One is Designed to Defy Transparency