Seiring asisten coding AI menjadi semakin canggih, sebuah revolusi diam-diam sedang terjadi di tempat kerja di seluruh dunia. Karyawan non-teknis kini membangun alat dan otomasi kustom mereka sendiri, menciptakan apa yang beberapa sebut sebagai perangkat lunak home-cooked. Sementara demokratisasi pemrograman ini menjanjikan peningkatan produktivitas yang belum pernah terjadi sebelumnya, komunitas pengembang menyuarakan kekhawatiran mendesak tentang risiko tersembunyi yang mengintai di balik permukaan kode yang dihasilkan AI.
Beban Verifikasi
Setiap baris kode yang dihasilkan AI mewakili potensi liabilitas yang memerlukan pemeriksaan seksama. Diskusi komunitas mengungkapkan bahwa meskipun AI dapat dengan cepat menghasilkan kode yang fungsional, proses verifikasi memerlukan pengawasan manusia yang signifikan. Seorang komentator mencatat bahwa setiap baris kode buatan AI adalah liabilitas yang terlihat masuk akal yang mungkin lolos pengujian dasar tetapi gagal total di lingkungan produksi.
Tantangan verifikasi melampaui sekadar pemeriksaan fungsionalitas sederhana. Pengembang melaporkan menghabiskan waktu yang cukup banyak untuk mengidentifikasi bug halus, kerentanan keamanan, dan cacat logika yang diperkenalkan model AI dengan keyakinan penuh. Hal ini menciptakan kategori baru dari technical debt di mana organisasi mengakumulasi kode yang tampak benar tetapi mengandung bahaya tersembunyi yang menunggu untuk muncul dalam kondisi tertentu.
Risiko Umum Coding AI yang Diidentifikasi oleh Developer:
- Beban verifikasi yang memerlukan code review ekstensif
- Kerentanan keamanan (SQL injection, hardcoded secrets, race conditions)
- Halusinasi API/library (referensi ke fungsionalitas yang tidak ada)
- Tantangan pemeliharaan dengan codebase campuran manusia/AI
- Akumulasi technical debt tersembunyi
Kerentanan Keamanan yang Terlihat Jelas
Kekhawatiran keamanan mendominasi diskusi komunitas, dengan beberapa komentator menunjuk bahwa model AI yang dilatih pada repositori kode publik telah menyerap praktik pemrograman yang baik dan buruk. Hasilnya adalah kode yang sering kali menyertakan kerentanan SQL injection, rahasia yang dikodekan secara keras (hardcoded secrets), race condition, dan cacat keamanan lainnya yang direproduksi AI tanpa memahami implikasinya.
Saya tidak sabar untuk melihat semua eksploitasi jarak jauh yang disematkan dalam kode oleh para pelayan AI ini. Tidak perlu memphishing target. Alat-alat tersebut mengirimkan semuanya secara otomatis.
Sentimen ini mencerminkan kekhawatiran yang lebih luas tentang implikasi keamanan dari pengembangan berbantuan AI yang meluas. Ketika pengguna non-teknis membuat alat yang menangani data sensitif, mereka mungkin tanpa sengaja membangun kerentanan keamanan langsung ke dalam proses bisnis tanpa keahlian untuk mengenali bahayanya.
Masalah Halusinasi
Sebuah tantangan modern yang unik muncul dengan apa yang oleh pengembang disebut sebagai halusinasi debugging - memecahkan masalah kode yang merujuk ke API, pustaka, atau metode yang tidak ada. Model AI terkadang menghasilkan kode yang terlihat masuk akal tetapi tidak akan berfungsi karena mengandalkan fungsionalitas yang sebenarnya tidak ada di dunia nyata.
Masalah ini menjadi sangat akut ketika memelihara basis kode yang dihasilkan AI dari waktu ke waktu. Beberapa komentator menggambarkan kesulitan memelihara sistem di mana tidak jelas bagian mana yang ditulis oleh manusia dan mana oleh AI, menciptakan apa yang disebut sebagai latihan arkeologi untuk memahami basis kode berbulan-bulan kemudian.
Krisis Perawatan
Komunitas mengantisipasi tantangan signifikan dalam memelihara ledakan alat yang dihasilkan AI. Seperti yang diprediksi seorang komentator, Long-term SWEs di perusahaan non-tek akan menghabiskan banyak waktu mereka untuk meninjau fitur/prototype/script yang dikodekan berdasarkan vibes dari karyawan non-teknis dan menskalakannya begitu mereka menjadi infrastruktur kritis.
Ini menciptakan peran baru bagi pengembang sebagai peninjau dan pemelihara kode yang tidak mereka tulis, sering kali dibuat oleh rekan kerja dengan pengetahuan pemrograman yang terbatas. Kekhawatirannya adalah bahwa organisasi akan menghadapi krisis perawatan ketika prototipe yang awalnya sukses ini menjadi penting untuk operasi bisnis tetapi kurang ketahanan yang dibutuhkan untuk penggunaan jangka panjang.
Paradoks Ekonomi
Terlepas dari risikonya, daya tarik ekonomi dari pengembangan berbantuan AI tidak dapat disangkal. Komentator menggambarkan penggunaan AI untuk membuat alat dalam hitungan jam yang sebelumnya membutuhkan waktu berhari-hari atau berminggu-minggu. Keuntungan efisiensi ini datang dengan apa yang disebut sebagai Pajak AI - biaya tersembunyi dari prompt engineering, verifikasi, dan pemeliharaan yang mengimbangi beberapa manfaat produktivitas awal.
Diskusi mengungkap perbedaan dalam cara pengembang mendekati alat AI. Beberapa menganggapnya berharga untuk pembuatan prototipe dan proyek pribadi, sementara yang lain tetap skeptis tentang penggunaannya dalam sistem produksi. Konsensus menunjukkan bahwa AI sangat baik untuk 80% pertama sebuah proyek tetapi memerlukan upaya manusia yang signifikan untuk mencapai kualitas yang siap produksi.
Perspektif Developer tentang Penggunaan Tool AI:
- Prototyping: Sangat efektif untuk proof-of-concept yang cepat
- Penggunaan Production: Memerlukan pengawasan dan verifikasi manusia yang signifikan
- Proyek Personal: Sangat baik untuk tool dengan cakupan terbatas dan persyaratan yang sudah diketahui
- Sistem Enterprise: Kekhawatiran tentang skalabilitas dan pemeliharaan jangka panjang
- Aplikasi Security-Critical: Umumnya tidak disarankan tanpa tinjauan ahli
Melihat ke Depan
Seiring alat coding AI terus berkembang, komunitas sedang bergulat dengan cara memanfaatkan kekuatannya sekaligus mengurangi risikonya. Beberapa menyarankan bahwa model AI lokal mungkin menawarkan solusi dengan mengurangi ketergantungan pada layanan cloud dan memberi pengembang lebih banyak kendali. Yang lain menekankan pentingnya mempertahankan pengawasan dan pemahaman manusia dalam proses pengembangan.
Kebangkitan perangkat lunak home-cooked mewakili pergeseran fundamental dalam cara kita berinteraksi dengan komputer, tetapi itu datang dengan tanggung jawab yang signifikan. Seperti yang dicatat secara bijak oleh seorang komentator, bahaya paling signifikan adalah bahwa AI memungkinkan Anda membangun sistem yang pada dasarnya tidak Anda pahami. Tantangan bagi komunitas pengembang adalah menemukan cara untuk menikmati manfaat bantuan AI sambil memastikan kode yang kita terapkan tetap aman, dapat dipelihara, and andal.
Referensi: AI and Home-Cooked Software