Bot dokumentasi bertenaga AI milik Shopify menyebabkan sakit kepala bagi para developer dengan memberikan solusi kode yang salah namun terlihat meyakinkan tetapi sebenarnya tidak berfungsi. Masalah ini menyoroti problem yang semakin berkembang dengan asisten AI dalam dokumentasi teknis - mereka dapat dengan percaya diri memberikan jawaban yang salah dan membuang waktu serta sumber daya yang signifikan.
Seorang developer baru-baru ini menemukan masalah ini ketika mencoba mendeteksi pesanan Shopify Collective dalam notifikasi email. Bot tersebut memberikan kode template Liquid yang bersih dan terlihat profesional yang tampak sempurna. Namun, setelah beberapa kali test order dan pembebanan kartu kredit, developer tersebut menemukan solusinya benar-benar gagal karena bot salah memahami kapan data tertentu tersedia dalam sistem Shopify .
Solusi AI yang Salah vs Solusi yang Bekerja
Kode Salah dari AI Bot:
{% if order.tags contains 'Shopify Collective' %}
<!-- Pesanan ini berisi setidaknya satu item yang dipenuhi melalui Shopify Collective -->
<p>Beberapa item dalam pesanan Anda sedang dipenuhi oleh merchant partner melalui Shopify Collective.
{% endif %}
Solusi yang Bekerja:
{% assign has_collective_item = false %}
{% for line_item in line_items %}
{% if line_item.product.tags contains 'Shopify Collective' %}
{% assign has_collective_item = true %}
{% endif %}
{% endfor %}
Perbedaan Utama: AI menyarankan untuk memeriksa tag pesanan, tetapi tag Shopify Collective ditambahkan ke item baris individual, bukan ke pesanan itu sendiri, dan mungkin tidak tersedia ketika email konfirmasi dibuat.
Biaya Halusinasi AI dalam Dokumentasi Resmi
Masalah sebenarnya bukan hanya mendapatkan jawaban yang salah - tetapi kesalahan ini berasal dari asisten dokumentasi resmi Shopify . Ketika developer melihat saran dari helper resmi perusahaan, mereka secara alami lebih mempercayainya dibandingkan tool AI umum. Kepercayaan ini membuat kegagalan menjadi lebih mahal dan membuat frustrasi.
Komunitas telah memperhatikan perilaku yang tidak konsisten dari bot tersebut. Pengguna yang berbeda yang mengajukan pertanyaan teknis yang sama menerima jawaban yang benar-benar berbeda, membuatnya tidak dapat diandalkan untuk pekerjaan development yang serius. Beberapa developer melaporkan bot tersebut bahkan tidak dapat menemukan fungsi API dasar yang jelas ada dalam dokumentasi.
RAG (Retrieval-Augmented Generation): Teknik dimana sistem AI mencari melalui dokumen sebelum menghasilkan jawaban, dimaksudkan untuk mengurangi halusinasi dengan mendasarkan respons pada dokumentasi yang sebenarnya.
Ketika Tebakan AI Menggantikan Pengetahuan Nyata
Isu utamanya adalah bot dokumentasi AI sering mengisi celah pengetahuan dengan membuat tebakan yang terdidik daripada mengakui ketidakpastian. Ini menciptakan situasi berbahaya dimana developer menerima saran teknis yang terdengar percaya diri tetapi salah. Masalah menjadi lebih buruk ketika AI tidak memiliki pemahaman mendalam tentang bagaimana sistem kompleks seperti Shopify sebenarnya bekerja di balik layar.
Konsep 'grounding' itu arbitrer. Tidak masalah jika kamu menggunakan embeddings, atau menggunakan tool yang menggunakan pencarian biasa dan mendapatkan item teratas... Ini masih bergantung pada model untuk tidak berhalusinasi dengan info ini, yang sangat sulit karena terlalu banyak info -> model menjadi bingung, tetapi terlalu sedikit info -> model mengasumsikan info mungkin tidak ada jadi tidak berguna.
Developer berpengalaman menunjukkan bahwa platform seperti Shopify memerlukan pemahaman perilaku sistem yang mendasari, bukan hanya membaca dokumentasi. Bot AI kesulitan dengan pengetahuan kontekstual ini yang berasal dari pengalaman dunia nyata.
Dilema Dokumentasi
Situasi ini menimbulkan pertanyaan penting tentang AI dalam dokumentasi resmi. Meskipun bot ini dapat dengan cepat menjawab pertanyaan how-to sederhana, mereka mungkin merusak kerja hati-hati dari penulis dokumentasi manusia. Beberapa developer berargumen bahwa tidak ada dokumentasi lebih baik daripada dokumentasi yang salah, karena informasi yang salah secara aktif menyesatkan daripada hanya meninggalkan celah pengetahuan.
Tantangan bagi perusahaan adalah menyeimbangkan kemudahan bantuan AI instan dengan keandalan yang dibutuhkan developer untuk sistem produksi. Seperti yang dicatat oleh satu anggota komunitas, biaya menjalankan sistem AI yang lebih canggih yang mungkin menghindari kesalahan ini bisa sangat mahal untuk menangani volume besar query pengguna.
Kasus Shopify berfungsi sebagai peringatan bagi industri teknologi yang lebih luas tentang penerapan asisten AI dalam peran dokumentasi kritis tanpa perlindungan yang tepat terhadap respons yang percaya diri tetapi salah.
Referensi: Is the doc bot docs, or not?