Rantai fast food menemukan bahwa kecerdasan buatan belum cukup siap untuk menangani tugas yang tampaknya sederhana yaitu menerima pesanan drive-through. Yang dimulai sebagai teknologi menjanjikan untuk mempercepat layanan dan mengurangi kesalahan malah menjadi sumber masalah viral dan frustrasi pelanggan.
Masalahnya jauh melampaui gangguan yang terisolasi. Baik Taco Bell maupun McDonald's telah menghadapi masalah mendasar dengan sistem pemesanan AI mereka yang mengungkap keterbatasan yang lebih dalam dalam teknologi AI saat ini. Ini bukan hanya bug teknis yang dapat dengan mudah diperbaiki - mereka mewakili tantangan inti dalam bagaimana sistem AI memahami dan memproses skenario dunia nyata.
Statistik Penerapan AI Drive-Through:
- Taco Bell : Lebih dari 500 lokasi di AS sejak 2023
- Berhasil memproses: 2 juta pesanan menggunakan voice AI
- McDonald's : Menarik AI dari drive-through pada 2024 karena kesalahan interpretasi pesanan
Kehilangan Gambaran Besar: Ketika AI Tidak Memiliki Penilaian Dasar
Masalah yang paling mencolok adalah tidak adanya apa yang manusia anggap sebagai akal sehat. Sistem AI menerima pesanan yang jelas-jelas tidak masuk akal tanpa pertanyaan, seperti 18.000 gelas air atau ratusan dolar senilai chicken nugget. Meskipun kasus-kasus ekstrem ini menghasilkan konten media sosial yang menghibur, mereka menyoroti masalah serius: AI saat ini tidak memiliki kemampuan untuk mengenali ketika sesuatu tidak masuk akal.
Diskusi komunitas mengungkapkan bahwa menerapkan perlindungan dasar seharusnya mudah. Pemeriksaan sederhana terhadap data pesanan historis atau batas keras pada kuantitas dapat mencegah sebagian besar pesanan yang absurd. Fakta bahwa ini tidak diterapkan dari awal menunjukkan perusahaan mungkin telah melebih-lebihkan kemampuan AI sambil meremehkan kebutuhan akan perlindungan pemrograman tradisional.
Kegagalan Umum AI Drive-Through:
- Kesalahan kuantitas: 18.000 gelas air, ratusan dolar nugget ayam
- Loop upselling: Berulang kali bertanya "mau minum apa dengan pesanan itu?" setelah minuman sudah dipesan
- Kebingungan menu: Menambahkan bacon ke pesanan es krim
- Sistem crash: Memerlukan intervensi manusia untuk pesanan dasar
Jebakan Upselling: Ketika Logika Bisnis Merusak Pengalaman Pengguna
Masalah signifikan lainnya berasal dari pemrograman upselling yang agresif. Sistem AI terjebak dalam loop, berulang kali menanyakan pelanggan tentang minuman bahkan ketika mereka sudah memesannya. Ini tampaknya merupakan hasil dari memprioritaskan taktik penjualan daripada pengalaman pengguna dalam desain sistem.
Seseorang di sini jelas menulis prompt sebagai 'Pastikan untuk mengakhiri setiap pesanan dengan upsell minuman asumsi-ya', tidak mempertimbangkan bahwa beberapa pesanan mungkin sudah memiliki minuman.
Masalah ini menggambarkan bagaimana tujuan bisnis dapat bertentangan dengan implementasi teknis. Fokus pada memaksimalkan pendapatan melalui upselling otomatis telah menciptakan sistem yang membuat frustrasi pelanggan dan merusak pengalaman merek.
Faktor Manusia: Mengapa Karyawan Melawan
Yang paling mengungkapkan mungkin adalah respons dari karyawan aktual yang bekerja dengan sistem ini. Laporan menunjukkan bahwa beberapa pekerja sengaja merusak atau menghindari sistem AI karena mereka menciptakan lebih banyak masalah daripada solusi. Ketika teknologi yang dimaksudkan untuk membantu pekerja malah membuat pekerjaan mereka lebih sulit, itu menandakan ketidakcocokan mendasar antara kemampuan teknologi dan kebutuhan dunia nyata.
Sistem juga mengubah sifat pekerjaan karyawan dengan cara yang tidak terduga. Alih-alih menangani semua pesanan drive-through, karyawan sekarang terutama menangani kasus bermasalah dan pelanggan yang frustrasi - berpotensi membuat pekerjaan mereka kurang memuaskan sambil tidak benar-benar mengurangi beban kerja.
Implementasi Teknis vs. Janji Marketing
Kesenjangan antara janji marketing AI dan realitas teknis menjadi semakin jelas. Sementara perusahaan mempromosikan sistem ini sebagai solusi AI canggih, teknologi yang mendasarinya tampaknya relatif dasar - menggabungkan pengenalan suara dengan pohon keputusan daripada sistem penalaran yang benar-benar cerdas.
Ketidaksesuaian ini telah menyebabkan implementasi yang tidak memiliki pemeriksaan kesalahan dan validasi dasar yang akan menjadi standar dalam sistem perangkat lunak tradisional. Terburu-buru untuk menerapkan solusi bertenaga AI tampaknya telah melewati praktik rekayasa perangkat lunak fundamental yang dapat mencegah banyak masalah ini.
Melihat ke Depan: Kebutuhan akan Ekspektasi Realistis
Eksperimen AI fast food menawarkan pelajaran berharga tentang menerapkan teknologi yang muncul dalam peran yang menghadapi pelanggan. Kesuksesan memerlukan tidak hanya kemampuan AI yang mengesankan, tetapi juga rekayasa yang kuat, ekspektasi realistis, dan pertimbangan hati-hati tentang bagaimana teknologi mengubah pekerjaan manusia.
Saat perusahaan mundur dari drive-through AI, fokus bergeser ke arah memahami kapan dan di mana AI dapat benar-benar menambah nilai versus di mana penilaian manusia tetap penting. Teknologi mungkin akhirnya matang untuk menangani skenario ini secara efektif, tetapi keterbatasan saat ini menunjukkan bahwa pendekatan hibrid - menggabungkan bantuan AI dengan pengawasan manusia - mungkin lebih praktis daripada otomatisasi penuh.
Kegagalan viral drive-through AI berfungsi sebagai pengingat bahwa demo teknologi yang mengesankan tidak selalu diterjemahkan ke kinerja dunia nyata yang dapat diandalkan. Agar AI berhasil dalam peran layanan pelanggan, ia perlu menguasai tidak hanya percakapan, tetapi penalaran akal sehat yang manusia anggap remeh.
Referensi: Taco Bell rethinks AI drive-through after man orders 18,000 waters