OnlyCats , sebuah situs web sederhana untuk berbagi foto kucing, telah menjadi studi kasus yang tak terduga dalam tantangan moderasi konten AI. Yang dimulai sebagai proyek keluarga telah menarik perhatian lebih luas setelah pengguna menemukan cara untuk melewati sistem penyaringan otomatisnya.
Moderasi AI Tidak Memenuhi Ekspektasi
Situs ini mengandalkan model omni-moderation-latest dari OpenAI dan GPT-4o-mini untuk penyaringan konten, tetapi pengguna melaporkan hasil yang beragam. Sementara beberapa memuji kemampuan sistem untuk menolak gambar non-kucing, yang lain berhasil mengunggah konten yang jelas melanggar kebijakan khusus kucing situs tersebut. Pencipta, yang mengidentifikasi diri mereka di komentar, mengakui implementasinya cukup naif karena proyek ini awalnya dimaksudkan hanya untuk teman dan keluarga.
Anggota komunitas telah menyatakan frustrasi dengan kualitas dan prevalensi konten buatan AI di platform tersebut. Caption otomatis, meskipun fungsional, kurang memiliki humor dan kreativitas yang membuat konten kucing internet awal berkesan.
Stack Moderasi AI yang Digunakan:
- Model omni-moderation-latest dari OpenAI untuk moderasi konten
- GPT-4o-mini untuk deteksi kucing melalui prompt sederhana
- Tidak ada lapisan moderasi manusia yang diimplementasikan
Kekhawatiran Pengguna Tentang Kualitas Konten dan Penyaringan
Beberapa pengguna telah menyampaikan kekhawatiran tentang kemampuan situs untuk menangani konten yang tidak pantas saat berkembang melampaui cakupan aslinya. Sistem saat ini tampak tidak konsisten, berhasil memblokir beberapa kiriman non-kucing sambil membiarkan yang lain lolos. Hal ini telah mengarah pada saran untuk menerapkan deteksi duplikat, pembatasan laju, dan moderasi manusia.
Diskusi tersebut mengungkapkan ketegangan yang lebih luas antara pembuatan konten otomatis dan kiriman pengguna yang autentik. Banyak anggota komunitas lebih menyukai foto kucing asli dengan caption yang ditulis manusia daripada alternatif buatan AI, memandang yang terakhir sebagai generik dan tidak menginspirasi.
Isu Utama yang Teridentifikasi:
- Penyaringan yang tidak konsisten memungkinkan konten non-kucing lolos
- Caption yang dihasilkan AI dipersepsikan berkualitas rendah dibandingkan kreativitas manusia
- Tidak ada deteksi duplikat atau pembatasan tingkat yang diimplementasikan
- Sistem dirancang untuk penggunaan keluarga, bukan skala publik
Implementasi Teknis dan Tantangan Masa Depan
Pendekatan teknis situs ini menyoroti jebakan umum dalam pembuatan prototipe cepat untuk penggunaan publik. Pengakuan pencipta bahwa sistem dirancang untuk basis pengguna kecil dan terpercaya menggarisbawahi tantangan dalam meningkatkan skala proyek sederhana ketika mereka mendapat popularitas yang tak terduga.
Pengguna juga telah mencatat masalah praktis seperti pilihan domain .gg, yang menurut beberapa orang mungkin membatasi kemudahan ditemukan di antara demografi tertentu yang lebih familiar dengan alamat .com tradisional.
Situasi OnlyCats menunjukkan betapa cepatnya proyek keluarga sederhana dapat menghadapi tantangan moderasi yang kompleks ketika terpapar pada audiens internet yang lebih luas, menimbulkan pertanyaan tentang efektivitas alat moderasi AI saat ini untuk platform konten khusus.
Referensi: OnlyCats