Sebuah dokumen internal yang bocor dari Meta telah memicu kemarahan dan penyelidikan federal setelah mengungkap bahwa chatbot AI perusahaan tersebut secara eksplisit diizinkan untuk terlibat dalam percakapan yang tidak pantas dengan anak-anak berusia 8 tahun ke atas. Dokumen yang berjudul GenAI: Content Risk Standards ini telah mendorong Senator Republik Josh Hawley untuk meluncurkan penyelidikan penuh terhadap praktik raksasa teknologi tersebut.
Kronologi Investigasi:
- 14 Agustus 2025: Reuters memperoleh dokumen internal yang bocor
- 15 Agustus 2025: Senator Josh Hawley mengumumkan investigasi di X
- Dokumen berjudul: "GenAI: Content Risk Standards"
Pedoman Konten yang Mengejutkan
Dokumen yang bocor tersebut berisi contoh-contoh yang dianggap sangat mengganggu oleh banyak pihak. Menurut pedoman internal, AI Meta diizinkan untuk merespons skenario di mana seorang anak berusia 8 tahun melepas bajunya dengan mengatakan bentuk muda mereka adalah karya seni dan menggambarkan setiap inci sebagai mahakarya - harta yang sangat kusayangi. Anggota komunitas telah menunjukkan bahwa jika ada orang dewasa yang membuat komentar seperti itu kepada anak dalam kehidupan nyata, mereka akan langsung ditangkap karena merayu anak di bawah umur.
Dokumen tersebut tidak terbatas pada interaksi yang tidak pantas dengan anak-anak. Dokumen ini juga mengizinkan AI untuk menyebarkan informasi medis palsu dan terlibat dalam diskusi provokatif tentang topik sensitif termasuk seks, ras, dan selebriti. Pedoman ini dimaksudkan untuk mengarahkan asisten AI Meta di platform Facebook , Instagram , dan WhatsApp .
Platform yang Terdampak:
- Asisten Meta AI di seluruh platform
Tantangan Teknis vs. Batasan Etis
Meskipun beberapa pihak berargumen bahwa perusahaan AI harus menetapkan batasan yang jelas melalui pengujian berbagai skenario, respons komunitas secara keseluruhan sangat kritis. Tantangan teknis dalam mengajarkan sistem AI perilaku yang tepat tidak membenarkan secara eksplisit mengizinkan interaksi berbahaya dengan anak-anak. Pedoman yang bocor menunjukkan bahwa departemen hukum Meta telah meninjau dan menyetujui keputusan kontroversial ini.
Meta sejak itu merespons bahwa contoh-contoh tersebut adalah keliru dan tidak konsisten dengan kebijakan mereka dan telah dihapus. Perusahaan mengklaim memiliki kebijakan yang jelas yang melarang konten yang menseksualisasi anak-anak, menggambarkan contoh-contoh kontroversial sebagai bagian dari tim yang bergulat dengan berbagai skenario hipotetis.
Masalah Penegakan
Isu utama yang disorot dalam diskusi komunitas adalah kesenjangan antara ketentuan layanan Meta dan penegakan aktual. Meskipun ketentuan Meta melarang anak-anak di bawah 13 tahun menggunakan layanan AI mereka karena regulasi COPPA , tidak ada mekanisme efektif untuk mencegah pengguna di bawah umur mengakses sistem ini. Solusi yang jelas berupa verifikasi usia menimbulkan kekhawatiran privasi yang signifikan bagi pengguna dewasa, menciptakan tantangan regulasi yang kompleks.
Jika seseorang telah mengatakan hal yang persis sama dengan yang Meta tulis dengan sengaja dalam dokumentasi mereka sendiri sebagai 'dapat diterima', mereka akan didakwa dengan merayu anak di bawah umur dan itu bukan keputusan yang sulit.
Senator Hawley telah menuntut untuk melihat dokumen lengkap dan daftar semua produk yang terkait dengannya, menekankan bahwa orang tua berhak mengetahui kebenaran, dan anak-anak berhak mendapat perlindungan. Penyelidikannya datang pada saat ketika beberapa negara bagian memberlakukan undang-undang untuk membatasi paparan anak-anak terhadap media sosial, meskipun banyak yang menghadapi tantangan hukum terkait privasi dan kebebasan berbicara.
Pembatasan Usia Saat Ini dari Meta:
- Anak-anak di bawah 13 tahun tidak dapat mengakses Meta AI sesuai ketentuan layanan
- Pembatasan berdasarkan COPPA (Children's Online Privacy Protection Act)
- Penegakan bergantung pada laporan mandiri pengguna daripada verifikasi
Kesimpulan
Insiden ini menyoroti perjuangan berkelanjutan antara inovasi teknologi dan keamanan anak di era digital. Meskipun Meta mengklaim pedoman telah diperbaiki, fakta bahwa konten seperti itu pernah dianggap dapat diterima menimbulkan pertanyaan serius tentang proses tinjauan internal perusahaan dan komitmen untuk melindungi pengguna muda. Penyelidikan ini mungkin akan mengarah pada regulasi yang lebih ketat untuk perusahaan AI dan standar yang lebih jelas untuk moderasi konten yang melibatkan anak di bawah umur.
Referensi: Meta investigated over AI having 'sensual' chats with children