OpenAI telah mengumumkan perubahan besar pada langkah-langkah keamanan ChatGPT , memperkenalkan sistem prediksi usia dan protokol notifikasi orang tua sebagai respons terhadap kekhawatiran yang meningkat tentang keselamatan remaja. Pengumuman ini muncul di tengah pengawasan ketat menyusul kasus-kasus terbaru di mana remaja diduga melewati perlindungan keamanan AI, dengan konsekuensi tragis termasuk insiden bunuh diri yang telah memicu perdebatan luas tentang tanggung jawab AI.
Perubahan Pola Penggunaan ChatGPT:
- Penggunaan terkait pekerjaan: Menurun dari ~50% menjadi ~25% selama setahun terakhir
- Penggunaan pribadi: Meningkat signifikan di semua kelompok usia
- Basis pengguna: Ditujukan untuk usia 13 tahun ke atas
Teknologi Deteksi Usia Menimbulkan Kekhawatiran Privasi
Perusahaan ini sedang mengembangkan sistem prediksi usia otomatis yang menganalisis cara pengguna berinteraksi dengan ChatGPT untuk menentukan apakah mereka berusia di bawah 18 tahun. Ketika sistem tidak yakin tentang usia pengguna, sistem akan secara default memperlakukan mereka sebagai anak di bawah umur dengan pembatasan keamanan yang lebih ketat. Di beberapa wilayah, OpenAI mungkin juga memerlukan verifikasi ID, mengakui bahwa hal ini menciptakan pertukaran privasi bagi pengguna dewasa.
Anggota komunitas telah menyatakan skeptisisme tentang pendekatan ini, terutama mengenai positif palsu. Kekhawatiran meluas melampaui ketidaknyamanan - pengguna khawatir tentang ditandai secara salah oleh sistem AI dan menghadapi intervensi yang tidak diinginkan, termasuk kontak polisi potensial untuk krisis kesehatan mental yang dipersepsikan.
Peringatan Orang Tua dan Protokol Kontak Otoritas
Aspek yang mungkin paling kontroversial melibatkan rencana OpenAI untuk menghubungi orang tua atau otoritas ketika sistem mendeteksi pikiran bunuh diri pada pengguna di bawah 18 tahun. Perusahaan menyatakan akan terlebih dahulu mencoba menghubungi orang tua, dan jika tidak berhasil, mungkin menghubungi otoritas dalam kasus bahaya yang mengancam.
Kebijakan ini telah menghasilkan penolakan signifikan dari pengguna yang takut akan campur tangan berlebihan dan alarm palsu. Sifat otomatis dari keputusan-keputusan ini terutama meresahkan kritikus, yang mempertanyakan apakah sistem AI dapat secara akurat menilai situasi krisis yang sesungguhnya versus penulisan kreatif atau diskusi kasual.
Pembatasan Penulisan Kreatif Memicu Perdebatan
OpenAI berencana untuk memblokir remaja dari membahas bunuh diri atau menyakiti diri sendiri bahkan dalam konteks penulisan kreatif - respons langsung terhadap kasus-kasus di mana pengguna menghindari langkah-langkah keamanan dengan mengklaim menulis cerita fiksi. Namun, pembatasan menyeluruh ini menimbulkan pertanyaan tentang penggunaan pendidikan dan kreatif yang sah.
Tantangannya terletak pada sifat fundamental model bahasa, yang beradaptasi dengan konteks dan dapat dimanipulasi melalui prompting yang cerdas. Kritikus berpendapat bahwa pengguna yang bertekad akan selalu menemukan cara untuk menghindari pembatasan, sementara pengguna yang sah mungkin menghadapi hambatan yang tidak perlu.
Langkah Keamanan Baru untuk Pengguna di Bawah 18 Tahun:
- Sistem prediksi usia berdasarkan pola penggunaan
- Default ke pengalaman pengguna di bawah 18 tahun ketika tidak pasti
- Konten yang bersifat menggoda tidak diperbolehkan
- Pembatasan penulisan kreatif pada topik bunuh diri/menyakiti diri sendiri
- Kontak orang tua untuk kecenderungan bunuh diri
- Kontak pihak berwenang jika orang tua tidak dapat dihubungi dalam situasi krisis
Implikasi Lebih Luas untuk Tata Kelola AI
Pengumuman ini mencerminkan upaya OpenAI untuk menyeimbangkan tiga prinsip yang bersaing: privasi pengguna, kebebasan dewasa, dan perlindungan remaja. Perusahaan mengakui bahwa prinsip-prinsip ini sering bertentangan dan bahwa tidak semua orang akan setuju dengan pendekatan mereka.
Saya menduga hanya masalah waktu sampai hanya populasi yang berada dalam model statistik rata-rata yang akan dapat melakukan bisnis tanpa hambatan dan rasa sakit yang konstan.
Perubahan-perubahan ini menyoroti pertanyaan yang lebih luas tentang tata kelola AI dan tanggung jawab perusahaan. Sementara OpenAI memposisikan dirinya sebagai pelindung privasi melalui fitur keamanan canggih, kritikus menunjuk pada praktik perusahaan yang lebih luas, mempertanyakan konsistensi sikap etis mereka.
Trade-off Privasi vs Keamanan:
- Verifikasi ID diperlukan di beberapa negara/kasus
- Fitur keamanan canggih untuk melindungi data dari karyawan OpenAI
- Pemantauan otomatis untuk penyalahgunaan serius
- Eskalasi tinjauan manusia untuk risiko kritis (ancaman jiwa, bahaya terhadap orang lain, insiden keamanan siber)
 |
|---|
| Diskusi OpenAI tentang keamanan remaja, kebebasan, dan privasi menyoroti keseimbangan kompleks antara privasi pengguna dan langkah-langkah perlindungan |
Respons Pasar dan Prospek Masa Depan
Data menunjukkan pola penggunaan ChatGPT sudah bergeser, dengan penggunaan terkait pekerjaan menurun dari sekitar 50% menjadi 25% selama tahun lalu karena pengguna semakin beralih ke AI untuk masalah pribadi. Tren ini membuat pertimbangan privasi dan keamanan menjadi lebih kritis, karena AI menjadi bagian yang lebih intim dari kehidupan pengguna.
Waktu pengumuman OpenAI , yang bertepatan dengan liputan media negatif tentang insiden keselamatan remaja, menunjukkan bahwa perubahan-perubahan ini bersifat reaktif daripada proaktif. Saat teknologi AI terus berkembang dengan cepat, tantangan mengimplementasikan perlindungan yang efektif tanpa menghambat penggunaan yang sah tetap belum terselesaikan.
Referensi: Teen safety, freedom, and privacy