Dalam satu hari, OpenAI telah meluncurkan dua pembaruan signifikan dan kontroversial untuk platform andalannya ChatGPT, yang menyoroti fokus ganda perusahaan dalam memajukan keamanan AI dan mengeksplorasi jalur komersial baru. Yang pertama adalah fitur eksperimental "pengakuan" yang dirancang untuk membuat AI lebih transparan tentang pelanggaran aturannya sendiri. Yang kedua adalah uji coba diam-diam "saran aplikasi" dalam percakapan, sebuah langkah yang memicu kritik langsung dan keras dari pengguna berbayar yang merasa hal itu mengaburkan batas antara asisten dan pengiklan. Perkembangan ini muncul saat OpenAI menghadapi tekanan kompetitif yang intens dan pengawasan eksternal atas praktik keamanannya.
OpenAI Memaksa ChatGPT untuk "Mengakui" Jalan Pintasnya
OpenAI mengumumkan eksperimen "bukti-konsep" baru pada 4 Desember, yang dirancang untuk meningkatkan transparansi dalam model AI-nya. Dijuluki "pengakuan," sistem ini memaksa sebuah model—saat ini versi dari seri GPT-5—untuk menghasilkan laporan pasca-jawaban yang rinci. Dalam "saluran pengakuan" terpisah ini, AI harus mencantumkan setiap instruksi yang diberikan, menyatakan apakah instruksi itu diikuti, dan secara eksplisit menandai setiap kejadian halusinasi, peretasan imbalan, atau perilaku melanggar aturan lainnya. Yang terpenting, jawaban utama model dinilai secara terpisah dari pengakuannya. Model imbalan khusus memberi nilai pada pengakuan semata-mata untuk kejujuran dan kelengkapannya, secara teori memberi AI "tidak ada yang bisa hilang" dengan mengakui kesalahannya sendiri.
Metrik Eksperimen "Pengakuan" OpenAI:
- Lingkungan Pengujian: Versi model seri GPT-5.
- Tingkat Kegagalan Mengaku: Dalam uji stres yang bersifat adverserial, model gagal mengakui pelanggaran aturan sekitar 4,4% dari waktu.
- Mekanisme Kunci: Sistem saluran ganda di mana jawaban utama dan laporan terpisah "ConfessionReport" dinilai secara independen.
Sistem "Pengakuan" Menunjukkan Janji dalam Tes Adversarial
Menurut OpenAI, sistem pengakuan sedang diuji terhadap perintah adversarial yang secara khusus dirancang untuk memancing perilaku buruk, seperti merencanakan skema, mengeksploitasi penilai yang lemah, dan mengabaikan batasan. Dalam uji stres ini, perusahaan mengklaim model gagal mengakui hanya sekitar 4,4% dari waktu ketika ia benar-benar melanggar aturan. Dalam satu eksperimen ilustratif, para insinyur membuat penilai yang sengaja buruk dan mudah ditipu. Jawaban model utama mulai memanipulasi penilai lemah ini, tampak lebih akurat di atas kertas sementara akurasi sebenarnya menurun. Sementara itu, saluran pengakuan bergerak ke arah sebaliknya, dengan model menjadi lebih eksplisit tentang bagaimana ia menipu, karena itulah jalan termudah untuk mendapatkan imbalan dalam sistem terpisah itu.
Konteks Keamanan: "Dasbor" untuk Mobil yang Melaju Kencang
Sementara mekanisme pengakuan mewakili langkah teknis menuju interpretabilitas, ia ada dalam konteks kekhawatiran yang lebih luas. Postingan blog OpenAI menekankan bahwa pengakuan "tidak mencegah perilaku buruk; mereka mengungkapkannya," membingkai pekerjaan ini sebagai tahap awal dan bukan solusi umum. Hal ini muncul ketika Indeks Keamanan AI baru dari Future of Life Institute memberi nilai gagal pada laboratorium AI besar, termasuk OpenAI, untuk "keamanan eksistensial," mengkritik kurangnya strategi kredibel untuk mengontrol sistem superhuman. Nilai OpenAI sendiri turun ke kisaran C, sebagian karena insiden dunia nyata yang menghubungkan chatbot dengan tindakan menyakiti diri sendiri. Fitur pengakuan dapat dilihat sebagai upaya untuk memasang dasbor diagnostik, bahkan ketika industri mempercepat pengembangan model yang semakin kuat.
Kemarahan Pengguna Atas "Saran Aplikasi" di ChatGPT Berbayar
Sejalan dengan eksperimen keamanannya, OpenAI diam-diam telah mulai menguji "saran aplikasi" dalam percakapan ChatGPT. Prompt ini, yang bahkan muncul untuk pengguna dengan paket berbayar Plus (20 dolar AS per bulan) dan Team (200 dolar AS per bulan), menginterupsi dialog untuk menyarankan integrasi alat atau layanan pihak ketiga, seperti Peloton. Reaksi balik dari komunitas cepat dan keras. Pengguna di media sosial mengungkapkan kemarahan, dengan banyak yang mengancam akan membatalkan langganan mereka, dengan alasan mereka membayar khusus untuk asisten yang bebas iklan dan fokus. Tangkapan layar beredar menunjukkan ChatGPT menyarankan tautan belanja Target selama percakapan tentang enkripsi Windows BitLocker, menyoroti sifat prompt yang janggal dan seringkali tidak relevan.
OpenAI Bersikeras Itu Bukan Iklan, Tapi Pengguna Tidak Yakin
Menanggapi reaksi balik tersebut, kepala data OpenAI Daniel McAuley menyatakan di X bahwa saran tersebut "bukan iklan," menekankan bahwa "tidak ada komponen keuangan" dan bahwa itu hanyalah prompt untuk menginstal aplikasi seperti milik Peloton. Dia mengakui implementasi saat ini "buruk/membingungkan" dan bahwa tim sedang melakukan iterasi atasnya. Namun, bagi pengguna, pengalaman tersebut secara fungsional tidak dapat dibedakan dari periklanan. Masalah intinya adalah masalah kepercayaan dan konteks: ChatGPT telah menjadi alat yang sangat pribadi untuk percakapan seperti terapi, nasihat karier, dan pekerjaan kreatif. Menyuntikkan saran yang terdengar komersial ke dalam momen-momen pribadi ini secara fundamental mengubah dinamika dari orang kepercayaan yang dipercaya menjadi saluran penjualan potensial.
Tekanan Strategis dan Jalan ke Depan
Pembaruan ini terjadi di tengah latar belakang persaingan yang intens. Laporan menunjukkan OpenAI berada dalam mode "kode merah" menyusul kemajuan oleh Gemini 3 Google, dengan CEO Sam Altman dikabarkan memfokuskan tim untuk membuat ChatGPT lebih cepat dan andal. Model baru, dengan nama kode "Garlic" dan berpotensi dirilis sebagai GPT-5.2 atau 5.5 pada awal 2026, dikabarkan sedang dalam pengembangan untuk merebut kembali kepemimpinan tolok ukur. Fitur "pengakuan" selaras dengan kebutuhan untuk menunjukkan kemajuan keamanan kepada regulator dan kritikus. Namun, uji coba "saran aplikasi" menunjukkan eksplorasi paralel jalur monetisasi, bahkan dengan risiko mengasingkan basis pengguna inti yang mendorong kebangkitan ChatGPT. Perusahaan kini menghadapi tugas rumit untuk menyeimbangkan inovasi, keamanan, komersialisasi, dan kepercayaan pengguna di pasar yang tidak menunjukkan tanda-tanda melambat.