Google secara resmi telah meluncurkan program bug bounty khusus yang menargetkan kerentanan kecerdasan buatan, menandai ekspansi signifikan dari upaya keamanan perusahaan seiring semakin dalamnya integrasi AI di seluruh ekosistem produknya. Inisiatif ini merepresentasikan komitmen raksasa teknologi tersebut terhadap langkah-langkah keamanan proaktif di era dimana layanan bertenaga AI menjadi semakin sentral dalam pengalaman pengguna.
Struktur Hadiah Komprehensif untuk Riset Keamanan AI
Program AI Vulnerability Reward Program yang baru menawarkan insentif finansial substansial bagi peneliti yang menemukan celah keamanan kritis dalam produk AI Google . Hadiah dasar berkisar dari 500 hingga 20.000 dolar AS, tergantung pada tingkat keparahan dan dampak kerentanan yang ditemukan. Namun, temuan yang paling luar biasa dapat memberikan peneliti hingga 30.000 dolar AS ketika termasuk bonus kebaruan hingga 10.000 dolar AS untuk vektor serangan yang sangat inovatif.
Struktur Hadiah
| Jenis Kerentanan | Rentang Hadiah Dasar | Maksimum dengan Bonus |
|---|---|---|
| Tindakan Jahat Parah | Hingga USD $10,000 | Hingga USD $20,000 |
| Pelanggaran Kontrol Akses | Hingga USD $2,500 | Hingga USD $12,500 |
| Kerentanan Paling Kritis | Hingga USD $20,000 | Hingga USD $30,000 |
| Kerentanan Umum | USD $500 - USD $20,000 | Hingga USD $30,000 |
Kategori Kerentanan yang Ditargetkan Menentukan Ruang Lingkup Program
Google telah menetapkan enam kategori utama kerentanan yang memenuhi syarat untuk hadiah di bawah program ini. Tindakan nakal merepresentasikan salah satu kategori paling serius, mencakup serangan yang memanipulasi akun atau data pengguna melalui prompt tidak langsung, seperti memaksa perangkat rumah pintar untuk melakukan tindakan tidak sah. Kerentanan pencurian data sensitif, yang dapat memungkinkan penyerang mengekstrak informasi pengguna tanpa persetujuan, juga mendapat bounty signifikan.
Kategori Kerentanan yang Memenuhi Syarat
- Tindakan Jahat: Serangan yang memodifikasi akun/data dengan dampak keamanan
- Pencurian Data Sensitif: Ekstraksi informasi pengguna tanpa izin
- Aktivasi Phishing: Serangan injeksi HTML lintas pengguna
- Pencurian Model: Paparan parameter model AI yang bersifat rahasia
- Manipulasi Konteks: Manipulasi lingkungan AI yang persisten
- Bypass Kontrol Akses: Akses sumber daya tanpa izin dan eksfiltrasi data
Kekhawatiran Keamanan Berdampak Tinggi Menjadi Prioritas
Program ini secara khusus berfokus pada kerentanan dengan implikasi dunia nyata yang substansial daripada gangguan kecil atau kegagalan AI yang menghibur. Serangan enablement phishing yang dapat menyuntikkan konten berbahaya di seluruh platform Google merepresentasikan kekhawatiran kritis, begitu juga kerentanan pencurian model yang mungkin mengekspos parameter AI proprietary. Manipulasi konteks dan masalah bypass kontrol akses melengkapi kategori utama, menekankan fokus Google pada perlindungan data pengguna dan integritas sistem.
Cakupan Produk Mencakup Penawaran AI Utama
Program bug bounty ini mencakup produk AI unggulan Google , termasuk Gemini , fitur AI Google Search , AI Studio , dan integrasi Google Workspace . Cakupan komprehensif ini mencerminkan penyebaran luas kemampuan AI di seluruh portofolio layanan Google dan pengakuan perusahaan bahwa kerentanan keamanan dalam sistem ini dapat memiliki konsekuensi yang luas.
Produk yang Dicakup vs. Pengecualian
Dalam Lingkup:
- Gemini
- Google Search (fitur AI)
- AI Studio
- Google Workspace
Di Luar Lingkup:
- Jailbreak
- Masalah berbasis konten
- Halusinasi AI
- Vertex AI dan produk Google Cloud (VRP terpisah)
Pengecualian yang Jelas Mempertahankan Fokus Program
Google secara eksplisit telah menguraikan beberapa kategori yang berada di luar ruang lingkup program untuk mempertahankan fokus pada isu keamanan yang paling berdampak. Jailbreak, masalah berbasis konten, dan halusinasi AI tidak memenuhi syarat untuk hadiah, sebagian karena kesulitan dalam mereproduksi masalah ini secara konsisten dan dampaknya yang biasanya terbatas di luar sesi pengguna individual. Selain itu, kerentanan dalam Vertex AI dan produk Google Cloud lainnya ditangani melalui saluran pelaporan terpisah.
Membangun di Atas Kesuksesan yang Telah Mapan
Program khusus ini membangun di atas Vulnerability Reward Program Google yang sudah ada, yang telah mendistribusikan lebih dari 430.000 dolar AS kepada peneliti sejak diperluas untuk mencakup isu terkait AI pada tahun 2023. Penciptaan program keamanan AI yang berdiri sendiri menunjukkan pengakuan Google terhadap tantangan unik yang ditimbulkan oleh sistem kecerdasan buatan dan kebutuhan akan keahlian khusus dalam mengidentifikasi kerentanan potensial.
Respons Strategis terhadap Lanskap Ancaman yang Berkembang
Peluncuran ini datang pada waktu yang krusial saat Google terus mengintegrasikan kemampuan AI di seluruh rangkaian produknya, menciptakan permukaan serangan potensial baru yang memerlukan perhatian keamanan khusus. Dengan memberikan insentif kepada peneliti untuk fokus pada kerentanan berdampak tinggi daripada eksploit kebaruan, Google bertujuan untuk selangkah lebih maju dari aktor jahat yang mungkin berusaha mengeksploitasi sistem AI untuk tujuan berbahaya.