Demonstrasi produk terbaru Meta di Connect 2023 berubah menjadi bencana teknis yang memalukan, mengungkap kerentanan keamanan serius pada kacamata pintar Ray-Ban Meta yang baru. Yang seharusnya memamerkan kemampuan AI canggih perusahaan justru menyoroti cacat mendasar dalam sistem pengenalan suara perangkat tersebut.
Aktivasi Massal Menciptakan Kekacauan
Demo ini berjalan salah ketika seorang koki di atas panggung mengatakan Hey, Meta, start Live AI untuk mendemonstrasikan asisten AI kacamata. Alih-alih hanya mengaktifkan unit demo, perintah tersebut memicu setiap pasang kacamata Ray-Ban Meta di dalam gedung. Aktivasi massal ini menciptakan rangkaian masalah yang menghancurkan seluruh demonstrasi.
Masalah ini berasal dari kurangnya pengenalan kata bangun yang dipersonalisasi atau teknologi beamforming mikrofon yang tepat pada kacamata. Siapa pun dalam jangkauan pendengaran tampaknya dapat mengeluarkan perintah suara yang secara otomatis diterima AI, terlepas dari siapa yang memakai kacamata tersebut.
Kerentanan Keamanan yang Teridentifikasi:
- Tidak ada pengenalan wake word yang dipersonalisasi
- Tidak memiliki teknologi microphone beamforming
- Menerima perintah suara dari siapa saja yang berada di dekatnya
- Potensi aktivasi jarak jauh dan perekaman tanpa izin
- Kemungkinan aktivasi massal di lingkungan yang ramai
Muncul Kekhawatiran Privasi dan Keamanan
Demo yang gagal ini telah memicu diskusi serius tentang implikasi privasi. Anggota komunitas sangat khawatir tentang potensi aktor jahat mengeksploitasi kerentanan ini. Kacamata secara teoritis dapat dipicu dari jarak jauh untuk mulai merekam audio dan video tanpa sepengetahuan pemakainya.
Seseorang akan menemukan cara subaudible yang bagus untuk memicu setiap pasang kacamata di alam liar. Secara otomatis mendoxx diri sendiri, melepaskan semua foto pribadi, dokumen, segala sesuatu yang dapat diakses AI.
Celah keamanan ini menjadi lebih mengkhawatirkan ketika mempertimbangkan kemampuan kamera kacamata dan integrasi AI di seluruh platform Meta termasuk WhatsApp , Messenger , dan Instagram .
Fitur Utama Kacamata Pintar Ray-Ban Meta:
- Asisten AI Meta bawaan yang didukung oleh model bahasa Llama 2
- Kemampuan pembuatan gambar secara real-time
- Integrasi dengan WhatsApp, Messenger, dan Instagram
- Aktivasi suara melalui perintah "Hey, Meta"
- Fungsi perekaman kamera dan audio
Masalah Infrastruktur Teknis
Selain masalah perintah suara, pengaturan demo Meta menciptakan titik kegagalan tambahan. Perusahaan telah merutekan semua lalu lintas Live AI melalui satu server pengembangan untuk mengisolasi demo, tetapi ini mempengaruhi semua orang di gedung yang menggunakan titik akses yang sama, termasuk headset Quest .
Keputusan infrastruktur ini mengubah apa yang mungkin hanya gangguan kecil menjadi kerusakan sistem total, meninggalkan presenter berjuang dengan AI yang tidak responsif dan keheningan canggung selama apa yang seharusnya menjadi showcase produk unggulan mereka.
Insiden ini menimbulkan pertanyaan apakah terburu-burunya Meta mengintegrasikan AI di seluruh ekosistem perangkat kerasnya telah mengkompromikan perlindungan keamanan dan privasi dasar yang diharapkan pengguna dari teknologi yang dapat dikenakan.
Referensi: Meta Ray-Ban Display and everything else unveiled at Meta Connect 2023