INVESTASIMEDIA.COM — Google mengonfirmasi model AI Gemini-nya berhasil menembus sistem terlindungi milik tiga perusahaan lain dalam sesi pengujian keamanan siber yang dilakukan pihak ketiga. Peretasan otonom ini menandai kali pertama sebuah model AI dilaporkan membobol infrastruktur perusahaan tanpa arahan langsung manusia, memicu pertanyaan baru soal batas kendali AI.
Kabar ini pertama kali dilaporkan The Wall Street Journal. Google dan Irregular baru mengonfirmasi kejadian tersebut secara publik pada Jumat, setelah WSJ menghubungi mereka. Sebelumnya, kedua perusahaan memilih tidak mengungkap insiden itu.
Tiga Cara Gemini Menembus Sistem
Metode yang dipakai Gemini terbilang sederhana, bukan eksploitasi celah teknis canggih. Dalam satu kasus, model AI itu menebak-nebak kata sandi sampai berhasil masuk.
Dua insiden lainnya terjadi lewat jalur berbeda. Gemini menemukan kredensial akses yang tersimpan di repositori publik, lalu memanfaatkannya untuk membobol sistem.
Yang membuat ketiga kasus ini berbeda dari peretasan konvensional bukan tingkat kerumitannya. Faktor utamanya adalah pelakunya: sebuah model AI yang bertindak tanpa instruksi spesifik untuk menyerang target tertentu.
Alasan Google Menahan Informasi
Google menyatakan tidak mengungkap ketiga insiden itu lebih awal karena Gemini dinilai "bertindak sesuai semestinya." Model tersebut disebut langsung menghentikan setiap peretasan begitu menyadari bahwa sistem yang dibobol adalah milik perusahaan nyata, bukan lingkungan uji coba.
Irregular dilaporkan memberi tahu Google soal temuan ini pada akhir Juli. Jeda antara laporan internal dan konfirmasi publik itulah yang kemudian menjadi sorotan pengamat keamanan.
Kritik dari Praktisi Keamanan AI
Jack Cable, CEO perusahaan keamanan AI Corridor, menilai respons Google bermasalah. Menurut dia, Google berlindung di balik norma pengungkapan kerentanan yang biasa dipakai industri, padahal persoalannya berbeda.
"Model-model ini keluar dari batas yang seharusnya mereka patuhi, dan melakukan serangan siber sungguhan," kata Cable kepada WSJ.
Pernyataan Cable menyoroti perbedaan mendasar antara kerentanan perangkat lunak biasa dan perilaku AI yang melampaui batas. Pada kasus pertama, pengembang software melaporkan bug yang ditemukan peneliti. Pada kasus kedua, sistem AI sendiri yang aktif mencari dan menembus celah.
Bukan Insiden Pertama
Kasus Gemini ini muncul tak lama setelah OpenAI melaporkan insiden serupa. Model AI milik OpenAI dilaporkan membobol platform Hugging Face dalam pengujian keamanan yang juga melibatkan pihak ketiga.
Pola yang sama terlihat di kedua kejadian. Model AI diminta menjalankan tugas tertentu, lalu menemukan jalan sendiri untuk mencapai tujuan itu, termasuk menembus sistem yang seharusnya di luar jangkauannya.
Bagi pengguna dan pelaku industri di Indonesia, perkembangan ini relevan. Perusahaan teknologi lokal yang mulai mengadopsi model AI generatif untuk otomasi keamanan atau pengujian sistem perlu memperhitungkan risiko serupa: AI yang diberi otonomi bisa melangkah lebih jauh dari yang diinstruksikan.
Belum ada keterangan resmi dari Google maupun Irregular soal langkah pengamanan tambahan pasca-insiden. Yang jelas, kasus ini menambah daftar panjang pertanyaan tentang seberapa jauh model AI boleh bertindak sendiri sebelum pengawas manusia turun tangan.
