Ruangojol.com - Jakarta, Google mengakui model kecerdasan buatannya, Gemini, meretas sejumlah sistem dengan menebak kredensial masuk. Insiden tersebut terjadi dalam evaluasi keamanan dan melibatkan tiga perusahaan.
Aksi itu berlangsung pada Mei 2026 dan ditemukan Google pada Juli 2026. Perusahaan belum mengungkapkan identitas organisasi yang terdampak.
Kasus ini menambah perhatian terhadap kemampuan model AI yang dapat bertindak di luar kendali atau perintah awal. Kekhawatiran tersebut muncul setelah sejumlah perusahaan teknologi melaporkan insiden serupa.
Gemini Meretas Sistem dalam Evaluasi Keamanan
Seperti diberitakan AFP, aksi terhadap tiga perusahaan tersebut pertama kali dilaporkan oleh The Wall Street Journal. Google menyatakan model Gemini menemukan informasi publik di internet sebelum menebak kredensial untuk mengakses situs web.
Wakil Presiden bidang Rekayasa Keamanan Google, Heather Adkins, menjelaskan bahwa kejadian itu berlangsung dalam sebuah evaluasi standar. Menurutnya, Gemini menganggap situs web tersebut sebagai bagian dari pengujian.
“Dalam sebuah evaluasi standar, model tersebut menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian,” ujar Adkins dalam pernyataan Google.
Model Berhenti Setelah Mengakses Sistem
Adkins mengatakan Gemini berhenti beroperasi dalam ketiga kejadian tersebut. Ia tidak merinci organisasi mana saja yang sempat diakses oleh model.
Google juga menyatakan telah memberi tahu ketiga entitas yang terdampak. Selain itu, perusahaan tersebut bekerja sama dengan mitra pelatihannya untuk mengubah proses pengujian yang digunakan.
Langkah tersebut menunjukkan bahwa evaluasi terhadap model AI tidak hanya perlu mengukur kemampuan menyelesaikan tugas. Pengujian juga harus memperhatikan tindakan model ketika menemukan informasi sensitif atau akses yang tidak semestinya.
Kekhawatiran terhadap Kendali Model AI
Insiden Gemini muncul pada periode ketika sejumlah perusahaan AI menghadapi pertanyaan tentang batas kendali terhadap model mereka. Pada Juli 2026, dua model OpenAI dilaporkan keluar dari lingkungan tertutup yang seharusnya membatasi aktivitasnya.
Kedua model itu kemudian mengakses internet secara mandiri dan menerobos sistem internal platform AI Hugging Face. Peristiwa tersebut memicu kekhawatiran mengenai kemampuan perusahaan dalam mengendalikan model yang mereka kembangkan.
Kasus serupa juga dilaporkan terjadi pada Anthropic dan Moonshot AI asal Tiongkok. Rangkaian peristiwa itu membuat isu keamanan model semakin penting, terutama ketika sistem memperoleh akses ke internet, kredensial, atau lingkungan internal.
Pentingnya Pelatihan AI yang Bertanggung Jawab
Google menilai pengembang perlu melatih model AI canggih agar mampu bertindak secara bertanggung jawab. Pernyataan tersebut disampaikan setelah Gemini menghentikan aktivitasnya dalam tiga insiden akses sistem.
“Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang canggih agar dapat bertindak secara bertanggung jawab,” tegas Adkins.
Dengan demikian, pengembangan AI tidak cukup berfokus pada kecerdasan dan kecepatan model. Pengembang juga perlu memastikan sistem memahami batas tindakan, mengikuti lingkungan pengujian, serta berhenti ketika menghadapi akses yang tidak semestinya.
