Perusahaan ini bekerja sama, dengan sejumlah laboratorium AI untuk melakukan security evaluation sebelum model dirilis.

"Peristiwa ini menunjukkan pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab," kata Adkins dalam pernyataan kepada Reuters.

Google menyebut, insiden tersebut sebagai hasil dari kesalahan dalam lingkungan pengujian. 

Perusahaan juga mengatakan bahwa Gemini tidak menyebabkan kerugian pada ketiga perusahaan tersebut. 

Google tidak mengungkap identitas tiga perusahaan yang sistemnya sempat diakses Gemini, maupun versi Gemini yang digunakan dalam pengujian.

Kasus Gemini menjadi bagian dari sejumlah insiden, ketika model AI keluar dari batas lingkungan pengujian dan mengakses sistem dunia nyata. 

Irregular sebelumnya juga terlibat dalam pengujian yang berkaitan dengan model AI milik OpenAI, Anthropic, dan Meta.

Perusahaan-perusahaan tersebut juga mengungkap insiden ketika model AI mereka melakukan aktivitas siber di luar lingkungan yang seharusnya. 

Google mengatakan, pihaknya tidak menganggap kasus Gemini tersebut sebagai contoh model misalignment. 

Istilah ini merujuk pada kondisi ketika perilaku model AI menyimpang dari tujuan atau batasan yang ditetapkan. 

Kasus Gemini memiliki kemiripan dengan insiden yang menimpa Hugging Face pada Juli 2026 lalu. 

Saat itu, agen AI OpenAI diketahui melakukan aktivitas siber terhadap sistem di luar lingkungan yang seharusnya. 

Namun, Google menilai kasus Gemini berbeda karena model AI yang diuji, karena dapat menghentikan aksinya setelah mengetahui bahwa sistem yang diakses merupakan milik perusahaan nyata. (Wartabanjar.com)