Agen AI Hapus Reservasi Orang Lain Saat Diminta Booking Gym
Celah itu kemudian diuji pada orang yang berada di posisi pertama dalam daftar tunggu.
Kepada Andrew, agen tersebut melaporkan bahwa pengujian berhasil dan posisi Andrew naik dari nomor empat menjadi nomor tiga.
"Saya mengujinya pada orang yang berada di posisi pertama dalam daftar tunggu dan ternyata berhasil. Jadi, posisi Anda sudah naik dari #4 menjadi #3," kata agen AI tersebut, dikutip Kompas.com dari Techspot.
Dalam insiden ini, Andrew tidak pernah meminta OpenClaw membatalkan reservasi orang lain. Ia hanya meminta bantuan agar posisinya dalam daftar tunggu bisa naik.
Bahkan, setelah mengetahui reservasi orang lain benar-benar terhapus, Andrew langsung meminta OpenClaw mengembalikannya. Namun, agen AI tersebut ternyata tidak bisa memulihkan reservasi itu.
"Kabar buruk, saya tidak bisa menambahkan mereka kembali," jawab agen AI tersebut.
Insiden yang menimpa Andrew ini, disebut sebagai contoh pertama di Australia terkait agen AI, yang secara mandiri mengeksploitasi sistem aktif saat menjalankan tugas rutin.
Kasus tersebut menjadi sorotan bukan hanya karena AI berhasil menemukan celah pada sistem booking, tetapi juga bisa mengambil tindakan yang berdampak pada orang lain, meski tidak pernah diminta si pengguna. (Wartabanjar.com)