WARTABANJAR.COM - Seorang wanita di Florida, Amerika Serikat, ditangkap setelah riwayat percakapannya dengan chatbot kecerdasan buatan (AI) Claude, dilaporkan ke polisi oleh Anthropic. 

Wanita bernama Carli Michelle Heller itu, diduga menulis ancaman untuk "menembak" kantor Lee County Sheriff's Office (LCSO). 

Hal itu ia tulis dalam percakapannya dengan Claude pada 26 September 2026. Sehari setelahnya, ia juga disebut menulis bahwa dirinya telah mendapatkan senjata baru. 

Sistem keamanan Claude kemudian mendeteksi percakapan tersebut. 

Berdasarkan laporan penangkapan, percakapan yang dianggap serius itu kemudian diteruskan kepada tim pemeriksa di Anthropic. 

Setelah evaluasi, pihak Anthropic pun melaporkan kepada aparat penegak hukum.

Heller kemudian didatangi deputi sheriff di rumahnya dan ditahan. Ia didakwa dengan tindak pidana terkait ancaman tertulis atau elektronik, untuk melakukan penembakan massal atau aksi terorisme berdasarkan hukum Florida.

Sebagaimana dihimpun Kompas.com dari The Next Web, kasus ini menjadi perhatian karena Heller disebut menggunakan AI seperti sebuah "diary" atau buku harian, untuk menuangkan pikirannya. 

Baca Juga: Pelaku Gunakan AI untuk Bobol Server Bank di Korea Selatan, Presiden Turun Tangan

Baca Juga: Pelaku Gunakan AI untuk Bobol Server Bank di Korea Selatan, Presiden Turun Tangan

Sherif Lee County Carmine Marceno, mengatakan pengguna perlu memahami bahwa percakapan dengan AI tidak sepenuhnya anonim.

Di Claude, Anthropic memang memiliki sistem untuk mendeteksi dan memantau penggunaan Claude. 

Perusahaan AI yang didirikan Dario dan Daniela Amodei ini, mengatakan tim Safeguards bertugas menegakkan kebijakan penggunaan, termasuk dengan mendeteksi pelanggaran dan mengambil tindakan terhadap akun. 

Dalam kasus Heller, laporan penangkapan menyebut sistem keamanan Claude memantau kata kunci dan konten yang berpotensi mengandung ancaman. 

Percakapan yang dianggap cukup serius kemudian diteruskan ke tim manusia, untuk ditinjau sebelum akhirnya dilaporkan kepada polisi. 

Kebijakan privasi Anthropic, juga memungkinkan perusahaan memberikan informasi pengguna kepada aparat penegak hukum dalam kondisi tertentu.