Wall Street Journal (WSJ) mencatat, kepergian Coxon sebagai salah satu contoh pertama karyawan Anthropic, yang mundur karena kekhawatiran soal keamanan AI.

Coxon sendiri menegaskan, ia tidak cuma meninggalkan perusahaan, tetapi juga industri AI secara keseluruhan. 

Kepada WSJ, ia menyebut keadaan sudah bisa lepas kendali pada akhir tahun depan. 
"Kalau memang percaya, kenapa masih dibangun?" tuturnya seperti dikutip Kompas.com dari Moneycontrol.

Coxon sendiri yang mengangkat pertanyaan itu dalam unggahannya. 

Menurut dia, ini pertanyaan yang paling sering dilontarkan orang. 

Jawabannya berbeda untuk dua bekas tempat kerjanya. 

Di OpenAI, menurut dia, banyak orang belum benar-benar menyadari besarnya taruhan bagi peradaban.

Sementara di Anthropic, taruhan itu justru dipahami dengan baik. Masalahnya, kata Coxon, perusahaan tersebut merasa terkunci dalam perlombaan untuk sampai lebih dulu.

Anthropic disebutnya percaya tidak ada pihak lain yang akan bertindak bertanggung jawab.

Perusahaan itu pun merasa harus mengerjakannya sendiri, meski berisiko. 

"Menerima perlombaan ini dan memasuki babak akhir, adalah pertaruhan sombong yang tidak seharusnya diluncurkan dari kanal Slack sebuah perusahaan swasta," tulis Coxon. 

Ia menambahkan, upaya menuntaskan alignment AI secara cepat, semestinya menuntut keyakinan luar biasa bahwa memang tidak ada jalur lain yang lebih baik.

Pernyataan Coxon pun direspons dari pihak dalam Anthropic sendiri.

Evan Hubinger, Alignment Science Lead di Anthropic, membalas unggahan tersebut dan menyatakan Coxon benar. 

Alignment adalah divisi yang memastikan sistem AI bertindak sesuai pedoman dan maksud manusia. 

"Jacob benar soal ini, kami memang sungguh-sungguh percaya AI bisa membunuh semua manusia. Saya pribadi menilai peluangnya di atas 10 persen, dalam satu dekade ke depan," tulis Hubinger.

"Saya percaya Anthropic sudah berusaha sebaik mungkin, tapi kami belum punya rencana buat menuntaskan alignment untuk kecerdasan super, dan belum jelas juga apakah kami sudah di jalur yang tepat," lanjutnya.