Langkah tersebut dinilai penting karena kondisi di gunung dapat berubah, dan membutuhkan informasi langsung dari pihak yang memahami medan setempat.

Dirangkum Kompas.com dari Digital Trends, kasus tiga pendaki ini menunjukkan salah satu keterbatasan chatbot AI. 

AI dapat memberikan jawaban berdasarkan informasi yang tersedia, tetapi tidak selalu memahami kondisi nyata di lokasi. 

Penggunaan AI untuk mendapatkan berbagai saran juga sebelumnya menimbulkan masalah di bidang lain, termasuk hukum dan medis. 

Dalam salah satu kasus, seorang pengacara menggunakan ChatGPT untuk membantu riset hukum.

Namun, sejumlah perkara yang dikutip chatbot ternyata tidak ada. Ketika diminta mengonfirmasi keaslian perkara tersebut, ChatGPT tetap menyatakan bahwa kasus-kasus itu nyata.

Studi lain yang menguji sejumlah chatbot, termasuk ChatGPT, Gemini, Grok, Meta AI, dan DeepSeek, menemukan bahwa sekitar separuh jawaban untuk pertanyaan medis mengandung kesalahan atau informasi yang tidak lengkap. 

Sebagian jawaban bahkan menyertakan referensi yang ternyata fiktif. Karena itu, informasi dari chatbot sebaiknya tidak langsung dijadikan dasar untuk mengambil keputusan.

Informasi informasi tersebut terutama ketika menyangkut keselamatan, kesehatan, hukum, atau hal lain yang memiliki risiko tinggi. 

Informasi dari AI dapat digunakan sebagai salah satu sumber awal, namun pengguna tetap perlu memeriksanya dengan sumber tepercaya dan, jika diperlukan, meminta saran dari profesional atau orang yang memiliki pengalaman langsung. (Wartabanjar.com)