WARTABANJAR.COM, JAKARTA – Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memutus sementara akses Grok AI di Indonesia. Langkah tegas ini diambil menyusul maraknya temuan konten pornografi deepfake yang diproduksi menggunakan teknologi kecerdasan buatan tersebut.
Grok AI diduga kuat dimanfaatkan untuk memanipulasi foto dan gambar pribadi menjadi konten asusila tanpa persetujuan pemiliknya. Praktik ini dinilai sangat berbahaya karena melanggar hak privasi, merusak reputasi korban, serta membuka ruang kejahatan digital yang semakin sulit dikendalikan.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia.
“Ini bukan sekadar persoalan teknologi, tetapi menyangkut martabat, keamanan, dan perlindungan warga negara di ruang digital,” tegas Meutya.
Komdigi pun meminta pihak X, sebagai pemilik Grok AI, untuk segera hadir memberikan klarifikasi terkait mekanisme pengawasan serta pencegahan penyalahgunaan teknologi tersebut.
Langkah pemutusan akses ini disebut telah sesuai dengan dasar hukum nasional. Komdigi merujuk pada Permen Kominfo Nomor 5 Tahun 2020 yang mewajibkan setiap penyelenggara sistem elektronik mencegah penyebaran konten terlarang, termasuk pornografi dan eksploitasi seksual berbasis digital.
Tekanan Global terhadap Grok AI
Di sisi lain, Grok AI yang dikembangkan di bawah naungan Elon Musk juga mulai membatasi fitur pembuatan dan pengeditan gambar di platform X. Kini, fitur tersebut hanya dapat diakses oleh pelanggan berbayar.