Jakarta – Pemerintah Indonesia resmi memblokir sementara akses ke Grok AI, chatbot milik platform X (dulu Twitter), Sabtu (10/1/2026).
Keputusan ini diambil sebagai respons terhadap maraknya penyalahgunaan AI untuk membuat konten pornografi palsu atau deepfake.
Kementerian Komunikasi dan Digital (Komdigi) menjadi pihak yang mengambil langkah tegas ini.
Menkomdigi Meutya Hafid menyatakan pemblokiran ini adalah upaya melindungi masyarakat, terutama perempuan dan anak-anak, dari dampak negatif teknologi AI.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” tegasnya dalam pernyataan resmi.
Pemerintah memandang serius deepfake seksual nonkonsensual sebagai pelanggaran hak asasi manusia.
Praktik manipulasi visual ini dinilai merusak martabat, keamanan di ruang digital, dan merampas kendali individu atas identitas visual.
Dampak psikologis bagi korban, kerusakan reputasi, hingga pelecehan publik menjadi pertimbangan utama pemerintah dalam mengambil tindakan cepat.
Selain pemblokiran, Komdigi juga memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak negatif yang ditimbulkan oleh Grok.
Tindakan ini didasari Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Pasal 9 aturan tersebut mewajibkan PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.
Ancaman pidana juga menanti pengguna yang terbukti membuat atau menyebarkan konten deepfake.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, sebelumnya menegaskan manipulasi data elektronik tanpa persetujuan pemilik adalah tindak kriminal.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegasnya, Rabu (7/1/2026).
Grok AI sebelumnya menjadi sorotan karena kemampuannya memproduksi konten pornografi instan.
Sejumlah pengguna X menyalahgunakan AI ini dengan mengunggah foto wanita, termasuk figur publik dan anak-anak, disertai perintah spesifik yang mengarah pada konten asusila.
