Jakarta – Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) menutup akses sementara terhadap Grok, chatbot kecerdasan buatan milik platform X pada Sabtu (10/1/2026) sebagai respons cepat atas maraknya konten pornografi palsu dan deepfake yang dinilai membahayakan publik.
Menteri Komunikasi dan Digital Meutya Hafid menyatakan kebijakan pemutusan akses itu diambil untuk memberi perlindungan kepada kelompok rentan. “Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujarnya dalam pernyataan resmi.
Komdigi menilai praktik deepfake seksual nonkonsensual tidak hanya melanggar norma kesusilaan tetapi juga merupakan pelanggaran serius terhadap hak asasi manusia. Manipulasi visual tersebut, menurut kementerian, merusak martabat, mengancam keselamatan di ruang digital, merampas kendali individu atas identitas visual, serta berpotensi menimbulkan dampak psikologis, kerusakan reputasi, dan pelecehan publik terhadap korban.
Sebagai langkah lanjutan, Komdigi meminta klarifikasi dan memanggil perwakilan Platform X untuk menjelaskan dampak negatif Grok serta menuntut tindakan perbaikan. Keputusan pemutusan akses ini berlandaskan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, yang pada Pasal 9 mewajibkan penyelenggara sistem elektronik memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarkan informasi terlarang.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa pembuatan dan penyebaran deepfake tanpa persetujuan pemilik dapat dikenai sanksi pidana. “Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegasnya, merujuk pada penanganan kasus terkait manipulasi data elektronik.
Grok sebelumnya mendapat sorotan setelah kemampuan menghasilkan konten pornografi instan dimanfaatkan sejumlah pengguna X. Komdigi mencatat ada praktik penyalahgunaan berupa pengunggahan foto wanita, termasuk figur publik dan anak-anak, disertai perintah spesifik seperti “pakaikan dia bikini” atau “lepaskan pakaiannya”, yang memicu kekhawatiran luas tentang potensi eksploitasi seksual berbasis teknologi.
Komdigi menegaskan langkah pemutusan akses bersifat sementara sambil menunggu klarifikasi dan langkah perbaikan dari Platform X. Kementerian menyatakan akan memastikan penerapan ketentuan PSE untuk mencegah penyalahgunaan serupa di masa mendatang dan menjaga keselamatan publik di ruang digital.
