Kemenkominfo Blokir Grok AI: Tangkal Ancaman Deepfake Pornografi

Kementerian Komunikasi dan Digital (Komdigi) Republik Indonesia secara resmi memutus akses sementara terhadap aplikasi kecerdasan buatan (AI) Grok, yang terintegrasi dengan platform X, mulai Sabtu (10/1/2026). Langkah tegas ini diambil untuk melindungi masyarakat, terutama perempuan dan anak-anak, dari ancaman konten pornografi palsu atau deepfake yang marak dihasilkan melalui teknologi tersebut.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital. Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menambahkan bahwa temuan awal menunjukkan Grok AI belum memiliki pengaturan spesifik yang memadai untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi, yang berisiko melanggar privasi dan hak atas citra diri warga Indonesia.

Kebijakan pemutusan akses ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi atau dokumen elektronik yang dilarang oleh undang-undang. Selain melakukan pemblokiran, Komdigi juga telah memanggil Platform X untuk segera memberikan klarifikasi terkait dampak negatif dan kerentanan yang ditimbulkan oleh penggunaan Grok AI di Indonesia.

Lonjakan kasus deepfake menjadi perhatian global, dengan laporan Sensity AI pada tahun 2025 yang menunjukkan peningkatan kasus deepfake sebesar 550 persen sejak 2019, dan 90 persen di antaranya digunakan untuk tujuan berbahaya. Penelitian lain yang dilakukan dari Juli hingga Agustus 2023 menemukan 21.019 video deepfake bernuansa pornografi, meningkat 464 persen dari tahun 2022. Fenomena ini menimbulkan kekerasan berbasis gender online (KBGO) yang berdampak psikologis, sosial, dan reputasi bagi korban.

Indonesia sendiri, per Juli 2025, masih belum memiliki aturan spesifik yang menjadi payung hukum mengenai penggunaan AI, selain Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial yang bersifat sukarela. Meskipun demikian, Komdigi menyatakan bahwa kejahatan yang memanfaatkan AI, termasuk deepfake, akan ditindak menggunakan Undang-Undang Pornografi dan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE).

Pemerintah melalui Komdigi sedang mematangkan regulasi AI dalam bentuk Peraturan Presiden (Perpres) untuk memperkuat tata kelola lintas sektor, yang ditargetkan untuk ditandatangani pada awal 2026. Wakil Menteri Komunikasi dan Digital, Nezar Patria, menyatakan bahwa regulasi ini akan menjadi peta jalan dan panduan prinsipil bagi kementerian, lembaga, serta pemangku kepentingan dalam mengadopsi teknologi AI secara etis dan bertanggung jawab, sambil tetap mendorong inovasi. Akademisi Universitas Muhammadiyah (Unismuh) Makassar, Andi Amalia Suhra, SH., M.Kn, menilai praktik manipulasi gambar seksual non-konsensual melalui AI sebagai serangan terhadap hak asasi manusia, khususnya hak atas privasi dan martabat.

Pemblokiran Grok AI oleh Komdigi menjadi indikasi kuat komitmen pemerintah dalam menjaga ruang digital yang aman dan bermartabat, sekaligus mengirimkan pesan kepada pengembang teknologi AI global untuk mematuhi standar keamanan dan norma hukum yang berlaku di Indonesia. Namun, tantangan yang lebih besar adalah bagaimana platform dan regulator dapat mengembangkan sistem yang lebih bertanggung jawab dan protektif terhadap eksploitasi identitas digital di era AI, di tengah kecepatan perkembangan teknologi yang melampaui kerangka hukum yang ada. Literasi digital yang komprehensif dan masif mengenai manfaat serta risiko teknologi juga menjadi kunci dalam upaya perlindungan masyarakat.