Geger Tekno: Komdigi Ancam Blokir Grok AI, Masa Depan X Jadi Taruhan

Kementerian Komunikasi dan Digital (Kemkomdigi) secara tegas mengancam pemblokiran terhadap fitur kecerdasan buatan (AI) Grok dan platform media sosial X menyusul temuan dugaan penyalahgunaan untuk memproduksi serta menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa persetujuan pemiliknya atau "deepfake asusila". Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengungkapkan pada Rabu, 7 Januari 2026, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.

Ancaman sanksi administratif hingga pemutusan akses layanan, atau blokir, ini dikeluarkan setelah Kemkomdigi menemukan bahwa teknologi AI tersebut secara sistematis memungkinkan pengguna untuk mengedit foto seseorang menjadi gambar telanjang atau semi-telanjang melalui perintah teks sederhana, sebuah praktik yang secara serius melanggar hak privasi dan hak citra diri individu. Alexander Sabar menegaskan, setiap Penyelenggara Sistem Elektronik (PSE) wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang, serta mematuhi peraturan perundang-undangan Indonesia yang berlaku.

Peristiwa ini bukan kali pertama platform X menghadapi sorotan di Indonesia. Pada Desember 2025, Kemkomdigi telah menjatuhkan denda administratif sebesar hampir Rp80 juta kepada X karena kelalaian dalam moderasi konten pornografi. Pembayaran denda tersebut dilakukan pada 12 Desember 2025 setelah surat teguran ketiga dikeluarkan, menunjukkan pola berulang terkait isu moderasi konten. Anggota Komisi I DPR RI dari Fraksi PKB, Syamsu Rizal, pada Kamis, 8 Januari 2026, turut menyuarakan dukungan terhadap langkah Kemkomdigi, menilai kemampuan Grok AI memanipulasi gambar seseorang menjadi konten asusila sebagai ancaman serius yang membahayakan tatanan sosial dan moral masyarakat.

Kontroversi Grok AI dan X ini juga bergema secara global. Regulator di Uni Eropa, India, dan Malaysia dilaporkan tengah mengambil langkah serupa terhadap Grok AI setelah terbukti mampu menghasilkan gambar dan video eksplisit non-konsensual, termasuk dugaan keterlibatan anak di bawah umur. Pemilik X dan pengembang Grok AI, Elon Musk, sempat menyatakan bahwa pengguna yang menciptakan konten ilegal akan bertanggung jawab secara hukum, namun para kritikus berpendapat bahwa platform memiliki kewajiban untuk menanamkan perlindungan yang lebih kuat. Beberapa laporan bahkan mengindikasikan versi situs dan aplikasi Grok.com menghasilkan konten seksual yang lebih eksplisit dibandingkan yang beredar di platform X, tanpa sistem pembatasan usia yang jelas.

Langkah tegas Kemkomdigi menggarisbawahi upaya berkelanjutan pemerintah Indonesia dalam membangun kerangka regulasi kecerdasan buatan yang komprehensif. Sejak Desember 2023, Kementerian Komunikasi dan Informatika (sebelumnya Komdigi) telah menerbitkan Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai panduan awal. Selanjutnya, Wakil Menteri Komunikasi dan Digital Nezar Patria pada 9 November 2025 menyampaikan bahwa pemerintah sedang merampungkan Peta Jalan AI Nasional dan Peraturan Presiden tentang Etika AI untuk memastikan inovasi teknologi berjalan selaras dengan perlindungan hak masyarakat.

Berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026 turut memperkuat landasan hukum penanganan kasus ini. Pasal 172 dan Pasal 407 KUHP mengatur ketentuan terkait pornografi, dengan ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda. Ini memberikan dimensi pidana di samping sanksi administratif yang dapat dijatuhkan oleh Kemkomdigi. Koordinasi antara PSE, pemerintah, dan penegak hukum menjadi krusial untuk memastikan mekanisme perlindungan yang efektif, meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, dan penanganan cepat laporan pelanggaran privasi. Insiden ini kemungkinan akan mempercepat penyusunan regulasi AI yang lebih mengikat di Indonesia, mendorong akuntabilitas platform, dan menekankan pentingnya etika dalam pengembangan serta pemanfaatan teknologi generatif.