Komdigi Ultimatum X: Grok AI Disalahgunakan untuk Konten Asusila, Blokir Mengintai

Kementerian Komunikasi dan Digital (Komdigi) Indonesia secara serius menyoroti dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok pada platform media sosial X. Teknologi yang dikembangkan oleh xAI milik Elon Musk ini diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi sensitif tanpa persetujuan pemiliknya. Komdigi mengancam sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X di Indonesia jika terbukti tidak patuh dan kooperatif terhadap peraturan yang berlaku.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyatakan bahwa penelusuran awal menunjukkan Grok AI belum memiliki pengaturan spesifik yang memadai untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Kondisi ini berisiko serius terhadap privasi dan hak atas citra diri warga. Alexander menegaskan bahwa manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya, yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.

Latar Belakang dan Konteks Regulasi

Ancaman Komdigi ini bukan merupakan insiden pertama terkait konten negatif di platform digital. Sebelumnya, pada Juni 2024, Kominfo telah menegaskan bahwa media sosial yang beroperasi di Indonesia wajib mematuhi aturan perundang-undangan terkait konten pornografi. Kasus penyalahgunaan AI generatif untuk membuat gambar tidak senonoh juga menjadi sorotan global. Pemerintah Prancis dan Malaysia sedang menyelidiki Grok AI menyusul laporan serupa terkait konten yang melanggar etika dan hukum. India pun dilaporkan telah mengirimkan teguran keras kepada unit lokal X karena dinilai gagal mencegah penyalahgunaan Grok yang membiarkan AI-nya menghasilkan dan menyebarkan konten cabul secara eksplisit.

Sejak Desember 2023, Kementerian Kominfo telah mengeluarkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, yang berfungsi sebagai panduan sementara dalam menghadapi perkembangan AI. Namun, pemerintah juga tengah menyiapkan peta jalan dan regulasi khusus tentang adopsi teknologi AI, dengan mengacu pada Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua Atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) dan Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP). Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar menyatakan bahwa semua konten, baik yang dibuat dengan AI maupun yang asli, yang melanggar UU ITE akan diproses.

Implikasi dan Tantangan ke Depan

Respons X terhadap isu ini menunjukkan penekanan pada tanggung jawab pengguna. Pada 4 Januari 2026, X menegaskan bahwa Grok hanyalah alat bantu berbasis AI, dan tanggung jawab atas konten ilegal sepenuhnya berada di tangan pengguna. Pernyataan ini sejalan dengan filosofi kebebasan berekspresi yang kerap digaungkan Elon Musk. X juga menyatakan akan menindak konten ilegal, menangguhkan akun yang melanggar, dan bekerja sama dengan pemerintah. Sebelumnya, X telah memperbarui kebijakan privasinya pada 15 November 2024, memungkinkan data pengguna digunakan oleh pihak ketiga untuk melatih model AI, kecuali pengguna memilih untuk tidak ikut serta. Namun, pembaruan ini juga memicu penyelidikan dari regulator privasi di Uni Eropa.

Isu penyalahgunaan AI generatif untuk manipulasi gambar telah menyebabkan kerugian signifikan. Kasus serupa menimpa penyanyi Taylor Swift pada Januari 2024, di mana foto-foto palsu dirinya yang dihasilkan AI tersebar luas di X, mendapatkan 47 juta tampilan dan diunggah ulang 24 ribu kali. Hal ini menggarisbawahi urgensi regulasi yang jelas dan penegakan hukum yang kuat.

Pemerintah Indonesia menghadapi tantangan signifikan dalam menyeimbangkan inovasi teknologi AI dengan perlindungan etika dan hukum. Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengakui bahwa modus kejahatan dengan teknologi AI terus berkembang, sehingga membutuhkan regulasi yang lebih khusus. Saat ini, Kemkomdigi berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan mekanisme perlindungan yang efektif, termasuk penguatan sistem moderasi konten, pencegahan deepfake asusila, dan prosedur penanganan cepat atas laporan pelanggaran privasi. Ancaman pemblokiran X dan Grok AI menjadi indikasi keseriusan pemerintah dalam menegakkan kedaulatan hukum di ruang digital, meskipun dampak pemblokiran tersebut terhadap jutaan pengguna dan ekosistem digital di Indonesia juga perlu menjadi pertimbangan.