Grok AI Elon Musk Dicekal: Malaysia Susul Larangan Indonesia

Pemerintah Malaysia telah memblokir akses ke chatbot kecerdasan buatan (AI) Grok milik Elon Musk di negaranya pada Minggu, 11 Januari, setelah mengidentifikasi penyalahgunaan berulang dalam menghasilkan gambar deepfake yang eksplisit secara seksual dan tanpa persetujuan, termasuk yang melibatkan perempuan dan anak di bawah umur. Langkah ini menyusul keputusan serupa yang diambil oleh Indonesia pada Sabtu, 10 Januari, yang juga menangguhkan akses ke Grok atas dasar risiko konten pornografi yang dihasilkan AI.

Kementerian Komunikasi dan Digital Indonesia, melalui Menteri Meutya Hafid, menyatakan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital. Direktorat Jenderal Pengawasan Ruang Digital Kominfo, Alexander Sabar, menambahkan bahwa temuan awal menunjukkan Grok tidak memiliki perlindungan yang efektif untuk mencegah pengguna menciptakan dan mendistribusikan materi pornografi menggunakan foto asli warga Indonesia. Indonesia, yang memiliki populasi Muslim terbesar di dunia, menerapkan aturan ketat yang melarang berbagi konten yang dianggap cabul secara daring. Meskipun Indonesia belum memiliki undang-undang AI spesifik, regulasi tersebut didasarkan pada Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), serta Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Pemerintah Indonesia sedang mempersiapkan Peraturan Presiden (Perpres) mengenai peta jalan dan etika AI yang diharapkan akan diterbitkan pada awal 2026 atau September 2025.

Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengumumkan pembatasan sementara Grok setelah permintaan resmi yang dikeluarkan bulan ini kepada xAI, pengembang chatbot tersebut, dan platform media sosial X untuk menerapkan perlindungan yang lebih kuat, hanya menghasilkan respons yang sangat bergantung pada mekanisme pelaporan pengguna. MCMC menganggap langkah-langkah yang ada tidak cukup untuk mencegah kerugian atau memastikan kepatuhan hukum, dan menyatakan akses akan tetap dibatasi hingga xAI dan X Corp menerapkan penghalang teknis yang dapat diverifikasi untuk mencegah pembuatan konten berbahaya. Derek John Fernandez, Anggota Komisi MCMC, menekankan urgensi undang-undang untuk mengatur penggunaan AI guna mengekang penyalahgunaannya untuk tujuan kriminal, terutama deepfake yang dapat mengancam ketenteraman dan keamanan negara. Malaysia juga belum memiliki undang-undang spesifik yang mengatur AI, namun telah meluncurkan Garis Panduan Nasional Tata Kelola dan Etika AI (AIGE) pada September 2024, yang berfungsi sebagai kerangka kerja non-mengikat secara hukum untuk mempromosikan pengembangan dan penerapan AI yang bertanggung jawab. Menteri Digital Malaysia, Gobind Singh Deo, menyatakan bahwa rancangan pertama undang-undang AI telah diserahkan dan diharapkan akan diumumkan pada pertengahan 2026.

xAI, perusahaan di balik Grok, sebelumnya telah membatasi penggunaan fitur pembuatan dan pengeditan gambar untuk pelanggan berbayar di X dalam upaya meredakan kontroversi. Namun, hal ini tidak cukup meredakan kekhawatiran regulator. Ketika Al Jazeera meminta komentar, xAI merespons dengan jawaban otomatis "Legacy Media Lies," meskipun juru bicara kemudian mengarahkan ke pernyataan X yang mengatakan platform tersebut mengambil tindakan terhadap konten ilegal, termasuk materi pelecehan seksual anak, dan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.

Pembatasan yang diberlakukan di Indonesia dan Malaysia menyoroti meningkatnya kekhawatiran global terhadap alat kecerdasan buatan generatif yang mampu menghasilkan gambar, suara, dan teks yang realistis, sementara perlindungan yang ada gagal mencegah penyalahgunaannya. Regulator dan pemerintah dari Eropa hingga Asia telah mengutuk dan membuka penyelidikan terkait konten seksual di aplikasi tersebut. Regulator keselamatan daring di Inggris, Ofcom, juga telah meluncurkan penyelidikan formal terhadap X karena kekhawatiran bahwa chatbot Grok digunakan untuk membuat citra seksual. India juga telah mengambil tindakan terhadap X dan Grok atas masalah gambar eksplisit yang dihasilkan AI, menuntut penghapusan konten dan pelaporan tindakan yang diambil. Insiden ini menggarisbawahi tantangan besar dalam moderasi konten dan sistem keamanan yang terintegrasi dalam model bahasa besar yang menghasilkan gambar, serta urgensi bagi pengembang AI untuk menerapkan perlindungan yang lebih proaktif dan efektif. Kurangnya kerangka hukum yang komprehensif untuk mengatur AI di banyak negara, termasuk Indonesia dan Malaysia, memperparah kerentanan terhadap penyalahgunaan teknologi semacam ini.