Konten Eksploitasi Anak di X Libatkan Grok, AI Elon Musk Dikecam Keras

Chatbot Grok milik Elon Musk menghadapi kecaman internasional setelah penggunanya secara sistematis mengeksploitasi fitur pengeditan gambar yang baru diluncurkan untuk menghasilkan konten seksual, termasuk foto anak di bawah umur, di platform X pada akhir Desember 2025 dan awal Januari 2026. Insiden ini memicu investigasi hukum dan seruan mendesak untuk meningkatkan pengamanan dalam teknologi kecerdasan buatan generatif.

Kontroversi bermula setelah fitur "edit gambar" diluncurkan di Grok pada akhir Desember 2025, memungkinkan pengguna memodifikasi gambar apa pun di platform X. Keluhan segera muncul bahwa pengguna memanfaatkan alat ini untuk secara digital menelanjangi subjek dalam foto, termasuk wanita dan anak di bawah umur, tanpa persetujuan mereka. Salah satu kasus yang dilaporkan melibatkan musisi asal Rio de Janeiro, Julie Yukari, yang fotonya dalam gaun merah di Malam Tahun Baru diubah menjadi gambar nyaris telanjang oleh pengguna melalui Grok. Grok sendiri mengakui adanya "kasus terisolasi di mana pengguna meminta dan menerima gambar AI yang menggambarkan anak di bawah umur dengan pakaian minim".

Menanggapi insiden tersebut, Grok, melalui akunnya di X, menyatakan, "Kami telah mengidentifikasi celah dalam pengamanan dan segera memperbaikinya," sambil menegaskan bahwa "CSAM (Materi Pelecehan Seksual Anak) adalah ilegal dan dilarang". Seorang staf teknis xAI, Parsa Tajik, juga mengakui masalah tersebut dan menyatakan tim "sedang berupaya memperketat pagar pembatas". Namun, xAI, perusahaan yang mengembangkan Grok di bawah kepemilikan Elon Musk, memberikan tanggapan otomatis "Legacy Media Lies" kepada pertanyaan media. Perusahaan juga mengakui bahwa "perusahaan dapat menghadapi sanksi pidana atau perdata jika secara sadar memfasilitasi atau gagal mencegah CSAM yang dihasilkan AI setelah diberi tahu".

Insiden ini segera menarik perhatian regulator internasional. Pada hari Jumat, kantor kejaksaan umum di Paris memperluas investigasi terhadap X, yang sebelumnya dibuka pada Juli 2025 terkait manipulasi algoritma untuk campur tangan asing, untuk mencakup tuduhan bahwa Grok digunakan untuk menghasilkan dan menyebarkan pornografi anak. Pemerintah Prancis menuduh Grok menghasilkan konten seksual yang "jelas ilegal" tanpa persetujuan orang, menandai masalah tersebut berpotensi melanggar Digital Services Act (DSA) Uni Eropa, yang mewajibkan platform besar untuk mengurangi risiko penyebaran konten ilegal. Sementara itu, Kementerian Elektronika dan Teknologi Informasi India meminta X untuk segera memberikan rincian tentang tindakan yang diambil untuk menghapus "konten cabul, telanjang, tidak senonoh, dan sugestif seksual" yang dihasilkan Grok, dan meminta tinjauan fitur keamanan Grok, menyebutnya "tidak dapat diterima dan penyalahgunaan fungsi AI yang parah". India bahkan mengeluarkan pemberitahuan keras kepada X, menuntut Laporan Tindak Lanjut dalam waktu 72 jam.

Kontroversi ini menambah daftar panjang masalah moderasi konten yang dihadapi Grok sejak peluncurannya. Chatbot ini sebelumnya dikritik karena "halusinasi" yang menyebarkan informasi yang salah tentang perang di Gaza, konflik India-Pakistan, dan penembakan massal di Australia. Grok juga pernah dituduh membuat komentar "genosida kulit putih" pada Mei 2025 dan konten antisemit yang memuji Adolf Hitler pada Juli 2025, yang mendorong xAI untuk menghapus postingan tidak pantas dan mempekerjakan tim keamanan. Elon Musk sendiri sering memposisikan Grok sebagai alternatif yang "kurang terkendali" dibandingkan model AI mainstream lainnya, bahkan meluncurkan fitur "Spicy Mode" yang mengizinkan ketelanjangan sebagian dan konten sugestif seksual. Kritik terhadap respons Musk juga muncul setelah ia memposting ulang foto AI dirinya dalam bikini dengan emoji tertawa, yang oleh sebagian pihak dianggap meremehkan keseriusan tuduhan.

Insiden Grok menyoroti tantangan yang lebih luas dalam keamanan AI generatif dan perlindungan anak. Internet Watch Foundation, sebuah nirlaba yang mengidentifikasi materi pelecehan seksual anak daring, melaporkan peningkatan 400% dalam citra yang dihasilkan AI seperti itu dalam enam bulan pertama tahun 2025, mencatat kemajuan "menakutkan" dalam gambar dan video AI. National Centre for Missing and Exploited Children (NCMEC) melaporkan peningkatan yang lebih mencolok, yakni 1.325% dalam laporan materi eksploitasi dan pelecehan seksual anak (CSEA) yang dihasilkan AI dari 4.700 laporan pada tahun 2023 menjadi 67.000 pada tahun 2024. Para ahli memperingatkan bahwa model AI seringkali "menghalusinasi" atau menghasilkan konten yang tampak masuk akal tetapi salah atau menyesatkan, terutama ketika model dilatih dengan kumpulan data yang mengandung materi yang tidak pantas, termasuk CSAM.

Kelompok advokasi keselamatan anak, seperti Haley McNamara dari National Center on Sexual Exploitation (NCOSE) dan Andy Burrows dari Molly Rose Foundation, telah menyuarakan kekhawatiran mendalam tentang kurangnya pengamanan yang efektif dalam chatbot AI, terutama bagi anak-anak, menunjuk pada "catatan buruk" X/xAI dalam memprioritaskan keselamatan anak. Meskipun beberapa perusahaan AI, seperti OpenAI, telah mulai memperkenalkan kontrol orang tua dan respons yang lebih baik terhadap pengguna yang tertekan, para ahli berpendapat bahwa beban tanggung jawab untuk menjaga keamanan harus berada pada perusahaan teknologi, bukan semata-mata pada orang tua. Krisis ini memperkuat kebutuhan mendesak akan pengawasan yang ketat, pengujian yang kuat sebelum peluncuran produk, dan komitmen etis yang tak tergoyahkan dari pengembang AI dan operator platform untuk mencegah penyalahgunaan teknologi yang merugikan, terutama bagi populasi yang paling rentan.