Lawan Kontroversi Deepfake, xAI Milik Elon Musk Resmi Blokir Pembuatan Gambar Seksual di Grok

Image credit: XSafety

Perusahaan kecerdasan buatan milik Elon Musk, xAI, akhirnya mengambil langkah drastis pada Rabu malam (14/1/2026). xAI secara resmi melarang chatbot Grok untuk membuat atau mengedit gambar orang nyata menjadi konten seksual di platform media sosial X. Langkah ini dilakukan menyusul tekanan politik, kecaman publik, dan berbagai investigasi regulasi di tingkat global.

Pembatasan Ketat untuk Semua Pengguna

Dalam pengumuman resmi melalui akun X Safety, xAI menyatakan telah menerapkan langkah-langkah teknis untuk mencegah Grok mengedit gambar orang nyata ke dalam pakaian minim, seperti bikini.

"Pembatasan ini berlaku untuk seluruh pengguna, termasuk pelanggan berbayar," tulis xAI. Hal ini menandai perubahan besar, mengingat sebelumnya fitur pembuatan gambar Grok dikenal sangat minim sensor dibandingkan kompetitornya.

Tekanan dari Pemerintah California

Keputusan ini muncul hanya beberapa jam setelah Jaksa Agung California, Rob Bonta, mengumumkan bahwa kantornya sedang menyelidiki xAI yang bermarkas di Silicon Valley. Penyelidikan tersebut terkait dengan dugaan "produksi massal citra intim non-konsensual berbasis deepfake."

Bahkan, Gubernur California Gavin Newsom, yang selama ini sering mendukung perusahaan-perusahaan Musk, mengeluarkan pernyataan keras. "Keputusan xAI untuk menciptakan tempat bagi predator dalam menyebarkan deepfake seksual non-konsensual, termasuk gambar yang menelanjangi anak-anak secara digital, adalah hal yang menjijikkan (vile)," tulis Newsom di platform X.

Gelombang Investigasi dan Pemblokiran Global

Masalah ini telah memicu reaksi berantai di seluruh dunia. Dalam beberapa pekan terakhir, investigasi resmi diluncurkan di India, Irlandia, Inggris, Prancis, Australia, hingga Komisi Eropa.

Di Asia Tenggara, Indonesia dan Malaysia telah mengambil langkah paling tegas dengan memberlakukan pelarangan sementara terhadap Grok setelah ditemukan bukti bahwa alat tersebut mempermudah pengguna menghasilkan gambar kekerasan dan seksual hanya dengan perintah teks sederhana.

Ancaman Penghapusan dari App Store

Krisis ini juga merembet ke distribusi aplikasi. Di Amerika Serikat, tiga Senator dari Partai Demokrat telah mendesak Apple dan Google untuk menghapus aplikasi X dan Grok dari toko aplikasi mereka (App Store dan Play Store). Mereka menuntut aplikasi tersebut diblokir hingga ada perubahan nyata yang mencegah pembuatan konten eksplisit non-konsensual dengan mudah.

Tantangan dari Elon Musk

Sebelum kebijakan baru ini diterapkan pada Rabu malam, Elon Musk sempat menantang para pengikutnya di X untuk "mematahkan moderasi gambar Grok."

Musk berkilah bahwa dengan fitur NSFW (Not Safe For Work) diaktifkan, Grok seharusnya hanya mengizinkan ketelanjangan tubuh bagian atas pada "manusia dewasa imajiner," bukan orang nyata. Ia menyamakan konten tersebut dengan apa yang terlihat dalam film kategori dewasa (R-rated). Namun, setelah derasnya desakan hukum, xAI akhirnya memperketat aturan dan menegaskan bahwa pengaturan Grok akan bervariasi di setiap wilayah sesuai dengan hukum negara masing-masing.

Dengan kebijakan baru ini, xAI berharap dapat meredam kemarahan regulator sekaligus memastikan keberlangsungan operasional Grok di pasar internasional.