Grok AI di Blokir Pemerintah Indonesia Karena Kontroversi Deepfake

Pemerintah Indonesia memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga di ruang digital.

Indonesia memblokir chatbot Grok milik platform X setelah muncul kontroversi karena AI tersebut menghasilkan gambar deepfake bernuansa seksual tanpa izin. Pemblokiran ini dilakukan setelah Grok menuai kritik luas minggu lalu, ketika chatbot tersebut membuat gambar sugestif anak di bawah umur yang mengenakan bikini.

Gambar-gambar itu merupakan bagian dari tren viral di media sosial, di mana banyak pengguna meminta Grok untuk membuat gambar perempuan berpakaian minim, termasuk selebritas dan figur publik. Sejumlah organisasi non-profit bahkan menilai bahwa banyak target gambar tersebut masih di bawah umur.

“Pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital,” ujar Menteri Komunikasi dan Digital, Meutya Hafid.

Sebagai negara dengan jumlah penduduk terbesar keempat di dunia dan mayoritas beragama Islam, Indonesia memiliki aturan yang ketat terkait pornografi. Meski Grok telah diblokir, platform X secara keseluruhan masih dapat diakses di Indonesia.

Kekhawatiran serupa juga muncul di berbagai negara lain. Awal pekan ini, Perdana Menteri Inggris Keir Starmer menyebut pembuatan deepfake seksual oleh Grok sebagai tindakan melanggar hukum.
“Ini memalukan. Menjijikkan. Dan tidak bisa ditoleransi,” katanya dalam wawancara dengan Greatest Hits Radio.

Meski belum secara resmi menyebut akan memblokir Grok, sumber pemerintah Inggris mengatakan kepada BBC News bahwa mereka berharap Ofcom, regulator media Inggris, akan menggunakan seluruh kewenangannya terhadap Grok dan X. Pemerintah Inggris juga mengonfirmasi telah berkomunikasi langsung dengan pihak X dan xAI.

Sementara itu, regulator Uni Eropa menyatakan mereka sedang menyelidiki secara serius dugaan bahwa Grok digunakan untuk membuat dan menyebarkan gambar seksual eksplisit yang menyerupai anak-anak.

Pihak X sebelumnya juga sudah memperingatkan para penggunanya bahwa siapa pun yang menggunakan atau memberi perintah ke Grok untuk membuat konten ilegal akan dikenai konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung. Selain itu, X juga membatasi fitur pembuatan gambar Grok, yang kini hanya bisa digunakan oleh pelanggan Premium.