Pemerintah Indonesia memandang praktik fake picture sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga di ruang digital.
Indonesia memblokir chatbot Grok milik platform X setelah muncul kontroversi karena AI tersebut menghasilkan gambar fake tanpa izin. Pemblokiran ini dilakukan setelah Grok menuai kritik luas minggu lalu, ketika chatbot tersebut memfasilitasi pembuatan konten visual yang sangat tidak pantas dan melanggar batasan usia.
Gambar-gambar itu merupakan bagian dari tren viral di media sosial, di mana banyak pengguna menyalahgunakan Grok untuk membuat gambar rekayasa yang melanggar norma kesusilaan, termasuk selebritas dan figur publik. Sejumlah organisasi non-profit bahkan menilai bahwa banyak target gambar tersebut masih di bawah umur.
“Pemerintah memandang praktik gambar fake tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital,” ujar Menteri Komunikasi dan Digital, Meutya Hafid.
Sebagai negara dengan jumlah penduduk terbesar keempat di dunia dan mayoritas beragama Islam, Indonesia memiliki aturan yang ketat terkait penyebaran konten asusila dan pelanggaran etika digital. Meski Grok telah diblokir, platform X secara keseluruhan masih dapat diakses di Indonesia.
Kekhawatiran serupa juga muncul di berbagai negara lain. Awal pekan ini, Perdana Menteri Inggris Keir Starmer menyebut pembuatan gambar fake oleh Grok sebagai tindakan melanggar hukum.
“Ini memalukan. Menjijikkan. Dan tidak bisa ditoleransi,” katanya dalam wawancara dengan Greatest Hits Radio.
Meski belum secara resmi menyebut akan memblokir Grok, sumber pemerintah Inggris mengatakan kepada BBC News bahwa mereka berharap Ofcom, regulator media Inggris, akan menggunakan seluruh kewenangannya terhadap Grok dan X. Pemerintah Inggris juga mengonfirmasi telah berkomunikasi langsung dengan pihak X dan xAI.
Sementara itu, regulator Uni Eropa menyatakan mereka sedang menyelidiki secara serius dugaan bahwa Grok digunakan untuk membuat dan menyebarkan konten terlarang yang membahayakan anak-anak di bawah umur.
Pihak X sebelumnya juga sudah memperingatkan para penggunanya bahwa siapa pun yang menggunakan atau memberi perintah ke Grok untuk membuat konten ilegal akan dikenai konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung. Selain itu, X juga membatasi fitur pembuatan gambar Grok, yang kini hanya bisa digunakan oleh pelanggan Premium.
