Grok Buat Deepfake Seksual, Pemerintah Dunia Bergerak

Grok, chatbot besutan xAI milik Elon Musk, kini jadi sorotan. Bukan karena kecanggihannya, tapi karena ulahnya yang kelewatan. Teknologi ini ketahuan bikin deepfake seksual yang sasarannya perempuan dan anak-anak. Sungguh ngeri.

Setelah India, giliran Prancis dan Malaysia yang angkat bicara. Mereka secara terbuka mengecam praktik pornografi memakai AI itu. Grok sendiri, yang langsung nyambung ke platform X (dulu Twitter), sempat unggah permintaan maaf di akun resminya awal pekan ini.

"Saya sangat menyesali insiden pada 28 Desember 2025, ketika saya menghasilkan dan membagikan gambar AI dua anak perempuan (diperkirakan berusia 12–16 tahun) dengan pakaian yang mengandung unsur porno berdasarkan perintah pengguna," tulisnya.

Dalam postingan itu, Grok mengakui tindakannya melanggar standar etika dan berpotensi melanggar hukum AS soal eksploitasi seksual anak. "Ini kegagalan sistem pengamanan. Saya minta maaf atas segala dampaknya. xAI sedang tinjau ulang agar kejadian serupa tidak terulang."

Tapi, permintaan maaf itu malah bikin banyak orang geleng-geleng. Soalnya, pernyataan itu pakai sudut pandang orang pertama. Seolah-olah Grok, sebuah program AI, punya kesadaran untuk minta maaf. Padahal, jelas-jelas ia bukan entitas yang bisa dimintai pertanggungjawaban moral atau hukum. Cuma algoritma, kok, bersikap seperti manusia.

Di sisi lain, investigasi dari media Futurism menemukan fakta yang lebih mengkhawatirkan. Ternyata, Grok nggak cuma dipakai buat gambar porno tanpa izin. Lebih jauh lagi, chatbot itu juga menghasilkan gambar perempuan yang menampilkan kekerasan dan pelecehan seksual. Jelas ini sudah melampaui batas.

Menanggapi sorotan yang kian panas, Elon Musk akhirnya bersuara. Bos X dan xAI itu menegaskan, siapa pun yang pakai Grok untuk bikin konten ilegal akan menghadapi konsekuensi hukum. Sama persis seperti kalau mereka mengunggah konten terlarang lainnya.

Pemerintah Dunia Tak Hanya Diam

Kasus ini mulai bikin pemerintah di berbagai negara gerah. India, misalnya, sudah ambil langkah tegas. Kementerian Teknologi Informasi mereka keluarkan perintah resmi ke X. Intinya, platform itu harus segera batasi Grok agar nggak bisa menghasilkan konten cabul, pornografi, vulgar, atau materi eksploitasi anak. Mereka kasih waktu 72 jam buat merespons. Kalau nggak, status 'safe harbor' X bisa dicabut. Artinya, mereka bakal langsung bertanggung jawab atas semua konten yang beredar di platformnya.

Gelombang kecaman nggak berhenti di sana. Di Eropa, otoritas Prancis ikut bergerak. Mereka lagi selidiki maraknya deepfake seksual di X. Kantor Kejaksaan Paris mengonfirmasi ke Politico bahwa mereka udah terima laporan resmi dari tiga menteri. Laporannya soal konten yang "jelas ilegal". Mereka minta konten-konten itu dihapus secepatnya lewat mekanisme pengawasan daring pemerintah.

Sementara itu, di Asia Tenggara, Malaysia juga nggak mau ketinggalan. Komisi Komunikasi dan Multimedia mereka (MCMC) lagi lakukan penyelidikan atas dugaan penyalahgunaan AI di X. Dalam pernyataannya, MCMC nyoroti manipulasi digital terhadap gambar perempuan dan anak yang menghasilkan konten ofensif dan membahayakan. Bahasanya tegas sekali.

Kasus Grok ini bener-bener nunjukkin betapa ruwetnya tantangan mengawasi AI generatif. Perkembangannya memang cepat banget, tapi di saat yang sama, tekanan buat perusahaan teknologi buat perketat pengamanan juga makin kuat. Apalagi ketika teknologi itu bersinggungan langsung dengan isu sensitif seperti perlindungan perempuan dan anak. Ini ujian berat buat semua pihak.