Grok Buat Deepfake Seksual, Pemerintah Dunia Bergerak

Pemerintah Dunia Tak Hanya Diam

Kasus ini mulai bikin pemerintah di berbagai negara gerah. India, misalnya, sudah ambil langkah tegas. Kementerian Teknologi Informasi mereka keluarkan perintah resmi ke X. Intinya, platform itu harus segera batasi Grok agar nggak bisa menghasilkan konten cabul, pornografi, vulgar, atau materi eksploitasi anak. Mereka kasih waktu 72 jam buat merespons. Kalau nggak, status 'safe harbor' X bisa dicabut. Artinya, mereka bakal langsung bertanggung jawab atas semua konten yang beredar di platformnya.

Gelombang kecaman nggak berhenti di sana. Di Eropa, otoritas Prancis ikut bergerak. Mereka lagi selidiki maraknya deepfake seksual di X. Kantor Kejaksaan Paris mengonfirmasi ke Politico bahwa mereka udah terima laporan resmi dari tiga menteri. Laporannya soal konten yang "jelas ilegal". Mereka minta konten-konten itu dihapus secepatnya lewat mekanisme pengawasan daring pemerintah.

Sementara itu, di Asia Tenggara, Malaysia juga nggak mau ketinggalan. Komisi Komunikasi dan Multimedia mereka (MCMC) lagi lakukan penyelidikan atas dugaan penyalahgunaan AI di X. Dalam pernyataannya, MCMC nyoroti manipulasi digital terhadap gambar perempuan dan anak yang menghasilkan konten ofensif dan membahayakan. Bahasanya tegas sekali.

Kasus Grok ini bener-bener nunjukkin betapa ruwetnya tantangan mengawasi AI generatif. Perkembangannya memang cepat banget, tapi di saat yang sama, tekanan buat perusahaan teknologi buat perketat pengamanan juga makin kuat. Apalagi ketika teknologi itu bersinggungan langsung dengan isu sensitif seperti perlindungan perempuan dan anak. Ini ujian berat buat semua pihak.