Ofcom Selidiki Grok AI Diduga Hasilkan Deepfake Mesum Kate Middleton

Di sisi lain, tim keamanan Grok AI mengklaim sudah bertindak.

Komdigi Turun Tangan, Lakukan Investigasi

Gelombang kekhawatiran ini ternyata juga sampai ke Indonesia. Kementerian Komunikasi dan Digital (Komdigi) tak tinggal diam. Mereka telah menindaklanjuti laporan dugaan penyalahgunaan Grok AI di platform X untuk membuat konten-konten cabul.

Alexander Sabar, Dirjen Pengawasan Ruang Digital Komdigi, menyoroti titik lemahnya. Hasil penelusuran awal menunjukkan Grok AI belum punya pengaturan yang jelas dan memadai untuk mencegah pembuatan serta penyebaran konten pornografi yang menggunakan foto asli warga Indonesia.

Bagi Komdigi, masalahnya jauh lebih dalam dari sekadar pelanggaran norma. Manipulasi digital terhadap foto pribadi dinilai sebagai perampasan kendali seseorang atas identitas visualnya sendiri. Dampaknya bisa sangat luas: mulai dari guncangan psikologis, masalah sosial, hingga kerusakan reputasi yang sulit diperbaiki bagi para korbannya.