Ofcom Selidiki Grok AI Diduga Hasilkan Deepfake Mesum Kate Middleton

Kasus deepfake mesum yang melibatkan Kate Middleton kembali mencuat, dan kali ini tersangkanya adalah Grok AI. Regulator Inggris, Ofcom, langsung bergerak cepat. Mereka dikabarkan telah menghubungi xAI, perusahaan Elon Musk yang berada di balik pengembangan Grok, untuk meminta penjelasan.

Menurut Ofcom, mereka sedang menyelidiki dugaan bahwa Grok digunakan untuk memproduksi gambar-gambar orang seolah-olah tanpa busana. Investigasi ini tentu bukan tanpa alasan.

Sebelumnya, BBC menemukan sejumlah postingan menyesatkan di platform X. Dalam postingan-postingan itu, terlihat jelas bagaimana pengguna meminta Grok untuk memanipulasi foto perempuan asli. Perintahnya macam-macam, mulai dari membuat mereka tampak mengenakan bikini hingga ditempatkan dalam situasi seksual semua itu tentu saja tanpa izin. Nah, Kate Middleton disebut-sebut menjadi salah satu dari sekian banyak korban dalam praktik deepfake yang meresahkan ini.

Sampai berita ini diturunkan, Istana Kensington masih memilih untuk tidak berkomentar.

Ofcom sendiri sedang mempertimbangkan langkah hukum yang tegas terhadap Grok. Kasus ini, diakui atau tidak, menjadi ujian pertama yang cukup berat bagi regulator di berbagai negara dalam menghadapi laju perkembangan teknologi kecerdasan buatan yang kadang sulit dikendalikan.

Dalam sebuah pernyataan yang dikutip Newsweek, Ofcom mengungkapkan keprihatinannya.

"Kami mengetahui adanya kekhawatiran besar terkait fitur Grok di X yang dapat menghasilkan gambar orang tanpa busana serta gambar seksual anak-anak," papar mereka.

Di sisi lain, tim keamanan Grok AI mengklaim sudah bertindak.

"Kami menindak konten ilegal di X, termasuk materi pelecehan seksual terhadap anak, dengan menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum setempat," tulis pernyataan resmi Grok.

"Mereka yang menggunakan atau memberi perintah kepada Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti pengguna yang mengunggah konten ilegal secara langsung."

Komdigi Turun Tangan, Lakukan Investigasi

Gelombang kekhawatiran ini ternyata juga sampai ke Indonesia. Kementerian Komunikasi dan Digital (Komdigi) tak tinggal diam. Mereka telah menindaklanjuti laporan dugaan penyalahgunaan Grok AI di platform X untuk membuat konten-konten cabul.

Alexander Sabar, Dirjen Pengawasan Ruang Digital Komdigi, menyoroti titik lemahnya. Hasil penelusuran awal menunjukkan Grok AI belum punya pengaturan yang jelas dan memadai untuk mencegah pembuatan serta penyebaran konten pornografi yang menggunakan foto asli warga Indonesia.

"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dalam pernyataannya, Rabu (7/1).

Bagi Komdigi, masalahnya jauh lebih dalam dari sekadar pelanggaran norma. Manipulasi digital terhadap foto pribadi dinilai sebagai perampasan kendali seseorang atas identitas visualnya sendiri. Dampaknya bisa sangat luas: mulai dari guncangan psikologis, masalah sosial, hingga kerusakan reputasi yang sulit diperbaiki bagi para korbannya.