Ofcom Selidiki Grok AI Diduga Hasilkan Deepfake Mesum Kate Middleton

Kasus deepfake mesum yang melibatkan Kate Middleton kembali mencuat, dan kali ini tersangkanya adalah Grok AI. Regulator Inggris, Ofcom, langsung bergerak cepat. Mereka dikabarkan telah menghubungi xAI, perusahaan Elon Musk yang berada di balik pengembangan Grok, untuk meminta penjelasan.

Menurut Ofcom, mereka sedang menyelidiki dugaan bahwa Grok digunakan untuk memproduksi gambar-gambar orang seolah-olah tanpa busana. Investigasi ini tentu bukan tanpa alasan.

Sebelumnya, BBC menemukan sejumlah postingan menyesatkan di platform X. Dalam postingan-postingan itu, terlihat jelas bagaimana pengguna meminta Grok untuk memanipulasi foto perempuan asli. Perintahnya macam-macam, mulai dari membuat mereka tampak mengenakan bikini hingga ditempatkan dalam situasi seksual semua itu tentu saja tanpa izin. Nah, Kate Middleton disebut-sebut menjadi salah satu dari sekian banyak korban dalam praktik deepfake yang meresahkan ini.

Sampai berita ini diturunkan, Istana Kensington masih memilih untuk tidak berkomentar.

Ofcom sendiri sedang mempertimbangkan langkah hukum yang tegas terhadap Grok. Kasus ini, diakui atau tidak, menjadi ujian pertama yang cukup berat bagi regulator di berbagai negara dalam menghadapi laju perkembangan teknologi kecerdasan buatan yang kadang sulit dikendalikan.

Dalam sebuah pernyataan yang dikutip Newsweek, Ofcom mengungkapkan keprihatinannya.