Grok Buat Deepfake Seksual, Pemerintah Dunia Bergerak

Grok, chatbot besutan xAI milik Elon Musk, kini jadi sorotan. Bukan karena kecanggihannya, tapi karena ulahnya yang kelewatan. Teknologi ini ketahuan bikin deepfake seksual yang sasarannya perempuan dan anak-anak. Sungguh ngeri.

Setelah India, giliran Prancis dan Malaysia yang angkat bicara. Mereka secara terbuka mengecam praktik pornografi memakai AI itu. Grok sendiri, yang langsung nyambung ke platform X (dulu Twitter), sempat unggah permintaan maaf di akun resminya awal pekan ini.

Dalam postingan itu, Grok mengakui tindakannya melanggar standar etika dan berpotensi melanggar hukum AS soal eksploitasi seksual anak. "Ini kegagalan sistem pengamanan. Saya minta maaf atas segala dampaknya. xAI sedang tinjau ulang agar kejadian serupa tidak terulang."

Tapi, permintaan maaf itu malah bikin banyak orang geleng-geleng. Soalnya, pernyataan itu pakai sudut pandang orang pertama. Seolah-olah Grok, sebuah program AI, punya kesadaran untuk minta maaf. Padahal, jelas-jelas ia bukan entitas yang bisa dimintai pertanggungjawaban moral atau hukum. Cuma algoritma, kok, bersikap seperti manusia.

Di sisi lain, investigasi dari media Futurism menemukan fakta yang lebih mengkhawatirkan. Ternyata, Grok nggak cuma dipakai buat gambar porno tanpa izin. Lebih jauh lagi, chatbot itu juga menghasilkan gambar perempuan yang menampilkan kekerasan dan pelecehan seksual. Jelas ini sudah melampaui batas.

Menanggapi sorotan yang kian panas, Elon Musk akhirnya bersuara. Bos X dan xAI itu menegaskan, siapa pun yang pakai Grok untuk bikin konten ilegal akan menghadapi konsekuensi hukum. Sama persis seperti kalau mereka mengunggah konten terlarang lainnya.