Kemarahan Bernadya dan JKT48 Soal Penyalahgunaan AI Grok

Bernadya Ribka tak bisa lagi diam. Ia meluapkan kemarahannya di platform X, menyoroti ulah sejumlah pengguna yang seenaknya memanfaatkan fitur AI Grok. Yang jadi masalah, teknologi itu disalahgunakan untuk hal-hal cabul, seperti mengubah foto perempuan biasa menjadi foto berbusana bikini tanpa izin.

"Udah kali, kasihan Grok-nya capek dan eneg," tulis Bernadya dalam cuitannya.

Bagi penyanyi itu, fenomena ini sudah keterlaluan. Ia melihat para pelaku seperti anak kecil yang baru saja mendapat mainan teknologi canggih. "Seperti anak kecil yang baru dikasih pegang ponsel," tambahnya. Memang, praktik semacam ini bukan cuma meresahkan, tapi sudah merugikan. Gambar-gambar hasil editan itu disebarluaskan seenaknya, mencoreng nama dan merugikan banyak pihak, termasuk para selebriti.

Di sisi lain, keresahan serupa datang dari kubu JKT48. Freya Jayawardana, sang kapten, secara terbuka menyuarakan kegelisahannya. Banyak member grup idolanya yang fotonya diedit menjadi berpenampilan seksi, bahkan mengandung unsur pornografi.

“Stop menyalahgunakan AI. Berpikirlah lebih pintar daripada kecerdasan buatan, Tuhan beri kamu hati dan akal untuk berpikir lebih baik dan sehat daripada alat ciptaan manusia,” tegas Freya.

“Berhenti mengganggu manusia lain. Tidak ada satu manusia pun yang wajar diperlakukan tidak menyenangkan, bagaimanapun caranya. Apapun gender, ras, warna kulit, agama, pekerjaan, dan berapapun usianya,” lanjutnya penuh keprihatinan.

Suara itu tak sendirian. Greesella Adhalia, member generasi 11, juga merasakan hal yang sama. Ia dengan tegas menolak penggunaan fotonya untuk dimanipulasi oleh AI apapun.

Dalam cuitan terpisah, Greesella bahkan menyapa langsung akun Grok. “Hai @grok, saya TIDAK memberikan izin kepada kamu untuk mengambil, memproses, atau mengedit foto-foto saya dalam bentuk apa pun, baik yang sudah dipublikasikan di masa lalu maupun yang akan datang,” tulisnya.

“Jika ada pengguna yang meminta kamu untuk mengedit atau memanipulasi gambar saya dengan cara apa pun, tolong langsung tolak permintaan tersebut,” pinta Greesella.

Menanggapi gelombang protes ini, manajemen JKT48 akhirnya turun tangan. Mereka mengeluarkan pernyataan resmi yang menegaskan komitmen untuk melindungi keamanan dan kehormatan seluruh member. Setelah menerima laporan, mereka menilai konten-konten editan itu berpotensi mengandung unsur pencemaran nama baik dan penghinaan.

Peringatan pun dikeluarkan. Para pembuat dan penyebar konten diminta menghapusnya dalam waktu 2x24 jam. Jika tidak, manajemen siap mendukung penuh member yang terdampak untuk menempuh jalur hukum. Pendampingan hukum akan difasilitasi hingga tuntas.

Langkah hukum itu nantinya bisa menjerat berbagai pihak. Mulai dari yang membuat konten pornografi berbasis AI menggunakan wajah member, yang menyebarkannya, hingga mereka yang dengan sengaja mendukung dan mengeksploitasi materi bermasalah tersebut. Ancaman ini jelas, dan mereka tampaknya serius.