Anggota DPR Desak UU Khusus AI, Soroti Penyalahgunaan Grok untuk Konten Mesum

Di ruang rapat Komisi I DPR, Senayan, Rabu lalu, Amelia Anggraini dari Fraksi NasDem menyuarakan keprihatinan yang cukup mendesak. Ia mendorong perlunya undang-undang khusus yang mengatur Artificial Intelligence (AI) di Indonesia. Gagasan ini muncul bukan tanpa alasan. Amelia menyinggung contoh nyata, yaitu Grok AI di platform X, yang belakangan ramai disalahgunakan untuk membuat konten-konten berbau mesum.

"Kalo memang itu diperlukan ya kita bisa majukan untuk dibuat atau diusulkan Undang Undang soal regulasi AI," ujarnya dalam rapat bersama Kementerian Komunikasi dan Informatika.

Amelia lantas memberi contoh. "Seperti yang sudah ada di Korea Selatan kalau kita mengambil contoh dari negara lain ya."

Bagi politikus ini, persoalannya jauh lebih dalam dari sekadar memblokir sebuah aplikasi. Menurutnya, kampanye literasi digital yang selama ini digaungkan Kemkominfo belum cukup menyentuh akar masalah.

"Kalau kita ambil contoh soal kasus pemblokiran Grok karena bisa memicu konten semi pornografi, saya ingin menegaskan pak, ini bukan urusan alatnya saja," tegas Amelia.

"Tetapi juga literasi masyarakat terhadap muka ruang publik digital."

Ia melihat celah etika yang semakin menganga. Teknologi canggih seperti AI kerap jadi wadah untuk menumpahkan perilaku yang sebenarnya tak pantas.

"Nah, karena ini terkait juga dengan etika ya, kemudian etika berinteraksi, kemudian perilaku cabul begitu ya yang kemudian ditumpahkan lewat teknologi," tambahnya.

Pertanyaan krusial pun diajukan. Amelia meminta penjelasan strategi literasi digital yang lebih spesifik dan terukur, khusus untuk menyikapi maraknya konten AI generatif.

"Jadi yang saya ingin tanyakan, apa strategi literasi yang spesifik untuk konten AI generatif seperti ini? Jadi bukan sekadar kampanye umum saja begitu," tanyanya.

"Dan bagaimana indikator keberhasilannya diukur dalam 6-12 bulan ke depan ini agar pendekatannya tidak berhenti pada blokir suatu aplikasi saja lalu pindah masalah ke platform lain gitu pak."

Gagasan Lain: Sita Uang Hasil Hoaks

Di sisi lain, Wakil Ketua Komisi I, Anton Sukartono Surrato, mengajukan usulan yang lebih tegas. Ia mengamati sebuah paradoks yang memprihatinkan: konten hoaks di media sosial justru sering viral dan mendatangkan uang bagi pembuatnya.

Anton punya ide. "Karena kebohongannya itu beritanya sangat menarik. Jadi menghasilkan rezeki bagi orang yang bikin konten yang bohong itu. Itu hasilnya bisa nggak ditarik aja?"

"Jadi jangan sebagai orang yang bikin konten hoaks itu tapi dibagi untuk pemerintah boleh atau kepada korban yang menjadi berita hoaks tersebut," kata Anton.

Tak berhenti di situ, ia juga mendorong Kemkominfo untuk merumuskan kebutuhan regulasi yang lebih solid. Bahkan, Anton membayangkan pembentukan sebuah badan khusus, mirip dengan Bakamla, namun untuk ranah digital.

"Kira-kira apa yang dibutuhkan oleh Komdigi sehingga Panja ini kita menghasilkan regulasi yang kuat atau dibentuk kayak Bakamla (Badan Keamanan Laut) jadi Bakamdi, Badan Keamanan Digital," tutupnya.