China Siapkan Aturan Ketat untuk AI yang Berperilaku Seperti Manusia

Pemerintah China sedang menyiapkan aturan baru yang bakal memperketat pengawasan terhadap layanan AI. Khususnya, untuk teknologi yang punya kemampuan meniru kepribadian manusia dan berinteraksi secara emosional dengan penggunanya. Saat ini, regulasi itu masih berupa draf yang dibuka untuk mendapatkan masukan dari publik.

Menurut laporan Reuters, aturan ini menyasar produk dan layanan AI yang mensimulasikan sifat kepribadian, pola pikir, bahkan gaya komunikasi manusia. Simulasi itu bisa muncul dalam bentuk teks, gambar, audio, atau video. Ruang lingkupnya cukup luas: semua layanan yang tersedia untuk publik di China akan terkena dampaknya.

Di sisi lain, langkah ini bukan tanpa alasan. Pemerintah di Beijing punya kekhawatiran serius. Mereka menilai, AI yang berperilaku terlalu mirip manusia berpotensi memicu risiko psikologis dan sosial yang tidak main-main jika dibiarkan tanpa pengawasan ketat. Intinya, China ingin memastikan perkembangan AI konsumen tetap selaras dengan standar keselamatan dan etika yang mereka tetapkan.

Nah, dalam draf yang beredar, ada poin-poin menarik yang wajib dipatuhi penyedia layanan. Mereka harus memberikan peringatan jelas agar pengguna tidak mengandalkan layanan ini secara berlebihan. Lebih dari itu, perusahaan juga diwajibkan melakukan intervensi ketika sistem mereka mendeteksi tanda-tanda kecanduan dari pengguna.

Misalnya, jika sistem menemukan emosi yang ekstrem atau pola perilaku adiktif, penyedia layanan harus segera mengambil langkah penanganan. Tidak boleh diam saja.

Tanggung jawabnya pun dibebankan sepenuhnya kepada perusahaan penyedia, dan itu berlaku sepanjang siklus hidup produk. Artinya, mereka harus membangun sistem untuk meninjau algoritma secara berkala, menjaga keamanan data, dan tentu saja melindungi informasi pribadi pengguna dengan sungguh-sungguh.

Selain soal keamanan pengguna, aturan ini juga menetapkan batas-batas yang tegas untuk konten dan perilaku AI itu sendiri. Layanan dilarang keras menghasilkan materi yang mengancam keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi. Garisnya jelas, tidak ada toleransi.

Jadi, bisa dibilang China sedang berusaha mengimbangi laju inovasi teknologi dengan pagar pengaturan yang kokoh. Mereka tak ingin perkembangan AI, sekeren apa pun, menciptakan masalah baru di masyarakat.