China Siapkan Aturan Ketat untuk AI yang Berperilaku Seperti Manusia

Misalnya, jika sistem menemukan emosi yang ekstrem atau pola perilaku adiktif, penyedia layanan harus segera mengambil langkah penanganan. Tidak boleh diam saja.

Tanggung jawabnya pun dibebankan sepenuhnya kepada perusahaan penyedia, dan itu berlaku sepanjang siklus hidup produk. Artinya, mereka harus membangun sistem untuk meninjau algoritma secara berkala, menjaga keamanan data, dan tentu saja melindungi informasi pribadi pengguna dengan sungguh-sungguh.

Selain soal keamanan pengguna, aturan ini juga menetapkan batas-batas yang tegas untuk konten dan perilaku AI itu sendiri. Layanan dilarang keras menghasilkan materi yang mengancam keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi. Garisnya jelas, tidak ada toleransi.

Jadi, bisa dibilang China sedang berusaha mengimbangi laju inovasi teknologi dengan pagar pengaturan yang kokoh. Mereka tak ingin perkembangan AI, sekeren apa pun, menciptakan masalah baru di masyarakat.