China Perketat Aturan untuk AI yang Jalin Hubungan Emosional dengan Pengguna

Pemerintah China kembali mengambil langkah tegas di ranah teknologi. Kali ini, regulator siber mereka baru saja merilis draf aturan baru yang bertujuan mengawasi dengan ketat layanan-layanan kecerdasan buatan. Khususnya, AI yang dirancang untuk meniru kepribadian manusia dan mampu terlibat dalam interaksi emosional dengan penggunanya.

Ini bukan langkah pertama, tentu saja. Beijing memang terlihat serius ingin mengarahkan perkembangan AI konsumen yang tumbuh begitu pesat. Fokusnya jelas: memperkuat standar keamanan dan etika sebelum semuanya terlambat.

Menurut sejumlah laporan, aturan yang diusulkan akan mencakup produk dan layanan AI apa pun yang tersedia untuk publik di China. Caranya bisa bermacam-macam, mulai dari teks, gambar, hingga audio dan video. Intinya, jika ada unsur "interaksi emosional" di dalamnya, maka ia akan masuk dalam pengawasan.

Nah, yang menarik dari rancangan ini adalah pendekatannya yang proaktif. Penyedia layanan nantinya diwajibkan memberi peringatan jika penggunaan dianggap berlebihan. Bahkan, mereka harus turun tangan melakukan intervensi saat pengguna mulai menunjukkan tanda-tanda kecanduan. Bukan sekadar alat pasif lagi.

Tanggung jawab penyedia juga dipertegas. Mereka harus memastikan keamanan produk sepanjang umurnya, dari awal hingga akhir. Itu berarti membangun sistem untuk meninjau algoritma, mengamankan data, dan tentu saja, melindungi informasi pribadi pengguna dengan lebih ketat.