China Perketat Aturan untuk AI yang Jalin Hubungan Emosional dengan Pengguna

Pemerintah China kembali mengambil langkah tegas di ranah teknologi. Kali ini, regulator siber mereka baru saja merilis draf aturan baru yang bertujuan mengawasi dengan ketat layanan-layanan kecerdasan buatan. Khususnya, AI yang dirancang untuk meniru kepribadian manusia dan mampu terlibat dalam interaksi emosional dengan penggunanya.

Ini bukan langkah pertama, tentu saja. Beijing memang terlihat serius ingin mengarahkan perkembangan AI konsumen yang tumbuh begitu pesat. Fokusnya jelas: memperkuat standar keamanan dan etika sebelum semuanya terlambat.

Menurut sejumlah laporan, aturan yang diusulkan akan mencakup produk dan layanan AI apa pun yang tersedia untuk publik di China. Caranya bisa bermacam-macam, mulai dari teks, gambar, hingga audio dan video. Intinya, jika ada unsur "interaksi emosional" di dalamnya, maka ia akan masuk dalam pengawasan.

Nah, yang menarik dari rancangan ini adalah pendekatannya yang proaktif. Penyedia layanan nantinya diwajibkan memberi peringatan jika penggunaan dianggap berlebihan. Bahkan, mereka harus turun tangan melakukan intervensi saat pengguna mulai menunjukkan tanda-tanda kecanduan. Bukan sekadar alat pasif lagi.

Tanggung jawab penyedia juga dipertegas. Mereka harus memastikan keamanan produk sepanjang umurnya, dari awal hingga akhir. Itu berarti membangun sistem untuk meninjau algoritma, mengamankan data, dan tentu saja, melindungi informasi pribadi pengguna dengan lebih ketat.

Di sisi lain, draf aturan ini juga menyentuh hal yang lebih halus: risiko psikologis. Layanan AI diharapkan bisa "membaca" kondisi pengguna, menilai emosi, dan mendeteksi tingkat ketergantungan mereka.

Bayangkan, jika sistem mendeteksi emosi yang ekstrem atau pola perilaku adiktif, penyedia wajib mengambil langkah untuk menanganinya. Ini seperti memasang pengaman tidak hanya di dunia fisik, tapi juga di kesehatan mental pengguna.

Selain itu, batasannya juga jelas. Layanan AI dilarang keras menghasilkan konten yang mengancam keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi. Garisnya tegas, tidak ada ruang untuk abu-abu di sini.

Langkah China ini memperlihatkan sebuah tren global. Di mana inovasi teknologi yang begitu cepat, harus diimbangi dengan pagar pengaturan yang kokoh. Terutama ketika teknologi itu sudah mulai menyentuh ranah personal dan emosional manusia.