China Perketat Aturan untuk AI yang Jalin Hubungan Emosional dengan Pengguna

Di sisi lain, draf aturan ini juga menyentuh hal yang lebih halus: risiko psikologis. Layanan AI diharapkan bisa "membaca" kondisi pengguna, menilai emosi, dan mendeteksi tingkat ketergantungan mereka.

Bayangkan, jika sistem mendeteksi emosi yang ekstrem atau pola perilaku adiktif, penyedia wajib mengambil langkah untuk menanganinya. Ini seperti memasang pengaman tidak hanya di dunia fisik, tapi juga di kesehatan mental pengguna.

Selain itu, batasannya juga jelas. Layanan AI dilarang keras menghasilkan konten yang mengancam keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi. Garisnya tegas, tidak ada ruang untuk abu-abu di sini.

Langkah China ini memperlihatkan sebuah tren global. Di mana inovasi teknologi yang begitu cepat, harus diimbangi dengan pagar pengaturan yang kokoh. Terutama ketika teknologi itu sudah mulai menyentuh ranah personal dan emosional manusia.