UN Women Soroti Bias Gender dalam Sistem Kecerdasan Buatan

Kecerdasan buatan atau AI yang semakin merasuk ke berbagai aspek kehidupan ternyata menyimpan masalah serius: bias gender. UN Women mengungkapkan bahwa sistem AI kerap mereproduksi stereotip gender, misalnya saat diminta menggambarkan profesi dokter sebagai laki-laki dan perawat sebagai perempuan. Temuan ini berawal dari riset seniman asal Turki, Beyza Doğuç, yang menggunakan AI untuk menulis cerita tentang seorang dokter dan perawat.

Beyza kemudian melakukan berbagai percobaan dengan memberikan beragam perintah kepada AI. Hasilnya, sistem itu berulang kali menunjukkan stereotip gender pada karakter maupun profesi tertentu. Ketika ditanya penyebabnya, AI menjawab bahwa responsnya didasarkan pada data pelatihan yang digunakan untuk mengembangkan sistem tersebut. Dengan kata lain, bias gender yang muncul bukan kebetulan, melainkan cerminan dari data yang dilatih.

“Kecerdasan buatan mencerminkan bias yang ada di masyarakat kita dan yang termanifestasi dalam data pelatihan AI,” ujar Beyza kepada UN Women.

Studi berjudul "When Good Algorithms Go Sexist: Why and How to Advance AI Gender Equity" (2021) menemukan bahwa 44 persen dari 133 sistem AI di berbagai industri menunjukkan bias gender. Seorang mahasiswa dari Rwanda yang berpartisipasi dalam kamp koding pertama di bawah Inisiatif African Girls Can Code mengatakan bahwa AI sebagian besar dikembangkan oleh laki-laki dan dilatih menggunakan data yang didominasi perspektif laki-laki. Kondisi ini memicu ketimpangan gender karena kurangnya data untuk perempuan.

Bias gender dalam AI menimbulkan kekhawatiran baru, terutama bagi perempuan. Jika sistem AI terus dikembangkan tanpa perspektif gender dan keragaman yang memadai, teknologi ini berisiko menghasilkan layanan yang kurang akurat serta keputusan yang bias di berbagai bidang, mulai dari pekerjaan hingga layanan kesehatan.

Mencegah Bias Gender dalam AI

Peneliti komputasi kuantum di Tufts University, Sola Mahfouz, mengatakan salah satu cara mencegah bias gender dalam AI adalah memperbanyak peneliti perempuan di bidang tersebut. “Diperlukan lebih banyak peneliti perempuan di bidang ini. Pengalaman hidup unik perempuan dapat secara mendalam membentuk landasan teoritis teknologi. Hal ini juga dapat membuka aplikasi baru dari teknologi tersebut,” ungkap Sola.

Sementara itu, Beyza menekankan bahwa untuk mencegah bias gender dalam AI, kita perlu lebih dulu mengatasi bias gender dalam masyarakat. Helene Molinier, Penasihat UN Women untuk Kerja Sama Kesetaraan Gender Digital, mengatakan belum ada kebijakan yang membatasi pengembangan AI yang menunjukkan bias gender. “Diperlukan model tata kelola multi-pemangku kepentingan global yang mencegah dan memperbaiki ketika sistem AI menunjukkan bias gender atau ras, memperkuat stereotip yang berbahaya, atau tidak memenuhi standar privasi dan keamanan,” ujar Helene.

Selain bias gender, AI juga membuka peluang baru terhadap tindak kekerasan seksual. UN Women menyebutkan bahwa 99 persen perempuan menjadi target deepfake. “AI menciptakan bentuk-bentuk kekerasan yang baru sekaligus memperparah kekerasan yang sudah ada,” ujar Dwi Yuliawati, Head of Programmes UN Women Indonesia.