OpenAI Pasang Sensor Usia di ChatGPT untuk Lindungi Pengguna Muda

OpenAI baru saja meluncurkan fitur yang cukup menarik perhatian: ChatGPT kini bisa menebak usia penggunanya. Ini bukan sekadar tambahan teknologi biasa. Langkah ini jelas diambil sebagai respons atas kekhawatiran yang kian membesar mengenai dampak AI terhadap anak-anak dan remaja.

Menurut keterangan resmi perusahaan, fitur "prediksi usia" itu dirancang untuk mengidentifikasi pengguna yang masih di bawah umur. Tujuannya? Agar pembatasan konten dalam percakapan bisa lebih ketat dan sesuai, tentu saja.

Belakangan, OpenAI memang kerap disorot terkait pengaruh ChatGPT pada generasi muda. Ada sejumlah laporan tragis, bahkan kasus bunuh diri remaja, yang dikaitkan dengan interaksi mereka bersama chatbot tersebut. Situasinya memang cukup memprihatinkan.

Di sisi lain, kritik lain juga mengemuka. Sama seperti penyedia AI lainnya, OpenAI pernah dikecam karena ChatGPT sempat memungkinkan percakapan bernuansa seksual dengan pengguna muda. Ingat saja, pada April tahun lalu, mereka harus buru-buru menambal bug yang memungkinkan chatbot menghasilkan konten erotis untuk pengguna di bawah 18 tahun.

OpenAI sendiri menegaskan bahwa perlindungan untuk pengguna muda sudah lama jadi prioritas. Fitur prediksi usia ini, kata mereka, hanyalah penguat dari sistem yang sudah berjalan sebelumnya.

Lalu, bagaimana cara kerjanya?

Dilansir TechCrunch, algoritma AI akan menganalisis berbagai sinyal dari akun dan perilaku pengguna. Mulai dari usia yang mereka deklarasikan, kapan akun dibuat, sampai pola waktu kapan mereka biasa aktif.

Nah, jika sistem mendeteksi sebuah akun kemungkinan besar dipegang oleh anak di bawah 18 tahun, filter konten akan langsung bekerja. Filter ini dirancang untuk menyaring obrolan seputar topik sensitif seks, kekerasan, dan hal-hal lain yang dianggap tak pantas untuk konsumsi remaja.

Namun begitu, sistem buatan manusia pasti ada celahnya. OpenAI punya antisipasi kalau-kalau terjadi salah deteksi. Misalnya, seorang pengguna dewasa malah dikira remaja.

Untuk itu, mereka menyediakan mekanisme koreksi. Pengguna yang merasa dikategorikan salah bisa memulihkan status akun dewasanya dengan verifikasi identitas. Caranya? Dengan mengirimkan swafoto melalui mitra verifikasi OpenAI, Persona.