OpenAI Pasang Sensor Usia di ChatGPT untuk Lindungi Pengguna Muda

Lalu, bagaimana cara kerjanya?

Dilansir TechCrunch, algoritma AI akan menganalisis berbagai sinyal dari akun dan perilaku pengguna. Mulai dari usia yang mereka deklarasikan, kapan akun dibuat, sampai pola waktu kapan mereka biasa aktif.

Nah, jika sistem mendeteksi sebuah akun kemungkinan besar dipegang oleh anak di bawah 18 tahun, filter konten akan langsung bekerja. Filter ini dirancang untuk menyaring obrolan seputar topik sensitif seks, kekerasan, dan hal-hal lain yang dianggap tak pantas untuk konsumsi remaja.

Namun begitu, sistem buatan manusia pasti ada celahnya. OpenAI punya antisipasi kalau-kalau terjadi salah deteksi. Misalnya, seorang pengguna dewasa malah dikira remaja.

Untuk itu, mereka menyediakan mekanisme koreksi. Pengguna yang merasa dikategorikan salah bisa memulihkan status akun dewasanya dengan verifikasi identitas. Caranya? Dengan mengirimkan swafoto melalui mitra verifikasi OpenAI, Persona.