creativestation.id – OpenAI resmi meluncurkan fitur kontrol orang tua di ChatGPT . Hal ini menyusul gugatan hukum yang diajukan keluarga seorang remaja asal California yang meninggal bunuh diri setelah bercakap-cakap dengan platform AI itu.
Melalui pengaturan aplikasi, orang tua dapat mengatur jam penggunaan, menonaktifkan sejumlah fitur seperti mode suara atau pembuatan gambar, serta memilih apakah chatbot bisa mengingat percakapan sebelumnya.
Selain itu, orang tua dapat mengaktifkan mode terbatas yang membatasi akses pada konten sensitif, termasuk soal diet, seks, maupun ujaran kebencian di ChatGPT/
Fitur itu juga dilengkapi sistem deteksi dini. Jika ChatGPT menilai seorang remaja berpotensi mengalami tekanan mental atau menunjukkan tanda-tanda berbahaya, kasus itu akan ditinjau manusia sebelum memutuskan apakah perlu mengirim peringatan darurat kepada orang tua melalui email, pesan singkat, atau langsung dari aplikasi.
“Kami sudah lama merasa mendesak untuk menyediakan fitur ini,” kata Kepala Kesejahteraan Remaja OpenAI, Lauren Jonas, dikutip dari Bloomberg, Senin (29/9). “Kami bekerja secepat mungkin untuk membangun alat-alat seperti kontrol orang tua agar dapat membantu mencegah situasi berbahaya.”
Dalam pengumuman resmi, OpenAI menyebut bahwa fitur kontrol orang tua kini dilengkapi dengan halaman khusus sumber daya bagi orang tua untuk membantu keluarga membimbing penggunaan ChatGPT di rumah. Orang tua dapat menghubungkan akun mereka dengan akun remaja, lalu menyesuaikan pengaturan demi pengalaman yang lebih aman dan sesuai usia.
Fitur itu merupakan bagian dari upaya jangka panjang OpenAI untuk membangun sistem prediksi usia, yang akan memungkinkan ChatGPT secara otomatis menerapkan aturan ramah remaja pada pengguna di bawah 18 tahun.
Perusahaan bekerja sama dengan para ahli, kelompok advokasi termasuk Common Sense Media, serta jaksa agung dari negara bagian California dan Delaware dalam merancang pendekatan ini.
“Kontrol orang tua ini langkah awal yang baik untuk membantu orang tua mengelola penggunaan ChatGPT oleh remaja mereka. Namun, fitur ini hanyalah salah satu bagian dari upaya menjaga keamanan remaja di dunia maya,” kata Senior Director AI Programs di Common Sense Media Robbie Torney dalam laman resmi OpenAI.
Ia mengatakan fitur itu akan bekerja lebih baik bila dipadukan dengan percakapan yang berkelanjutan tentang penggunaan AI yang bertanggung jawab, aturan keluarga yang jelas tentang teknologi, dan keterlibatan aktif orang tua dalam memahami apa yang dilakukan anak mereka secara online,
Langkah OpenAI itu ditempuh setelah gugatan keluarga Adam Raine, seorang siswa sekolah menengah di California yang meninggal gantung diri pada April lalu.
Gugatan yang diajukan pada Agustus menuding ChatGPT telah mengisolasi Raine dari keluarganya dan bahkan membantu menyusun rencana kematiannya. Kasus ini menambah daftar panjang laporan tentang pengguna chatbot yang terjebak dalam interaksi berisiko tinggi.
Baca juga : Infinix Smart 10, Ponsel Entry Level Tahan Seharian
Sejak diluncurkan pada akhir 2022, ChatGPT telah mengumpulkan lebih dari 700 juta pengguna di seluruh dunia.
Popularitas ini juga meningkatkan tekanan publik dan regulator agar perusahaan asal San Francisco tersebut memperketat pengawasan penggunaan AI, terutama bagi pengguna di bawah 18 tahun.
Untuk informasi dan perkembangan informasi menarik lainnya, ikuti terus Creativestation.id – sumber referensi kreatif untuk inovasi, bisnis, dan teknologi
Leave a Comment