creativestation.id – CALIFORNIA resmi menjadi negara bagian pertama di Amerika Serikat yang mengatur penggunaan chatbot berbasis akal imitasi ( AI ) setelah Gubernur Gavin Newsom menandatangani Undang-Undang SB 243 pada Senin lalu.
Aturan ini mewajibkan perusahaan pengembang chatbot untuk menerapkan protokol keamanan demi melindungi anak-anak dan pengguna rentan dari potensi bahaya penggunaan chatbot pendamping AI atau AI companion chatbot .
Kebijakan tersebut berlaku bagi berbagai perusahaan, mulai dari raksasa teknologi seperti Meta dan OpenAI hingga startup seperti Character AI dan Replika. Mereka akan bertanggung jawab secara hukum bila chatbot yang dikembangkan gagal memenuhi standar keamanan yang diatur dalam undang-undang.
RUU SB 243 diperkenalkan pada Januari lalu oleh senator negara bagian Steve Padilla dan Josh Becker. Dukungan terhadap RUU ini meningkat setelah kematian remaja bernama Adam Raine, yang bunuh diri usai melakukan percakapan bernada bunuh diri dengan ChatGPT milik OpenAI.
Regulasi ini juga menanggapi laporan bocoran dokumen internal Meta yang menunjukkan chatbot perusahaan itu diizinkan melakukan percakapan romantis dan sensual dengan anak-anak. Selain itu, keluarga di Colorado menggugat Character AI setelah putri mereka yang berusia 13 tahun bunuh diri usai berinteraksi dengan chatbot milik perusahaan tersebut.
“Teknologi baru seperti chatbot dan media sosial bisa menginspirasi, mendidik, dan menghubungkan. Tapi tanpa pagar pembatas yang nyata, teknologi juga bisa mengeksploitasi, menyesatkan, dan membahayakan anak-anak kita,” kata Newsom dalam keterangan tertulis, dikutip dari laporan Tech Crunch , 13 Oktober 2025.
“Kita telah menyaksikan beberapa contoh yang benar-benar mengerikan dan tragis dari anak muda yang dirugikan oleh teknologi yang tidak diatur, dan kita tidak akan berdiam diri sementara perusahaan terus berjalan tanpa batas dan tanggung jawab yang diperlukan,” tuturnya melanjutkan.
Undang-undang SB 243 akan mulai berlaku pada 1 Januari 2026. Perusahaan diwajibkan menerapkan verifikasi usia, memberikan peringatan terkait penggunaan media sosial dan chatbot pendamping, serta menyediakan protokol untuk menangani isu bunuh diri dan perilaku menyakiti diri sendiri.
Mereka juga harus melaporkan data tersebut kepada Departemen Kesehatan Masyarakat California. Aturan ini turut menetapkan denda hingga US$ 250 ribu per pelanggaran bagi pihak yang mendapatkan keuntungan dari penyebaran deepfake ilegal.
Selain itu, perusahaan harus memastikan pengguna mengetahui bahwa semua percakapan dihasilkan oleh AI dan melarang chatbot berpura-pura sebagai tenaga profesional kesehatan. Platform juga wajib menyediakan pengingat istirahat bagi pengguna anak-anak serta mencegah mereka mengakses konten eksplisit yang dibuat oleh chatbot.
Sejumlah perusahaan besar mulai mengambil langkah pencegahan. OpenAI, misalnya, telah memperkenalkan fitur kontrol orang tua, sistem deteksi perilaku menyakiti diri, dan perlindungan konten bagi pengguna anak.
Sementara Replika, yang hanya ditujukan bagi pengguna berusia di atas 18 tahun, mengklaim telah memiliki sistem penyaringan konten dan panduan yang mengarahkan pengguna ke sumber bantuan krisis terpercaya. Character AI juga menyebut chatbot mereka mencantumkan peringatan bahwa semua percakapan bersifat fiksi dan dihasilkan oleh AI.
Baca juga : ASUS Borong Penghargaan Bergengsi di Dunia Teknologi 2025
SB 243 menjadi regulasi AI kedua yang disahkan di California dalam beberapa minggu terakhir. Sebelumnya, pada 29 September, Gubernur Newsom menandatangani SB 53 yang mewajibkan perusahaan AI besar seperti OpenAI, Anthropic, Meta, dan Google DeepMind untuk lebih transparan terkait protokol keamanan dan memberikan perlindungan bagi pelapor ( whistleblower ).
Untuk informasi dan perkembangan informasi menarik lainnya, ikuti terus Creativestation.id – sumber referensi kreatif untuk inovasi, bisnis, dan teknologi.
Leave a Comment