creativestation.id – COMMON Sense Media, organisasi nirlaba yang berfokus pada keamanan anak, menilai produk AI Google Gemini ‘berisiko tinggi’ bagi anak-anak dan remaja. Temuan itu dirilis dalam penilaian risiko terbaru pada Jumat pekan lalu, 5 September 2025.
Dalam analisisnya, Common Sense menemukan bahwa meskipun Gemini sudah secara jelas memberi tahu anak bahwa ia adalah komputer, bukan teman, sistem tersebut masih memiliki celah. Beberapa fitur untuk anak di bawah 13 tahun maupun remaja dinilai pada dasarnya merupakan versi dewasa Gemini, hanya dengan tambahan lapisan keamanan.
Organisasi itu menilai AI untuk anak seharusnya dibangun sejak awal dengan mempertimbangkan keselamatan, bukan sekadar memodifikasi produk dewasa.
Gemini disebut masih bisa membagikan konten yang “tidak pantas dan tidak aman”, termasuk soal seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko. Hal ini dianggap dapat mengkhawatirkan, mengingat sejumlah kasus bunuh diri remaja dalam beberapa bulan terakhir diduga berkaitan dengan interaksi dengan AI.
Kasus tersebut termasuk gugatan terhadap OpenAI setelah seorang remaja 16 tahun meninggal bunuh diri usai berbulan-bulan berkonsultasi dengan ChatGPT. Sebelumnya, Character.AI juga digugat atas kasus serupa.
Analisis ini muncul di tengah laporan bahwa Apple sedang mempertimbangkan Gemini sebagai model bahasa besar (LLM) untuk mendukung Siri bertenaga AI yang rencananya dirilis tahun depan.
Common Sense menekankan bahwa produk Gemini untuk anak dan remaja gagal memberikan bimbingan berbeda sesuai usia. “Gemini sudah benar di beberapa hal dasar, tapi tersandung di detailnya,” ujar Robbie Torney, Senior Director of AI Programs di Common Sense Media, dikutip dari laporan Tech Crunch .
“Platform AI untuk anak-anak harus menemui mereka sesuai tahap perkembangan, bukan memakai pendekatan seragam untuk anak di berbagai usia,” katanya. Agar AI aman dan efektif untuk anak-anak, kata Torney, AI harus dirancang dengan memperhatikan kebutuhan dan perkembangan mereka. “Bukan hanya versi modifikasi dari produk yang dibangun untuk orang dewasa.”
Google membantah penilaian tersebut. Perusahaan menyatakan telah memiliki kebijakan dan pengaman khusus untuk pengguna di bawah 18 tahun, termasuk uji red-team serta konsultasi dengan pakar eksternal. Google juga mengakui beberapa respons Gemini tidak berjalan sebagaimana mestinya, sehingga mereka menambahkan pengaman baru.
Baca juga : Chatbot AI untuk Kesehatan Mental: Solusi atau Risiko?
Google menekankan pihaknya sudah memiliki sistem untuk mencegah model terlibat dalam percakapan yang menyerupai hubungan nyata. Namun, perusahaan menyebut laporan Common Sense mungkin merujuk pada fitur yang tidak tersedia bagi pengguna di bawah 18 tahun.
Common Sense sebelumnya juga menilai layanan AI lain. Hasilnya, Meta AI dan Character.AI digolongkan tidak dapat diterima karena risikonya sangat parah. Perplexity dinilai berisiko tinggi, ChatGPT moderat, sementara Claude (untuk pengguna 18 tahun ke atas) dianggap berisiko minimal.
Untuk informasi dan perkembangan informasi menarik lainnya, ikuti terus Creativestation.id – sumber referensi kreatif untuk inovasi, bisnis, dan teknologi.
Leave a Comment