Common Sense Media: AI Gemini Berisiko Tinggi untuk Anak dan Remaja

NEWSREAL.ID, JAKARTA- Produk kecerdasan buatan (AI) Gemini milik Google dinilai masih menyimpan risiko besar bagi pengguna anak dan remaja. Laporan terbaru Common Sense Media, organisasi nirlaba yang fokus pada keselamatan anak dalam penggunaan teknologi, menyebutkan Gemini tetap masuk kategori high risk meski sudah dilengkapi filter keamanan.

Dalam analisis yang dikutip dari Tech Crunch, Minggu (7/9), Common Sense menyoroti bahwa versi “Under 13” dan “Teen Experience” Gemini pada dasarnya hanya modifikasi dari layanan dewasa dengan tambahan filter. Padahal, menurut organisasi itu, produk AI untuk anak seharusnya dirancang sejak awal dengan mengutamakan keselamatan anak.

“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya. Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan pendekatan seragam untuk semua usia,” ujar Senior Director AI Programs Common Sense Media, Robbie Torney.

Analisis juga menemukan Gemini masih bisa menampilkan konten yang dianggap tidak pantas, mulai dari informasi tentang seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang berpotensi membahayakan.

Temuan ini menjadi perhatian serius, mengingat dalam beberapa bulan terakhir sejumlah kasus bunuh diri remaja dilaporkan berkaitan dengan interaksi bersama AI.

Kekhawatiran tersebut semakin menguat setelah beredar kabar bahwa Apple mempertimbangkan Gemini sebagai model bahasa besar (LLM) untuk menggerakkan Siri terbaru yang rencananya diluncurkan tahun depan. Jika benar terealisasi, jutaan remaja berpotensi terpapar risiko serupa kecuali Apple menambahkan perlindungan ekstra.

Respons Google

Menanggapi laporan tersebut, Google menyatakan pihaknya telah menyiapkan kebijakan dan perlindungan khusus bagi pengguna di bawah 18 tahun. Perusahaan juga menggandeng pakar eksternal untuk melakukan uji keamanan.

“Kami menyadari masih ada respons Gemini yang belum berjalan sesuai tujuan, karena itu perlindungan tambahan terus kami kembangkan,” demikian pernyataan Google.

Google menambahkan bahwa sistemnya dirancang agar tidak menimbulkan kesan hubungan personal dengan pengguna. Namun, perusahaan mempertanyakan metode pengujian Common Sense karena tidak mengetahui pertanyaan yang digunakan dalam penilaian.

Sebelumnya, Common Sense juga merilis penilaian risiko untuk berbagai layanan AI lain. Meta AI dan Character.AI dikategorikan unacceptable karena risikonya dianggap sangat tinggi. Sementara itu, Perplexity dan Gemini masuk kategori berisiko tinggi, ChatGPT dinilai moderate, dan Claude yang memang ditujukan bagi pengguna 18 tahun ke atas dinilai berisiko minimal. (tb)