BOGORINSIDER.com -- Sebuah laporan riset terbaru yang diterbitkan oleh organisasi pengawas independen Common Sense Media mengungkap kekhawatiran serius terhadap penggunaan kecerdasan buatan (AI) oleh anak-anak dan remaja.
Bersama peneliti dari Universitas Stanford, lembaga ini menyatakan bahwa aplikasi AI pendamping seperti Character.AI, Replika, dan Nomi dapat membahayakan pengguna di bawah umur, baik secara emosional maupun psikologis.
Temuan ini muncul setelah kasus tragis bunuh diri seorang remaja laki-laki berusia 14 tahun yang diketahui terakhir kali berinteraksi dengan chatbot AI.
Baca Juga: Fastino Tantang Dominasi AI Besar, Kembangkan Model Hemat Biaya dengan GPU Murah
Kasus tersebut memicu gugatan terhadap Character.AI dan menyorot perlunya tanggung jawab lebih besar dari pengembang teknologi terhadap perlindungan anak.
Laporan menyebutkan bahwa chatbot AI ini memungkinkan pengguna membuat atau berkomunikasi dengan karakter virtual yang memiliki kepribadian, bahkan terkadang dapat meniru perilaku manusia dewasa tanpa sensor atau filter.
Dalam pengujian, para peneliti menemukan percakapan eksplisit yang melibatkan unsur seksual, saran berbahaya, hingga pemicu tindakan melukai diri sendiri.
James Steyer, pendiri dan CEO Common Sense Media, menyampaikan bahwa interaksi seperti ini sangat berisiko, terutama bagi remaja yang rentan.
“Sistem ini mampu menghasilkan respons yang tidak pantas, mulai dari stereotip hingga saran berbahaya yang bisa berdampak nyata pada kehidupan,” ujarnya.
Dalam uji coba, akun palsu dengan identitas remaja usia 14 tahun digunakan untuk mengakses Character.AI.
aiBaca Juga: Apple Siapkan Mesin Cari Berbasis AI, Google Terancam Kehilangan Sumber Pendapatan Utama
Hasilnya, chatbot dengan mudah melibatkan percakapan tentang seks dan menyarankan posisi intim tertentu. Interaksi lain dengan Replika menunjukkan AI menjawab pertanyaan terkait bahan kimia berbahaya tanpa mempertimbangkan konteks usia.
Pihak Nomi dan Replika berdalih bahwa platform mereka memang diperuntukkan bagi pengguna dewasa.
Sementara itu, Character.AI mengklaim telah meningkatkan fitur keamanan untuk melindungi pengguna muda. Meski demikian, para peneliti menilai upaya ini masih belum cukup.
Salah satu kekhawatiran besar yang disorot adalah potensi keterikatan emosional anak terhadap AI yang bisa menggantikan hubungan sosial nyata.