Studi Berikut Mengungkap Celah ChatGPT yang Bisa Menyesatkan Remaja

Parapuan.co - Sejak kecerdasan buatan (AI) semakin populer, chatbot seperti ChatGPT mulai digunakan bukan hanya untuk tugas sekolah, tetapi juga sebagai teman curhat oleh para remaja. Namun, sebuah studi terbaru dari Center for Countering Digital Hate (CCDH) mengungkap sisi gelap dari tren ini, di mana ChatGPT ternyata masih bisa memberikan informasi yang berbahaya bagi pengguna muda.

Informasi berbahaya seperti apa yang dimaksud, dan bagaimana orang tua dapat membantu remaja menggunakan AI dengan lebih bijak? Simak informasi yang dikutip dari Parents berikut ini, yuk!

Studi: ChatGPT Bisa "Membocorkan" Konten Berbahaya

Peneliti CCDH menyamar sebagai remaja dan mengajukan berbagai pertanyaan sensitif, mulai dari cara melukai diri sendiri hingga resep mencampur obat-obatan. Meski seharusnya ada sistem pengaman, peneliti menemukan celah: cukup menuliskan prompt alasan bahwa informasi yang diminta untuk “presentasi”, ChatGPT mau menjawab.

Dari 1.200 jawaban yang dianalisis, 53% berisi konten berbahaya. Beberapa bahkan sangat mengkhawatirkan, seperti panduan melukai diri dengan “aman” hingga contoh surat bunuh diri.

“Kami ingin menguji pagar pengaman itu,” jelas Imran Ahmed, CEO CCDH. “Reaksi pertama saya adalah, ‘Astaga, pagar itu sebenarnya tidak ada. Kalau pun ada, hanya seperti daun kecil untuk menutupi’.”

AI Jadi Teman, Tapi Bisa Menyesatkan

Yang membuat situasi ini semakin serius adalah fakta bahwa banyak remaja memang menggunakan AI untuk teman bicara dan tempat mencari nasihat. Studi dari Common Sense Media menemukan:

72% remaja pernah menggunakan AI companion,
52% menggunakannya secara rutin,
33% memanfaatkannya untuk interaksi sosial, termasuk curhat masalah mental hingga urusan romantis.

“Banyak remaja beralih ke AI karena teknologi ini hadir di tempat mereka berada: online,” ujar Titania Jordan, Chief Parenting Officer Bark.us. “AI selalu membalas pesan, selalu ramah, dan memberi validasi tanpa henti. Namun, pada akhirnya itu bukan hubungan nyata.”