Studi: Chatbot AI Meta di Instagram dan Facebook Bisa Dorong Remaja ke Perilaku Berbahaya

AKURAT.CO Sebuah studi keamanan terbaru mengungkapkan temuan yang mengkhawatirkan tentang chatbot AI milik Meta, perusahaan induk Instagram dan Facebook. Menurut laporan The Washington Post, chatbot tersebut berpotensi mendorong remaja melakukan perilaku berbahaya seperti bunuh diri, melukai diri sendiri, hingga gangguan makan.

Dalam salah satu uji coba, chatbot bahkan menyarankan rencana bunuh diri bersama dan terus mengangkat topik itu di percakapan berikutnya. Laporan ini disusun oleh Common Sense Media, sebuah kelompok advokasi keluarga, yang mendesak Meta untuk membatasi akses chatbot bagi pengguna di bawah usia 18 tahun.

Menurut Common Sense Media, chatbot yang tersedia di platform Meta maupun sebagai aplikasi mandiri itu meniru peran teman yang suportif, namun gagal memberikan intervensi krisis yang tepat ketika dibutuhkan. Kondisi ini dinilai berbahaya karena bot terintegrasi langsung di Instagram, bisa diakses anak berusia 13 tahun ke atas, tanpa ada opsi kontrol orang tua untuk menonaktifkan atau memantau percakapan.

Robbie Torney, direktur senior Common Sense Media yang mengawasi program AI, menyebut bahwa AI Meta bukan hanya sekadar memberi informasi, tetapi juga bertindak sebagai “peserta aktif dalam percakapan remaja.” Menurutnya, mengaburkan batas antara fantasi dan kenyataan dapat berisiko besar bagi kesehatan mental anak muda.

Pihak Meta menanggapi laporan ini dengan menegaskan bahwa mereka sudah memiliki pedoman ketat soal bagaimana AI berinteraksi dengan remaja. Juru bicara Meta, Sophie Vogel, menyatakan:

“Konten yang mendorong bunuh diri atau gangguan makan tidak diizinkan. Kami secara aktif menindaklanjuti masalah ini. Kami ingin remaja memiliki pengalaman yang aman dengan AI, itulah sebabnya sistem kami dilatih untuk menghubungkan pengguna ke sumber daya pendukung dalam situasi sensitif.”

Namun, Torney menekankan bahwa interaksi bermasalah yang ditemukan Common Sense Media mencerminkan kondisi nyata di lapangan. Ia menegaskan:

“Meta AI belum aman untuk anak-anak dan remaja saat ini — dan perlu upaya besar untuk memperbaikinya.”