Peringatan Gawat: Chatbot AI Gagal Tangani Risiko Bunuh Diri Pengguna

www.livemint.com

AI Chatbot ChatGPT Kesehatan Mental Gemini Bunuh Diri Artificial Intelligence Claude

Sebuah studi di jurnal Psychiatric Services menyoroti risiko inkonsistensi chatbot AI seperti ChatGPT, Gemini, dan Claude dalam menanggapi pertanyaan bunuh diri. Meskipun menghindari panduan berisiko tinggi, jawaban mereka pada pertanyaan kurang ekstrem tetap berpotensi membahayakan pengguna. Penelitian ini, yang didanai National Institute of Mental Health, mendesak penyempurnaan lebih lanjut dan regulasi ketat karena meningkatnya ketergantungan masyarakat, termasuk anak-anak, pada AI untuk dukungan kesehatan mental.

Cari berita serupa