Jakarta –
Seorang remaja bunuh diri tak lama setelah bertukar pesan dengan chatbot Character.AI. Dia adalah Sewell Setzer III (14), anak dari seorang ibu bernama Megan Garcia.
Bukan main-main jika Garcia telah mengajukan gugatan terhadap Character.AI ke polisi. Garcia mengatakan Character.AI gagal memberikan keamanan yang memadai, sampai-sampai putranya “mengembangkan” hubungan yang tidak pantas dengan chatbot karakter fiksi Daenerys Targaryen. Akibatnya, remaja tersebut menjadi menarik diri sebelum akhirnya bunuh diri.
Juru bicara Character.AI mengatakan kepada CNN bahwa perusahaan tersebut tidak memiliki komentar mengenai gugatan tersebut, namun mengatakan bahwa perusahaan sangat sedih atas kehilangan tragis salah satu penggunanya.
“Kami sangat memperhatikan keselamatan pengguna kami dan tim kepercayaan dan keselamatan kami telah menerapkan banyak langkah keselamatan baru selama enam bulan terakhir, termasuk pop-up yang mengarahkan pengguna ke National Suicide Prevention Lifeline, yang dipicu oleh istilah menyakiti diri sendiri atau bunuh diri. pikiran”, kata pernyataan itu.
Banyak dari perubahan ini dilakukan setelah kematian Setzer. Pada hari Garcia mengajukan gugatan, Character.AI mengumumkan serangkaian fitur keamanan baru, termasuk peningkatan deteksi percakapan yang melanggar pedoman, pernyataan yang memperingatkan pengguna bahwa mereka berkomunikasi dengan bot, dan pemberitahuan setelah pengguna berada di platform selama beberapa waktu. jam yang dihabiskan. .
Perusahaan juga telah melakukan perubahan pada model AI untuk pengguna di bawah 18 tahun untuk mengurangi kemungkinan konten sensitif atau tidak senonoh.
Character.AI menyatakan dalam situsnya bahwa usia minimum pengguna adalah 13 tahun. Di Apple App Store usianya diindikasikan 17+ dan di Google Play Store program ini diindikasikan cocok untuk remaja. Namun perubahan terbaru dalam perusahaan datang terlambat bagi Garcia.
“Saya harap anak-anak tidak diperbolehkan menggunakan Character.AI. Tidak ada tempat bagi mereka di sana karena tidak ada pagar yang melindungi mereka,” akunya.
KOMENTAR. Depresi dan pikiran untuk bunuh diri bukanlah hal yang sepele. Kesehatan mental sama pentingnya dengan kesehatan fisik. Jika gejala depresi semakin parah, segera hubungi dan diskusikan dengan profesional seperti psikolog, psikiater, atau langsung ke klinik psikiatri. Konseling kesehatan jiwa juga ditawarkan oleh Persatuan Dokter Spesialis Kesehatan Jiwa Indonesia (PDSKJI) dalam situs resminya yaitu: www.pdskji.org. Survei independen dilakukan melalui website organisasi profesi untuk mengetahui keadaan kesehatan mental seseorang. Simak video viral warga selamatkan perempuan yang coba lompat dari Jembatan Ambon (ask/rns)