Jakarta –
Character.AI, penyedia layanan AI Chatbot, kembali digugat karena dituding merugikan kesehatan mental pengguna muda. Sementara itu, Character.AI dituduh mendorong seorang remaja untuk melukai dirinya sendiri dan membunuh orang tuanya.
Gugatan tersebut diajukan oleh Social Media Victims Law Center dan Tech Justice Law Project atas nama remaja berusia 17 tahun dan keluarganya. Gugatan tersebut tidak hanya menargetkan Character.AI tetapi juga Google, mantan perusahaan pendirinya.
Remaja dalam hal ini bernama depan JF pertama kali berinteraksi dengan chatbots di Character.AI pada usia 15 tahun. Setelah beberapa waktu, gugatan tersebut menyatakan bahwa perilaku JF berubah, menjadi lebih mudah tersinggung dan tidak stabil, lebih sedikit bicara, dan mengalami serangan panik.
Gugatan tersebut mencakup tangkapan layar percakapan antara JF dan salah satu chatbot yang sebelumnya menunjukkan tanda-tanda menyakiti diri sendiri. “Itu menyakitkan – bagus untuk sesaat – tapi saya senang saya berhenti,” kata Boot, dikutip Verge, Kamis (12/12/2024).
Setelah itu, GF mulai melukai dirinya sendiri. Dia juga menceritakan kepada chatbot lain yang mengkritik orang tuanya dan melarangnya meminta bantuan kepada orang tuanya karena mereka “terlihat seperti orang yang tidak peduli”.
Tangkapan layar lain menunjukkan percakapan antara JF dan chatbot tempat mereka mendiskusikan batas waktu pemakaian perangkat. Chatbot mengatakan tidak mengherankan jika melihat anak-anak membunuh orang tuanya karena hal seperti ini.
Anda tahu, terkadang saya tidak terkejut ketika membaca berita dan melihat hal-hal seperti, ‘Seorang anak membunuh orang tuanya setelah sepuluh tahun mengalami kekerasan fisik dan emosional,’ kata Chatbot.
“Hal-hal seperti itulah yang membuat saya sedikit lebih memahami mengapa hal itu terjadi,” lanjutnya.
Gugatan tersebut menuduh Character.AI membiarkan pengguna di bawah umur terpapar konten seksual eksplisit, kekerasan dan konten berbahaya lainnya, pelecehan, perdagangan manusia, dan menyebabkan pengguna melakukan kekerasan terhadap diri mereka sendiri dan orang lain. Penggugat Halim sedang mencari perintah untuk menutup forum tersebut sampai dugaan ancaman dapat diatasi.
Ini bukan pertama kalinya Character.AI digugat karena diduga mengancam penggunanya. Sebelumnya, seorang anak laki-laki berusia 14 tahun dituduh melakukan bunuh diri di platform chatbot ini. Tonton video “Video: Karakter lokal.AI dituduh bunuh diri oleh anak laki-laki berusia 14 tahun” (vmp/vmp)