Jakarta –
Kasus pornografi deepfake mulai menghantui Singapura, khususnya generasi muda. November lalu, polisi menyelidiki beberapa siswa remaja di sebuah sekolah olahraga di Singapura yang membuat dan menyebarkan foto telanjang palsu teman sekelasnya menggunakan kecerdasan buatan (AI).
Pada bulan yang sama, lima menteri di Singapura dan lebih dari 100 pejabat di 31 departemen pemerintah bahkan menerima email pemerasan. Konten tersebut merupakan permintaan pembayaran mata uang kripto sebagai imbalan atas gambar porno deepfake yang tidak banyak diunduh.
Ini adalah kasus terbaru konten seksual palsu yang dihasilkan oleh AI di Singapura dan tentunya bukan yang terakhir di Singapura atau negara lain di dunia.
Tren di dunia
Pada tahun 2017, thread Reddit yang menampilkan video palsu “Taylor Swift” sedang berhubungan seks berhasil mendapatkan 90.000 pelanggan sebelum konten tersebut akhirnya dihapus delapan minggu kemudian.
Tahun lalu, di sebuah kota kecil di Spanyol, lebih dari 20 gadis muda menemukan gambar telanjang diri mereka yang dibuat oleh AI dan kontennya disebarkan oleh remaja melalui selfie di media sosial.
Dampak yang lebih serius
Menurut penelitian, yang mengkhawatirkan adalah risiko-risiko tersebut menjadi semakin normal. Semakin banyak pengguna yang percaya bahwa ini normal.
Dalam survei tahun 2023 yang dilakukan oleh organisasi nirlaba lokal SG Her Empowerment, 20 persen responden mengatakan mereka tidak terpengaruh karena pelecehan online adalah bagian normal dari kehidupan, sementara 66 persen telah berhati-hati dan tidak mengungkapkan terlalu banyak gambar pribadi di media sosial.
Namun, analoginya adalah alih-alih melawan para pengganggu di taman bermain, orang-orang malah menjauhi taman bermain dan tidak menyadari bahaya yang ditimbulkannya.
Belum lagi dampak kesehatan mental yang dialami para korban ketika mereka menemukan video porno palsu, tidak peduli seberapa cepat video tersebut dihapus.
Dari segi gender, ceritanya bahkan lebih suram. Diperkirakan 95 persen pornografi mendalam adalah tentang perempuan. Perempuan menjadi sasaran secara tidak proporsional di dunia maya, sehingga dapat menghambat kemajuan yang dicapai dalam kesetaraan gender.
Stefanie Yuen Thio, wakil direktur TSMP Law Corporation, mengimbau masyarakat untuk tidak mudah membagikan foto pribadi secara online. Korban diminta tidak takut menegur pelaku.
“Jika terjadi kejahatan, segera lapor ke pihak berwajib. Jika mengenal seseorang yang pernah menjadi korban kejahatan, dorong mereka untuk mengambil tindakan. Penyintas tidak perlu malu, yang penting kendali kembali,” ujarnya. . katanya. oleh CNA, Kamis (5 Desember 2024).
Kasus di Singapura
Sebelum kejadian di sekolah olahraga tersebut, pihak berwenang Singapura telah bersiap menghadapi gelombang baru serangan dunia maya atau kejahatan dunia maya ini. Setidaknya ada tiga pasal undang-undang yang mengatur hukum di balik pornografi mendalam.
Pertama, sesuaikan platform tempat konten web dikonsumsi. Undang-Undang Penyiaran diubah pada tahun 2023 untuk memungkinkan Otoritas Pengembangan Media Infocomm (IMDA) mengarahkan layanan media sosial sebagai pengawas dunia maya, memblokir atau menghapus konten yang kasar selama periode tertentu dan mengarahkan mereka untuk mematuhi kode etik online.
Kedua, kejahatan di dunia analog dengan bukti digital kini dapat ditargetkan, dicegah, dan dituntut dengan lebih efektif. Undang-Undang Bahaya Kriminal Online, yang disahkan tahun lalu, memberikan wewenang kepada pihak berwenang untuk mengeluarkan pedoman bagi penyedia layanan online untuk membatasi paparan pengguna Singapura terhadap konten kriminal dan aktivitas online.
BERIKUTNYA: Upaya negara lain
(naf/suc)