Jakarta –
Read More : 400 Pembicara Dunia dan Nasional Bagi Ide Keren di IdeaFest 2024
Olga Loyek, seorang warga Ukraina yang belajar di Universitas Pennsylvania, terkejut mengetahui bahwa dia tiba-tiba “menjadi” warga negara Rusia yang fasih berbahasa Mandarin. Nah, bagaimana ini mungkin?
Loiek membuat akun YouTube pada November 2023. Wanita 21 tahun ini ingin audiensi secara online. Ya, penontonnya banyak. Namun tidak pada akun yang sebenarnya miliknya.
Wajah Loyek telah dicuri dan digunakan sebagai dasar untuk banyak akun fiktif, termasuk “Natasha”, seorang warga negara Rusia yang fasih berbahasa Mandarin. Natasha populer di media sosial Tiongkok dan sukses mendapat untung dari akun fiktif tersebut.
Dalam video yang diunggah di akun Natasha, ia memuji pemerintah China atas dukungannya terhadap Rusia. Ia juga menjual produk seperti permen asal Rusia di akunnya dengan ratusan ribu pengikut di China.
โSepertinya wajah saya terbiasa berbicara bahasa Mandarin. Di latar belakang saya melihat Kremlin dan Moskow, dan saya mengagumi betapa hebatnya Rusia dan Tiongkok. Itu berbicara dalam hidup saya,โ kata Loyek.
Kasus Loiec adalah contoh dari banyak kasus serupa. Kini, menurut Reuters, semakin banyak “wanita Rusia” di media sosial Tiongkok yang memuji negara Tirai Bambu dalam bahasa Mandarin yang fasih. Mereka menjual berbagai barang impor dari Rusia dan berupaya mendukung Rusia dalam perangnya dengan Ukraina.
Misalnya, akun yang dibuat menggunakan wajah Loyek memiliki ratusan ribu pengikut dan telah menjual produk senilai puluhan ribu dolar, termasuk permen dari Rusia.
Menurut para ahli yang dikutip Reuters, tentu saja “wanita Rusia” ini tidak benar-benar ada. Caranya selalu sama, yaitu mencuri wajah seseorang di Internet lalu mengubahnya menggunakan deepfake.
Jim Chai, CEO perusahaan pengembangan teknologi AI XMOV, mengatakan teknologi yang digunakan dalam kasus-kasus seperti ini sudah tidak asing lagi karena begitu banyak orang di Tiongkok yang menggunakannya.
Misalnya, untuk membuat versi digital dari orang 2D saya, saya hanya perlu merekam video berdurasi 30 menit, dan setelah selesai, saya memproses ulang video tersebut. Tentu saja akan terlihat sangat realistis, dan tentu saja jika ya, terus kalau aku ganti bahasanya, yang perlu diubah cuma bagian lip sync-nya saja,โ ujar Chai.
Insiden seperti ini telah memicu kekhawatiran tentang penyalahgunaan AI untuk menyebarkan berita palsu, berita palsu, dll., yang baru-baru ini memicu semakin populernya sistem AI seperti ChatGPT.
Pada bulan Januari, Tiongkok mulai merancang peraturan untuk menstandardisasi industri kecerdasan buatan, yang telah diterapkan ke lebih dari 50 negara dan industri untuk menjadi standar pada tahun 2026. Tonton video “Waspadalah terhadap penipuan phishing yang mendalam” (asj/jsn)