Jakarta –
OpenAI telah mengkonfirmasi perkembangan teknologi yang dapat mengenali karakter yang dibuat oleh ChatGPT. Siswa sering berkonsultasi dengan ChatGPT agar pekerjaan rumahnya siap untuk ditangkap.
Keberadaan alat analisis ini pertama kali dilaporkan oleh Wall Street Journal. Dalam keterangan resminya, OpenAI telah mengonfirmasi laporan mengenai alat yang bekerja dengan menambahkan tanda air pada dokumen yang dihasilkan oleh ChatGPT.
Namun, OpenAI masih mempertimbangkan alat ini sebagai sumber terbuka. Perusahaan yang didirikan oleh Sam Altman ini mengambil pendekatan hati-hati karena alat ini dapat memberikan dampak besar pada keseluruhan ekosistem AI.
“Metode pengkodean warna yang kami kembangkan secara teknis menjanjikan, namun memiliki risiko serius sehingga kami mempertimbangkan metode lain,” ujar OpenAI dalam keterangan resminya, seperti dilansir TechCrunch, Senin (5/8/2024).
OpenAI mengklaim bahwa teknologi ini dikembangkan khusus untuk skrip ChatGPT, bukan untuk model AI lainnya. Metode ini bekerja dengan membuat perubahan kecil pada cara ChatGPT memilih kata, membuat tanda air tak terlihat di dalam teks yang dapat dikenali oleh alat lain.
OpenAI juga memperbarui blognya tentang penelitian yang mereka lakukan untuk menemukan konten bertenaga AI. Mereka menyatakan bahwa metode klasifikasi terbukti akurat dan efektif dalam menentukan tatanan internal, seperti pemeliharaan.
Namun cara ini tidak efektif untuk mendeteksi kesalahan yang serius, seperti penggunaan terjemahan, penggantian kata dengan model AI lain, atau meminta model AI untuk menambahkan karakter khusus di antara setiap kata dan menghapus karakter tersebut.
Oleh karena itu, cara ini sering kali diadopsi oleh pelaku kejahatan. Selain itu, penggunaan watermark juga menimbulkan diskriminasi dalam penggunaan AI sebagai alat yang berguna bagi pengguna yang tidak berbahasa Inggris.
OpenAI masih mempertimbangkan serangkaian risiko ini sebelum memulai prosesnya. Mereka saat ini memperkenalkan alat yang dapat memverifikasi keaslian konten audio dan visual. Tonton video “Microsoft akui tidak memiliki OpenAI” (vmp/vmp)