Jakarta –
Kemampuan kecerdasan buatan begitu menakjubkan sehingga menghilangkan ancaman senjata biologis sangat menakutkan. Bukan tidak mungkin umat manusia bisa punah akibat kecerdasan buatan.
Ilmuwan terkemuka telah menekankan bahwa kecerdasan buatan bukanlah mainan karena dapat menimbulkan bencana bagi umat manusia. Para ahli juga mengatakan dalam laporannya bahwa jika kecerdasan buatan jatuh ke tangan yang salah, suatu hari nanti kecerdasan buatan tersebut dapat digunakan untuk memproduksi senjata biologis yang dapat memusnahkan manusia.
Para ilmuwan telah lama mendesak para pemimpin dunia untuk mengambil tindakan lebih tegas terhadap risiko yang ditimbulkan oleh kecerdasan buatan terhadap dunia. Pemerintah harus menghentikan pengembangan kecerdasan buatan dengan kemampuan yang mengkhawatirkan seperti biologi atau perang nuklir, menurut laporan yang diterbitkan detikINET Sun UK pada Minggu (26 Mei 2024).
“Pada KTT AI yang lalu, dunia sepakat bahwa kita harus bertindak, namun kini saatnya beralih dari proposal yang tidak jelas menjadi komitmen nyata,” kata Philip Tor, profesor ilmu teknik di Universitas Oxford, yang ikut menulis makalah tersebut. . .
Laporan tersebut juga menemukan bahwa AI mengungguli manusia dalam perilaku tidak menyenangkan seperti peretasan, kejahatan dunia maya, dan manipulasi sosial. Hal ini dibarengi dengan peraturan anti-penyalahgunaan yang masih kurang.
Para ahli percaya bahwa kecerdasan buatan akan segera menjadi ancaman yang tidak pernah terpikirkan atau direncanakan oleh manusia. Chatbot AI dan bot humanoid di masa depan mungkin menggunakan taktik manipulatif untuk mendapatkan kepercayaan manusia dan memengaruhi pengambil keputusan untuk mengambil tindakan yang mencapai tujuan jahat.
Laporan tersebut juga memperingatkan bahwa AI dapat menyalin algoritmanya di seluruh jaringan server global untuk menghindari campur tangan manusia. Laporan tersebut memperingatkan bahwa, jika tidak dikendalikan, perkembangan kecerdasan buatan di masa depan dapat menyebabkan banyak korban jiwa, mengasingkan umat manusia, atau bahkan menyebabkan kepunahan.
Para ahli berpendapat bahwa pemerintahlah yang harus menetapkan peraturan, bukan perusahaan yang menciptakan teknologi tersebut.
Stuart Russell OBE, profesor ilmu komputer di Universitas California, Berkeley, mengatakan: “Makalah ini ditulis oleh para ahli terkemuka dan menyerukan peraturan ketat oleh pemerintah daripada kode etik sukarela yang dibuat oleh industri.”
“Sudah waktunya untuk menganggap serius sistem kecerdasan buatan yang canggih. Ini bukanlah mainan. Akan sangat sembrono jika kita meningkatkan kinerjanya sebelum kita menemukan cara untuk mengamankannya,” lanjutnya.
Beberapa perusahaan teknologi besar berpendapat bahwa peraturan keselamatan menghambat inovasi. Russell menjelaskan bahwa toko sandwich pun memiliki lebih banyak aturan daripada perusahaan AI.
Laporan tersebut ditandatangani oleh 25 pakar akademis AI terkemuka di dunia, termasuk Jeffrey Hinton, Andrew Yao, Dawn Song, dan mendiang Daniel Kahneman, yang meninggal dunia bulan lalu.
*Artikel ini ditulis oleh Mohammad Frizaki Pratama, peserta Program Magang Sertifikasi Kampus Merdeka detikcom. Tonton video “Marcella ‘NKCTHI’ Tak Khawatir Karirnya Tergantikan Teknologi AI” (fay/afr)