Jakarta –
Ilmuwan komputer dan pionir kecerdasan buatan (AI) Joshua Bengio telah memperingatkan bahaya AI di masyarakat dan mendesak agar risiko-risiko tersebut dimitigasi. Bengio, seorang profesor di Universitas Montreal, telah memenangkan beberapa penghargaan atas karyanya di bidang AI dan pembelajaran mendalam.
Ia khawatir ada orang berkuasa yang ingin menggantikan manusia dengan mesin. Mesin ini mampu melakukan banyak kemampuan kognitif manusia. Teknologi AGI (Artificial Intelligence) bertujuan untuk menyamai atau melampaui kecerdasan manusia.
Intelijen memberikan kekuasaan. Jadi siapa yang dapat mengendalikan kekuasaan tersebut? Memiliki sistem yang mengetahui lebih banyak dari kebanyakan orang dapat berbahaya jika berada di tangan yang salah dan menciptakan lebih banyak ketidakstabilan pada tingkat geopolitik, seperti terorisme.
Menurutnya, beberapa organisasi dan pemerintah dapat mendanai pengembangan mesin AI yang kuat, dan semakin besar sistemnya, maka akan semakin pintar pula sistem tersebut. “Mesin-mesin itu menghabiskan biaya miliaran dan sangat sedikit organisasi dan negara yang mampu melakukannya,” kata Bengio di CNBC, menurut detikINET.
“Ini akan menjadi konsentrasi kekuasaan, kekuatan ekonomi yang dapat berdampak buruk bagi pasar, kekuatan politik yang dapat berdampak buruk bagi demokrasi, dan kekuatan militer yang dapat berdampak buruk bagi stabilitas geopolitik planet ini. Jadi, terdapat banyak pertanyaan terbuka. Kami akan “mempelajarinya dengan cermat dan mulai menyelesaikannya sesegera mungkin.”
Peristiwa tersebut bisa disaksikan dalam beberapa dekade mendatang, namun tidak menutup kemungkinan akan terjadi dalam waktu dekat. “Ada juga yang menentang dan ada orang yang senang ketika manusia digantikan oleh mesin. Orang-orang ini punya banyak energi dan mereka hanya bisa melakukan itu jika kita memasang penghalang yang tepat sekarang,” ujarnya.
Bengio menerima surat terbuka pada bulan Juni berjudul ‘Hak untuk Memperingatkan Kecerdasan Buatan Tingkat Lanjut’. Surat peringatan mengenai risiko serius terhadap pengembangan AI. “Hal pertama yang perlu dilakukan pemerintah adalah membuat peraturan yang memaksa perusahaan untuk mendaftar ketika mereka membangun sistem pengujian ini,” kata Bengio.
Karena AI berkembang begitu pesat, pemerintah harus lebih kreatif dan membuat undang-undang yang dapat beradaptasi dengan perubahan teknologi. Perusahaan yang mengembangkan AI harus bertanggung jawab atas tindakannya, termasuk mengambil tindakan jika timbul masalah. Tonton videonya: Fisikawan Peraih Nobel Kekhawatiran Hasil Penelitiannya (fyk/fay)