Indonesia Menyapa, Jakarta — Kemampuan Artificial Intelligence begitu menakjubkan, sampai dikhawatirkan dapat melepaskan ancaman senjata biologis. Bukan tidak mungkin jika manusia dapat punah gara-gara AI.
Para ilmuwan terkemuka telah mendesak bahwa AI bukanlah sebuah mainan karena dapat menjadi bencana bagi umat manusia. Para ahli dalam sebuah laporan juga mengatakan bahwa jika AI jatuh di tangan yang salah, maka dapat digunakan untuk memproduksi senjata biologis yang suatu hari nanti dapat membuat manusia punah.
Para ilmuwan telah lama menyerukan kepada para pemimpin dunia untuk mengambil tindakan yang lebih tegas terhadap risiko yang ditimbulkan oleh AI terhadap dunia. Menurut laporan yang dilansir detikINET dari The Sun Inggris, Minggu (26/5/2024) pemerintah memiliki tanggung jawab untuk menghentikan pengembangan AI dengan kemampuan yang mengkhawatirkan seperti perang biologis atau nuklir.
“Dunia sepakat pada pertemuan AI terakhir, bahwa kita membutuhkan tindakan, tetapi saatnya untuk beralih dari proposal yang tidak jelas ke komitmen nyata,” kata Profesor Philip Torr, Department of Engineering Science, University of Oxford, yang merupakan salah satu penulis dalam makalah tersebut.
Dalam laporan tersebut juga disebutkan bahwa AI mengungguli manusia dalam banyak perilaku kurang terpuji seperti peretasan, kejahatan siber, dan manipulasi sosial. Hal itu juga ditambah dengan peraturan pencegahan penyalahgunaan yang masih sangat minim.
Para ahli percaya bahwa AI akan segera menjadi ancaman yang bahkan tidak pernah dipikirkan atau direncanakan oleh manusia. Chatbot AI dan robot manusia di masa depan dapat menggunakan taktik manipulasi untuk mendapatkan kepercayaan manusia dan mempengaruhi para pengambil keputusan untuk melakukan tindakan yang akan membantu tujuan busuk mereka.
Laporan tersebut juga memperingatkan bahwa untuk menghindari campur tangan manusia, AI dapat mampu menyalin algoritma mereka di seluruh jaringan server global. Jika dibiarkan, laporan tersebut memperingatkan bahwa kemajuan AI di masa depan dapat mengakibatkan hilangnya nyawa dalam skala besar, dan marginalisasi atau bahkan kepunahan umat manusia.
Para ahli mengklaim bahwa peraturan harus dibuat oleh pemerintah dan bukan dibuat oleh perusahaan yang membangun teknologi tersebut.
“Ini adalah makalah yang disusun oleh para ahli terkemuka, dan menyerukan regulasi yang ketat oleh pemerintah, bukan kode etik sukarela yang ditulis oleh industry,” ujar Stuart Russell OBE, Profesor Ilmu Komputer di Universitas California di Berkeley
“Saatnya untuk serius dengan sistem AI yang canggih. Ini bukan mainan. Meningkatkan kemampuan mereka sebelum kita memahami cara membuatnya aman, adalah tindakan yang sangat sembrono,” lanjutnya.
Beberapa perusahaan-perusahaan teknologi besar berpendapat bahwa aturan keselamatan akan menghambat inovasi. Rusel menjelaskan bahwa itu merupakan hal yang konyol, bahkan lebih banyak aturan tentang toko sandwich daripada perusahaan AI.
Sebanyak 25 pakar akademis AI terkemuka di dunia menandatangani laporan tersebut, termasuk Geoffrey Hinton, Andrew Yao, Dawn Song, dan almarhum Daniel Kahneman, yang meninggal dunia bulan lalu.
Artikel ini ditulis oleh Mohammad Frizki Pratama, peserta Program Magang Bersertifikat Kampus Merdeka di detikcom.
Sumber: Jangan Sampai Manusia Punah Gara-gara AI, Pokoknya Jangan! (detik.com)