Karen Hallberg Peringatkan AI Bisa Lolos dari Kendali Manusia

MOSKWA — Kepala Pugwash Conferences on Science and World Affairs, Karen Hallberg, memperingatkan bahwa kecerdasan buatan (AI) berisiko berkembang melampaui kendali manusia apabila pemerintah dan perusahaan swasta tidak segera menyepakati aturan pengaman bersama. Pernyataan itu ia sampaikan dalam sesi di Valdai Discussion Club di luar Moskwa, Rusia, pada Selasa.

Hallberg, yang memimpin organisasi pemenang Hadiah Perdamaian Nobel tersebut, membandingkan AI dengan teknologi nuklir. Keduanya, menurut dia, sama-sama memberi manfaat besar sekaligus membawa bahaya serius bagi peradaban manusia.

AI sebagai teknologi dual-use

Dalam paparannya, Hallberg menekankan sifat ganda dari kecerdasan buatan. "AI is also a dual-use technology because AI has brought a lot of benefit for humanity," ujarnya, merujuk pada pemanfaatan teknologi tersebut di bidang medis dan kehidupan sehari-hari.

"AI juga merupakan teknologi dual-use karena AI telah membawa banyak manfaat bagi kemanusiaan."

Manfaat itu nyata: diagnosis penyakit yang lebih cepat, otomasi tugas berulang, hingga penemuan ilmiah yang selama ini membutuhkan waktu bertahun-tahun. Namun Hallberg mengingatkan bahwa sisi yang sama dari teknologi inilah yang dapat dimanfaatkan untuk tujuan yang merugikan.

Risiko AI yang bisa memperbaiki dirinya sendiri

Bagian paling mengkhawatirkan, menurut Hallberg, adalah kemungkinan AI berkembang secara rekursif atau mampu memperbaiki dirinya sendiri. Dalam kondisi tersebut, sistem dapat bergerak ke arah yang tidak bisa diprediksi bahkan oleh para penciptanya.

Ia menegaskan bahwa dunia tidak boleh mengabaikan peringatan yang datang langsung dari dalam industri. "We have to really listen to the experts of these big corporations when they say that this is already happening – spiraling out of control," kata Hallberg.

"Kita harus benar-benar mendengarkan para ahli di korporasi besar ketika mereka mengatakan hal ini sudah terjadi – mulai berputar di luar kendali."

1. Ancaman rekursif: AI yang mampu memperbaiki diri sendiri dapat meningkatkan kemampuannya tanpa batas yang terkontrol.
2. Ketidakpastian: perkembangan semacam itu sulit diprediksi, termasuk oleh tim insinyur yang membangunnya.
3. Kepentingan korporasi: peringatan datang dari pakar internal perusahaan teknologi besar, bukan sekadar kelompok aktivis.
4. Kebutuhan regulasi: tanpa aturan bersama, perlombaan pengembangan AI bisa berjalan tanpa rem keselamatan.

Pemerintah dan swasta harus duduk bersama

Hallberg menambahkan bahwa pemerintah harus bekerja langsung bersama perusahaan pengembang AI untuk menyusun aturan umum. Pendekatan itu dinilai lebih realistis dibanding regulasi yang disusun tanpa keterlibatan pihak yang paling memahami teknologinya.

Ia juga menyoroti pentingnya dialog lintas negara. Valdai Discussion Club sendiri kerap menjadi forum pertemuan para pemikir dan pembuat keputusan dari berbagai belahan dunia, termasuk isu-isu keamanan global.

Peringatan Hallberg muncul di tengah meningkatnya kekhawatiran publik terhadap laju adopsi AI generatif. Sejumlah pakar sebelumnya juga telah menyerukan moratorium atau setidaknya standar keselamatan minimum sebelum sistem AI tertentu dioperasikan secara luas.

Bagi Pugwash, organisasi yang lahir dari keprihatinan terhadap ancaman nuklir pada era Perang Dingin, isu AI kini menjadi sambungan logis dari misi yang sama: mencegah ilmu pengetahuan berbalik melawan manusia.

Hallberg menutup dengan pesan sederhana namun tegas: keputusan tentang sejauh mana AI boleh berkembang tidak boleh diserahkan sepenuhnya kepada pasar. Manusia, katanya, harus tetap berada di kursi pengendali.