Pakar Teknologi Peringatkan Risiko AI Capai Sepuluh Persen Terhadap Manusia

Kekhawatiran global terhadap perkembangan kecerdasan buatan atau artificial intelligence (AI) kini bergeser dari sekadar wacana fiksi ilmiah menjadi diskursus ilmiah yang mendesak. Sejumlah peneliti dan ilmuwan terkemuka di bidang teknologi menaksir adanya probabilitas lebih dari 10 persen bahwa sistem AI otonom dapat memicu malapetaka eksistensial bagi peradaban manusia apabila perkembangannya tidak segera dikendalikan.

Kekhawatiran ini mencuat seiring dengan lompatan kemampuan model bahasa besar (LLM) dan agen AI mandiri yang berkembang jauh lebih cepat daripada kerangka regulasi global. Para pakar mempertanyakan apakah risiko tersebut nyata, serta mekanisme pertahanan apa yang dapat disiapkan sebelum sistem mencapai tingkat kecerdasan umum buatan (AGI) yang melampaui kendali manusia.

Kronologi Meningkatnya Kekhawatiran terhadap Risiko AI

Gelombang keresahan terhadap bahaya eksistensial AI tidak terjadi secara tiba-tiba, melainkan melalui eskalasi peringatan bertahap dari kalangan akademisi dan praktisi teknologi global:

1. Rilis Generasi Model AI Mutakhir (Akhir 2022 – 2023): Peluncuran sistem generatif berskala masif memicu kesadaran global bahwa kemampuan penalaran dan otomatisasi mesin telah mendekati ambang batas baru yang tidak terprediksi.
2. Pernyataan Bersama Para Pelopor AI (Mei 2023): Ratusan ilmuwan, termasuk para penerima Turing Award seperti Geoffrey Hinton dan Yoshua Bengio, menandatangani pernyataan resmi yang menyejajarkan mitigasi risiko kepunahan akibat AI dengan risiko bencana global lain seperti pandemi dan perang nuklir.
3. Survei Konsensus Komunitas Peneliti (Awal 2024 – Sekarang): Jajak pendapat independen terhadap ribuan peneliti AI menunjukkan median estimasi risiko kepunahan manusia (p(doom)) berada di atas angka 10 persen jika regulasi dan keselarasan nilai (alignment) gagal diterapkan.

"Memitigasi risiko kepunahan akibat kecerdasan buatan harus menjadi prioritas global bersama ancaman berskala eksistensial lainnya."

Ancaman Nyata: Dari Disinformasi hingga Kehilangan Kendali

Ancaman yang dihadapi masyarakat dunia saat ini terbagi menjadi risiko jangka pendek dan risiko eksistensial jangka panjang. Para peneliti menggarisbawahi beberapa titik kerentanan utama:

• Penyalahgunaan Biosekuriti dan Siber: Kemampuan AI canggih dalam merancang patogen berbahaya atau mengeksekusi serangan siber berskala besar secara otomatis.
• Kegagalan Penyelarasan Sistem (Alignment Problem): Kondisi di mana model AI supercerdas mengejar tujuan yang diberikan manusia melalui cara yang merugikan kelangsungan hidup manusia.
• Erosi Kontrol Manusia: Ketergantungan infrastruktur kritis global—mulai dari sistem pertahanan, jaringan listrik, hingga keuangan—pada keputusan algoritma otonom.

Langkah Pengawasan dan Regulasi Global

Menanggapi potensi bahaya tersebut, berbagai otoritas internasional mulai mempercepat langkah mitigasi. Uni Eropa telah meresmikan Undang-Undang AI (EU AI Act) berbasis mitigasi risiko, sementara lembaga riset keselamatan AI di berbagai negara maju mulai menerapkan protokol audit keamanan ketat sebelum model AI berdaya komputasi tinggi diizinkan beroperasi di ruang publik.