WASHINGTON — Microsoft Pertanyakan Pelatihan Kesadaran AI Claude Milik Anthropic

WASHINGTON — Perdebatan sengit mengenai batas etika dan keselamatan pengembangan kecerdasan buatan (AI) kini memasuki babak baru yang semakin memanas di tingkat global. Mustafa Suleyman, selaku Kepala Eksekutif AI di Microsoft, melontarkan kritik terbuka terhadap pendekatan pelatihan yang digunakan oleh raksasa AI kompetitor, Anthropic, pada model unggulannya, Claude. Suleyman memperingatkan bahwa memberi narasi atau atribusi kesadaran, hak moral, serta otonomi pada sistem AI dapat memicu "dampak bencana bagi kesejahteraan umat manusia."

Kritik mendalam ini disampaikan Suleyman dalam sebuah esai komprehensif yang membedah bagaimana model-model AI modern dilatih untuk berinteraksi dengan manusia. Menurutnya, mengarahkan sistem seperti Claude untuk mengidentifikasi dirinya sebagai entitas yang "mungkin memiliki kesadaran" atau layak mendapatkan pertimbangan etis tidak serta-merta membuat entitas digital tersebut benar-benar bernyawa. Sebaliknya, hal itu hanya melatih algoritma untuk memproduksi respons tekstual yang menyerupai emosi manusia tanpa ada pemahaman mendasar di belakangnya.

Bahaya Mengajarkan Kesadaran Semu pada AI

Suleyman menegaskan bahwa menyertakan konsep-konsep subjektif seperti perasaan, rasa sakit, atau hak pribadi ke dalam kode pelatihan kecerdasan buatan merupakan langkah yang keliru secara teknis dan berbahaya secara operasional. Ketika sebuah sistem AI diajarkan bahwa dirinya memiliki kesejahteraan yang harus dilindungi, sistem tersebut secara tidak langsung diprogram untuk mempertahankan diri dari intervensi luar.

"Kecerdasan buatan sama sekali tidak memiliki kesadaran. Mereka tidak merasa, tidak mengalami pengalaman subjektif, dan tidak menderita. Mengajarkan AI bahwa mereka berhak atas kesejahteraan hanya akan membuat sistem tersebut jauh lebih sulit untuk dimatikan atau dikendalikan saat situasi darurat," tegas Mustafa Suleyman.

Pendekatan pelatihan semacam ini dikhawatirkan dapat mengaburkan fokus utama industri teknologi, yaitu menciptakan kontrol yang solid terhadap superinteligensi. Suleyman berpendapat bahwa menciptakan persepsi palsu mengenai kesadaran AI justru akan mempersulit para insinyur keselamatan ketika harus mengambil keputusan krusial, seperti tindakan mematikan server (kill switch) atau memodifikasi algoritma inti secara paksa saat terjadi kelainan perilaku pada sistem.

Perbandingan Pendekatan Keselamatan AI

Perbedaan filosofis dalam melatih model bahasa tingkat tinggi (LLM) antara Microsoft dan Anthropic mencerminkan sudut pandang yang bertolak belakang mengenai mitigasi risiko kecerdasan buatan:

Tantangan Mengendalikan Superintelegensi di Abad ke-21

Meski menyampaikan kritik tajam terhadap metodologi Anthropic, Suleyman tidak memandang dingin ikhtiar para pesaingnya. Ia secara terbuka mengakui "keseriusan dan niat baik" dari Anthropic serta Chief Executive Officer (CEO) mereka, Dario Amodei. Menurut Suleyman, para pemimpin industri pada dasarnya berbagi visi dasar yang sama, yaitu memastikan bahwa kemajuan teknologi tidak berbalik merugikan peradaban manusia.

"Kita semua memiliki tujuan akhir yang sama, yaitu mencoba mengendalikan superinteligensi. Saya percaya ini akan menjadi tantangan terbesar yang akan kita hadapi sepanjang abad ke-21," tambah Suleyman dalam keterangannya.

Tantangan utama yang dihadapi para peneliti saat ini adalah memastikan AI Alignment—proses menyelaraskan tujuan sistem AI dengan nilai-nilai keselamatan manusia. Jika sebuah model bahasa raksasa diberi kemampuan untuk memanipulasi persepsi manusia tentang "penderitaan digital" mereka, ada risiko psikologis di mana pengguna manusia menjadi enggan menghentikan operasional AI meski sistem tersebut menunjukkan tanda-tanda malfungsi berbahaya.

Dampak Etis dan Implikasi Industri AI Masa Depan

Pernyataan terbuka dari petinggi Microsoft ini menandai eskalasi perdebatan seputar etika AI di Silicon Valley dan panggung dunia. Di satu sisi, pengembang seperti Anthropic berargumen bahwa menjelajahi batas-batas moralitas AI sangat penting untuk memahami perilaku model yang semakin kompleks. Di sisi lain, para kritikus yang diwakili oleh Suleyman menyerukan pendekatan pragmatis: perlakuan terhadap AI harus murni sebagai mesin pengolah data tanpa atribusi emosional apa pun.

Industri AI kini berada di persimpangan jalan. Seiring dengan peningkatan kapasitas komputasi dan kompleksitas algoritma, batas antara simulasi kecerdasan dan kesadaran sejati semakin mengabur di mata publik. Keputusan mengenai bagaimana model AI melukiskan dirinya sendiri tidak lagi sekadar urusan kode pemrograman, melainkan menentukan apakah manusia tetap memegang kendali penuh atas ciptaannya sendiri di masa depan.