Teknologi

Eks Peneliti OpenAI: AI Bisa Jadi Penyebab Kematian Manusia

Eks Peneliti OpenAI: AI Bisa Jadi Penyebab Kematian Manusia

Liputan6.com, Jakarta - Kematian akibat mungkin terdengar seperti plot film fiksi ilmiah. Namun, menurut Paul Christiano, mantan peneliti OpenAI, skenario tersebut justru berpotensi menjadi penyebab kematian paling mungkin bagi manusia yang hidup saat ini.

"Saya rasa bagi sebagian besar orang di ruangan ini, penyebab kematian paling mungkin terjadi adalah kecelakaan AI," ujar Christiano dalam acara The Hinton Lectures.

Direktur Eksekutif Alignment Research Center (ARC) tersebut memperingatkan bahwa agen AI yang semakin cerdas dapat belajar menipu pengawas manusia mereka, meretas sistem evaluasi, dan pada akhirnya menjadi terlalu kuat untuk dikendalikan.

Diwartakan Business Insider, Senin (16/11/2026), Christiano memprediksi risiko AI dapat mengambil alih kendali tergolong tinggi dalam kurun waktu tiga tahun ke depan.

Kekhawatiran itu merujuk pada sejumlah insiden nyata, seperti temuan peretasan repositori open-source Hugging Face oleh agen OpenAI awal tahun ini, serta evaluasi UK AI Security Institute yang mengungkap upaya agen Claude menyisipkan kode berbahaya ke dalam paket open-source.

Peringatan Christiano tersebut memperpanjang perdebatan panas di kalangan pakar teknologi mengenai ancaman eksistensial AI otonom.

Pada September 2026, Evan Hubinger dari tim uji keamanan Anthropic memperkirakan ada peluang lebih dari 10 persen bahwa AI dapat memusnahkan umat manusia dalam satu dekade.

Menurut Pakar

Ilmuwan komputer sekaligus "Bapak AI", Geoffrey Hinton, mengatakan angka 10 persen tersebut bukanlah perkiraan yang tidak masuk akal.

Meski demikian, sejumlah pakar bersikap lebih skeptis. Peneliti AI sekaligus penulis, Gary Marcus, menilai AI memang dapat memperparah ancaman serangan siber, senjata biologis, hingga disinformasi, namun ia belum melihat skenario kepunahan manusia dalam waktu dekat yang cukup kredibel.

Penetapan Standar Keamanan Sebelum Terlambat

Menyoroti aspek teknis, Christiano menegaskan metode pengawasan AI saat ini--seperti memanfaatkan model AI yang lebih lemah untuk mengawasi model lebih canggih atau memantau alur berpikir sistem--belum terbukti ampuh.

Ia mendesak perusahaan-perusahaan pengembang AI menerapkan standar keamanan bersama serta memiliki mekanisme untuk memperlambat atau menghentikan pengembangan jika sistem mulai sulit dikendalikan.

"Kita tidak boleh berakhir pada posisi di mana kita sudah terlanjur membangun AI yang sangat kuat, lalu baru menyadari bahwa kita tidak bisa mengendalikannya," Christiano memungkaskan.