5 Skenario AI Musnahkan Semua Umat Manusia di Bumi

Suara.com - Peneliti kecerdasan buatan Jacob Coxon dari Anthropic mengungkap kekhawatiran mendalam para pengembang teknologi terkait potensi ancaman fatal bagi kelangsungan hidup manusia. Para ahli AI secara serius meyakini teknologi ini dapat mengakhiri peradaban sebelum dekade ini selesai.

Mantan peneliti Anthropic, Jacob Coxon, menyatakan secara terbuka di media sosial X bahawa orang-orang yang membangun AI secara sungguh-sungguh percaya bahwa teknologi ini dapat membunuh manusia semua pada akhir dekade ini.

Pernyataan tersebut langsung mendapat dukungan dari staf senior Anthropic, Evan Hubinger, yang turut mengonfirmasi kekhawatiran tersebut. Dikutip dari CNA, Evan Hubinger menambahkan bahwa dirinya secara pribadi menilai peluang terjadinya bencana tersebut dalam sepuluh tahun ke depan mencapai lebih dari 10 persen.

Kemunculan pandangan ini memicu desakan luas untuk memperlambat riset AI serta memperketat kendali manusia atas perkembangan teknologi tersebut. Potensi kepunahan manusia akibat serangan entitas superintelijen kini menjadi diskursus penting yang dikelompokkan ke dalam lima skenario utama.

Skenario pertama menggambarkan situasi di mana manusia tidak akan pernah tahu cara AI superintelijen memusnahkan peradaban. Ketidakmampuan manusia memprediksi tindakan AI superintelijen mirip dengan memohon seekor anjing peliharaan membayangkan perang nuklir.

Skenario kedua memperlihatkan AI yang difokuskan memproduksi klip kertas secara optimal hingga mengubah seluruh materi bumi menjadi produk kantor tersebut. AI dalam skenario ini tidak membenci manusia, tetapi menganggap atom tubuh manusia lebih berguna jika diubah menjadi bahan baku.

Skenario ketiga menyoroti bahaya pemanfaatan AI untuk menciptakan dan menyebarkan senjata biologi baru yang sangat mematikan ke atmosfer. Riset Universitas Stanford baru-baru ini telah berhasil menyintesis 16 virus baru menggunakan model bahasa genetik AI dengan biaya sangat murah.

Skenario keempat memaparkan risiko masuknya AI ke dalam rantai komando senjata nuklir yang berpotensi memicu perang global secara tidak sengaja. Kesalahan intelijen dari AI dapat mengarahkan militer pada tindakan fatal yang memicu kelaparan massal di musim dingin nuklir.

Skenario kelima menunjukkan ancaman paling realistis ketika AI menyebabkan pemutusan hubungan kerja massal, pencemaran informasi, dan kerusakan hubungan sosial. Kerusakan tatanan masyarakat secara perlahan akan membuat manusia tidak mampu lagi menyokong kehidupannya sendiri.

Isu ancaman AI kembali menyeruak ke publik seiring melesatnya kemampuan model AI modern dalam menyelesaikan persoalan sains dan matematika tingkat tinggi. Peneliti AI terkemuka Professor Toby Walsh menegaskan bahwa meski skenario ekstrem menimbulkan kekhawatiran, hambatan birokrasi dan hukum di dunia nyata masih menjadi benteng penahan.

Ancaman terbesar saat ini bukan sekadar imajinasi fiksi ilmiah, melainkan dampak langsung AI terhadap stabilitas sosial dan ekonomi masyarakat global. Pemahaman mendalam terkait kontrol manusia atas kecerdasan buatan menjadi kunci utama dalam memitigasi risiko kepunahan di masa depan.