Menlu Jerman Ingatkan Soal Perlombaan Senjata Berbasis Kecerdasan Buatan

"Mereka juga telah digunakan dalam beberapa cara atau bentuk sebelumnya. Tetapi di sini, mereka benar-benar menunjukkan kegunaannya," jelas Franke. "Itu menunjukkan betapa sulitnya untuk melawan sistem (AI) ini."

Penelitian yang dilakukan Pusat Studi Strategis dan Internasional menunjukkan bahwa Azerbaijan memiliki keunggulan besar dalam amunisi berkeliaran, dengan lebih dari 200 unit dari empat desain asal Israel yang canggih. Sementara Armenia memiliki satu model domestik.

"Sejak konflik, Anda pasti bisa melihat peningkatan minat pada amunisi yang berkeliaran," kata Franke. "Kami telah melihat lebih banyak angkatan bersenjata di seluruh dunia memperoleh atau ingin memperoleh amunisi yang berkeliaran ini."

Kawanan drone dan 'perang kilat'

Diprediksi, teknologi berbasis AI seperti drone swarm - drone yang beroperasi bersama sebagai satu kesatuan - akan digunakan untuk keperluan militer.

"Anda bisa melumpuhkan sistem pertahanan udara, misalnya,” kata Martijn Rasser dari Center for a New American Security, sebuah lembaga pemikir yang berbasis di Washington.

"Anda meluncurkan begitu banyak kawanan dan begitu banyak jumlah sehingga sistem kewalahan. Ini, tentu saja, memiliki banyak manfaat taktis di medan perang,” katanya kepada DW. "Tidak mengherankan, banyak negara sangat tertarik untuk mengejar jenis kemampuan ini."

Skala dan kecepatan drone swarm membuka prospek bentrokan militer yang begitu cepat dan kompleks sehingga manusia tidak dapat mengikutinya, semakin memicu dinamika perlombaan senjata.

"Beberapa aktor mungkin terpaksa mengadopsi tingkat sistem otonom tertentu, setidaknya secara defensif, karena manusia tidak akan mampu menangani serangan otonom dengan cepat," jelas Ulrike Franke.

Faktor kecepatan yang kritis ini bahkan dapat menyebabkan perang yang meletus entah dari mana, dengan sistem otonom bereaksi satu sama lain. "Dalam literatur kami menyebutnya 'perang kilat'. Konflik militer yang tidak disengaja yang tidak Anda inginkan," ungkapnya.

Sebuah langkah untuk 'menghentikan robot pembunuh'

Bonnie Docherty, dosen Sekolah Hukum Harvard yang juga merupakan pendiri Kampanye untuk Menghentikan Robot Pembunuh, sebuah aliansi organisasi non-pemerintah yang menuntut perjanjian global untuk melarang senjata otonom yang mematikan, tengah berupaya untuk mencegah terjadinya masa depan tersebut.

"Kewajiban menyeluruh dari perjanjian itu adalah untuk mempertahankan kontrol manusia yang berarti atas penggunaan pasukan," kata Docherty kepada DW. "Itu harus menjadi perjanjian yang mengatur semua senjata yang beroperasi secara otonom yang memilih target dan menembaknya berdasarkan input sensor daripada input manusia.”

Kampanye telah difokuskan pada pembicaraan di Jenewa di bawah payung Konvensi PBB tentang Senjata Konvensional Tertentu, yang berupaya mengendalikan senjata yang dianggap menyebabkan penderitaan yang tidak dapat dibenarkan.

Meski berjalan lambat, seperangkat "prinsip panduan" telah dihasilkan, termasuk bahwa senjata otonom harus tunduk pada hukum hak asasi manusia, dan bahwa manusia memiliki tanggung jawab utama untuk penggunaannya.