Pakar tentera memanggil jenis senjata autonomi atau sistem senjata autonomi (AWS) yang melakukan semuanya sendiri: mereka menemui sasaran dan menyelesaikan tugas tanpa campur tangan manusia. Salah satu yang paling terkenal, setakat ini hanya dalam filem fiksyen ilmiah dan buku AWS, adalah apa yang disebut "robot pembunuh".
Elon Musk dan lebih dari seratus pakar robotik lain menulis tentang ancaman mematikan robot pembunuh dalam surat amaran terbuka kepada PBB. Musk, Mustafa Suleiman, pencipta syarikat AI DeepMind Technologies, yang kini dimiliki oleh Google, dan 114 pakar dari 26 negara memberi amaran kepada PBB bahawa perlumbaan senjata di AWS dapat membuka kotak Pandora, yang boleh menyebabkan tidak dapat diramalkan dan sangat bahaya besar kepada umat manusia. Mereka menuntut larangan pengembangan dan pelaksanaan sistem senjata otonom.
Semua penandatangan berpengalaman dalam masalah ini kerana mereka bekerja di bidang kecerdasan buatan (AI). Mereka yakin bahawa pengenalan robot pembunuh ke dalam tentera negara-negara maju akan mempunyai kepentingan yang sama untuk urusan ketenteraan dengan penemuan senjata mesiu dan senjata nuklear, yang mereka sebut sebagai revolusi pertama dan kedua dalam urusan ketenteraan. AWS, mereka percaya, akan menjadi revolusi ketiga.
"Setelah dibawa ke tahap tinggi, sistem senjata autonomi akan membawa konflik ketenteraan ke tahap yang tidak pernah dilihat manusia sebelum ini," kata surat kolektif itu. - Lebih-lebih lagi, ia akan berlaku dengan pantas. AWS boleh menjadi senjata keganasan, senjata yang akan digunakan oleh orang-orang yang diperkotak-katikkan dan pengganas terhadap orang awam …"
Pengarang surat itu memberi amaran tentang senjata hipotetis yang masih boleh memusnahkan orang tanpa campur tangan manusia. Hari sudah dekat di mana ia akan menjadi kenyataan yang keras dari kategori fiksyen dan akan memaksa kita untuk mencari jawapan kepada banyak persoalan sukar, mulai dari pengurusan sistem yang selamat hingga masalah moral dan etika yang disebabkan oleh kekejaman dan ketidaktentuan "besi" mesin yang mematikan.
Musk, dengan penyokong yang berkongsi pendiriannya mengenai bahaya AWS kepada umat manusia, menekankan bahawa tidak ada masa untuk renungan dan perbincangan dan perlu bertindak segera. "Kita punya sedikit waktu," tulis mereka di PBB. "Setelah kotak Pandora dibuka, sangat sukar untuk menutupnya."
Masa untuk menulis surat terbuka tidak dipilih secara kebetulan. Pakar ingin bertepatan dengan permulaan Persidangan Antarabangsa mengenai Kecerdasan Buatan (IJCAI) di Melbourne. Ia sepatutnya dibuka pada hari Isnin 21 Ogos, tetapi PBB memutuskan untuk menangguhkannya hingga November.
Pada akhir surat terbuka, Elon Musk dan rakan-rakannya meminta PBB untuk menggandakan usahanya untuk membuat strategi menjelang November untuk melindungi planet ini dari robot pembunuh.
Sebelumnya, Musk sendiri memperingatkan tentang bahaya pekerjaan pada kecerdasan buatan, kerana sistem yang berdasarkannya dapat keluar dari kawalan manusia. Pada masa yang sama, kereta dengan motor elektrik Tesla sudah memandu di jalan raya Amerika Syarikat dalam mod tanpa pemandu, yang bukan tanpa insiden.
