Munculnya kecerdasan buatan dalam peperangan modern tidak lagi bersifat teoritis. Sebagaimana dirinci dalam Project Maven karya Katrina Manson, operasi militer berbasis AI sudah berlangsung, dan negara-negara seperti Israel, Amerika Serikat, dan Ukraina secara aktif menerapkan teknologi ini. Buku ini bukan membahas tentang potensi AI dalam perang, namun kondisinya saat ini – realitas masa kini berupa penargetan otonom, drone mematikan, dan semakin bergantungnya algoritma dalam pengambilan keputusan hidup atau mati.
Gudang AI Tersembunyi Pentagon
Departemen Pertahanan AS memiliki lebih dari 800 proyek AI, banyak di antaranya beroperasi secara rahasia. Project Maven, diluncurkan pada tahun 2017, bertujuan untuk memproses sejumlah besar data yang dikumpulkan oleh drone. Iterasi awal memiliki kelemahan, dengan algoritme yang salah mengidentifikasi objek (seperti salah mengira bus sekolah sebagai target) karena keterbatasan yang melekat pada pembelajaran mesin. Namun, ide intinya tetap ada: menghilangkan inefisiensi manusia dalam peperangan.
Logikanya brutal namun jelas: manusia bisa salah, lelah, dan rentan terhadap kesalahan. AI, menurut para pendukungnya, dapat menghilangkan “kabut perang” dan memungkinkan tindakan yang lebih cepat dan tegas. Tujuan utamanya bukan hanya peningkatan kecerdasan tetapi juga sistem otonom yang mampu mengidentifikasi, melacak, dan menghilangkan target tanpa campur tangan manusia. Salah satu orang dalam dengan blak-blakan menyatakan, “Kita selalu membunuh orang yang salah. Mesin tidak bisa lebih buruk dari manusia.”
Dari Keamanan Perbatasan hingga Otonomi yang Mematikan
Maven telah menyebar melampaui medan perang tradisional, sekarang digunakan di penyeberangan perbatasan dan operasi pemberantasan narkotika. Hal ini menimbulkan pertanyaan yang meresahkan: jika suatu negara memiliki alat untuk melakukan pengawasan massal dan pembunuhan otomatis, akankah negara tersebut menolak menggunakannya untuk melawan warganya sendiri? Trennya adalah menuju otonomi yang lebih besar. Sistem seperti drone Goalkeeper dan drone angkatan laut Whiplash dirancang untuk menemukan dan menyerang target secara mandiri – sebuah langkah menuju penghapusan sepenuhnya pengawasan manusia.
Preseden sejarahnya suram. Sebagaimana dicatat Manson, manusia tidak pernah menciptakan senjata dan kemudian menolak menggunakannya. Anekdot mengerikan dari seorang pelamar pekerjaan yang secara terbuka menyatakan keinginan mereka untuk “mengurangi populasi non-Amerika” dan masih dipekerjakan menyoroti kompromi moral yang sudah ada.
Faktor Manusia: Perannya yang Menurun?
Buku ini juga mengingatkan kita akan unsur manusia dalam pengambilan keputusan. Kisah Stanislav Petrov, perwira Soviet yang menghindari perang nuklir pada tahun 1983 dengan mengabaikan alarm yang salah, menggarisbawahi nilai penilaian manusia. Akankah sistem berbasis AI melakukan hal yang sama? Jawabannya masih jauh dari pasti.
Proyek Maven tidak hanya menyingkapkan teknologinya namun juga kelembaman birokrasi dan kesediaan Silicon Valley untuk mengejar kontrak tanpa mempedulikan masalah etika. Kerahasiaan Pentagon memastikan bahwa seluruh teknologi ini akan tetap tersembunyi selama bertahun-tahun, sehingga membuat pengawasan dan akuntabilitas menjadi semakin sulit.
Intisari dari hal ini sangat jelas: AI sudah membentuk kembali peperangan, menjadikannya lebih impersonal, lebih cepat, dan berpotensi jauh lebih ceroboh. Pertanyaannya bukanlah jika hal ini akan terjadi, namun bagaimana memastikan alat-alat ini digunakan secara bertanggung jawab – sebuah tantangan yang menurut buku ini tidak dapat kita penuhi.
