Rozprzestrzenianie się sztucznej inteligencji we współczesnych działaniach wojennych nie jest już kwestią teoretyczną. Jak szczegółowo opisano w książce Katriny Manson Project Maven, operacje wojskowe oparte na sztucznej inteligencji już trwają, a kraje takie jak Izrael, Stany Zjednoczone i Ukraina aktywnie wdrażają te technologie. Książka nie dotyczy potencjału sztucznej inteligencji podczas wojny, ale jej obecnego stanu — obecnej rzeczywistości autonomicznego celowania, śmiercionośnych dronów i rosnącej zależności od algorytmów przy podejmowaniu decyzji o życiu i śmierci.
Ukryty arsenał sztucznej inteligencji Pentagonu
Departament Obrony USA ma ponad 800 projektów związanych ze sztuczną inteligencją, z których wiele jest realizowanych w ścisłej tajemnicy. Rozpoczęty w 2017 roku projekt Maven miał na celu przetwarzanie ogromnej ilości danych gromadzonych przez drony. Pierwsze wersje miały wady: algorytmy błędnie identyfikowały obiekty (na przykład myląc autobusy szkolne z celami) ze względu na nieodłączne ograniczenia uczenia maszynowego. Jednak podstawowa idea pozostała ta sama: wyeliminować z wojny ludzką nieefektywność.
Logika jest okrutna, ale jasna: ludzie są omylni, zmęczeni i podatni na błędne obliczenia. Zwolennicy twierdzą, że sztuczna inteligencja mogłaby usunąć „mgłę wojny” i pozwolić na szybsze i bardziej zdecydowane działania. Ostatecznym celem jest nie tylko ulepszona inteligencja, ale także w pełni autonomiczne systemy zdolne do identyfikowania, śledzenia i niszczenia celów bez interwencji człowieka. Jeden z informatorów powiedział szczerze: „Cały czas zabijamy niewłaściwych ludzi. Maszyna nie może być gorsza od człowieka”.
Od bezpieczeństwa granic do śmiercionośnej autonomii
Maven rozprzestrzenił się poza tradycyjne pola bitew i jest obecnie używany na przejściach granicznych i w operacjach antynarkotykowych. Rodzi to niepokojące pytanie: jeśli państwo dysponuje narzędziami masowej inwigilacji i automatycznego morderstwa, czy będzie się opierać używaniu ich przeciwko własnym obywatelom? Tendencja jest skierowana w stronę większej autonomii. Systemy takie jak drony bramkarskie i drony morskie Whiplash zaprojektowano tak, aby niezależnie odnajdywały cele i atakowały je, co stanowi krok w kierunku całkowitego wyeliminowania kontroli człowieka.
Historyczny precedens jest ponury. Jak podkreśla Manson, ludzie nigdy nie stworzyli broni, a potem nie odmówili jej użycia. Przerażająca anegdota o osobie ubiegającej się o pracę, która otwarcie wyraziła chęć „zmniejszenia populacji nieamerykańskiej” i i tak została zatrudniona, podkreśla moralne kompromisy, które już mają miejsce.
Czynnik ludzki: rola malejąca?
Książka przypomina nam również o elemencie ludzkim w podejmowaniu decyzji. Historia Stanisława Pietrowa, radzieckiego oficera, który w 1983 r. zapobiegł wojnie nuklearnej, ignorując błędny alarm, podkreśla wartość ludzkiego osądu. Czy system kontrolowany przez sztuczną inteligencję dokonałby tego samego wyboru? Odpowiedź nie jest oczywista.
Projekt Maven ujawnia nie tylko technologię, ale także biurokratyczną inercję i chęć Doliny Krzemowej do przyznawania kontraktów bez względu na względy etyczne. Tajemnica Pentagonu gwarantuje, że pełny zakres tych technologii pozostanie ukryty przez lata, co jeszcze bardziej utrudni nadzór i odpowiedzialność.
Główny przekaz jest jasny: sztuczna inteligencja już zmienia przebieg wojny, czyniąc ją bezosobową, szybszą i potencjalnie znacznie bardziej lekkomyślną. Pytaniem nie jest, czy tak się stanie, ale jak zapewnić odpowiedzialne korzystanie z tych narzędzi – a jest to zadanie, które według książki nam się nie udaje.
