Rozšíření umělé inteligence v moderním válčení již není teoretické. Jak je podrobně popsáno v knize Katriny Mansonové Project Maven, vojenské operace řízené umělou inteligencí již probíhají, přičemž země jako Izrael, Spojené státy a Ukrajina tyto technologie aktivně nasazují. Kniha není o potenciálu AI ve válce, ale o jejím aktuálním stavu – současné realitě autonomního zaměřování, smrtících dronů a rostoucí závislosti na algoritmech pro rozhodování o životě a smrti.
Skrytý AI Arsenal Pentagonu
Americké ministerstvo obrany má více než 800 projektů AI, z nichž mnohé jsou prováděny v přísném utajení. Projekt Maven, spuštěný v roce 2017, měl za cíl zpracovat obrovské množství dat shromážděných drony. První verze byly chybné: algoritmy špatně identifikovaly objekty (například si pletly školní autobusy s cíli) kvůli inherentním omezením strojového učení. Základní myšlenka však zůstala stejná: odstranit lidskou neefektivitu z války.
Logika je krutá, ale jasná: lidé jsou omylní, unavení a mají sklon k nesprávnému výpočtu. Zastánci tvrdí, že umělá inteligence by mohla vyčistit „válečnou mlhu“ a umožnit rychlejší a rozhodnější akci. Konečným cílem je nejen vylepšená inteligence, ale také plně autonomní systémy schopné identifikovat, sledovat a ničit cíle bez lidského zásahu. Jeden zasvěcený řekl upřímně: “Pořád zabíjíme nesprávné lidi. Stroj nemůže být horší než člověk.”
Od bezpečnosti hranic ke smrtící autonomii
Maven se rozšířil mimo tradiční bojiště a nyní se používá na hraničních přechodech a při protidrogových operacích. To vyvolává znepokojivou otázku: Pokud má stát nástroje hromadného sledování a automatizovaného vraždění, bude se bránit jejich použití proti vlastním občanům? Trend směřuje k větší autonomii. Systémy, jako jsou drony Goalkeeper a námořní drony Whiplash, jsou navrženy tak, aby nezávisle nacházely a zasahovaly cíle – krok k úplnému odstranění lidské kontroly.
Historický precedens je ponurý. Jak zdůrazňuje Manson, lidé nikdy nevytvářeli zbraně a pak je odmítli používat. Mrazivá anekdota o uchazeči o zaměstnání, který otevřeně vyjádřil svou touhu „snížit neamerickou populaci“ a byl stejně přijat, zdůrazňuje morální kompromisy, ke kterým již dochází.
Lidský faktor: Snižující se role?
Kniha také připomíná lidský prvek při rozhodování. Příběh Stanislava Petrova, sovětského důstojníka, který v roce 1983 zabránil jaderné válce ignorováním chybného alarmu, zdůrazňuje hodnotu lidského úsudku. Udělal by stejnou volbu systém řízený umělou inteligencí? Odpověď není zdaleka zřejmá.
Projekt Maven odhaluje nejen technologii, ale také byrokratickou setrvačnost a ochotu Silicon Valley udělovat zakázky bez ohledu na etické ohledy. Utajení Pentagonu zajišťuje, že celý rozsah těchto technologií zůstane po léta skrytý, což ještě více ztíží dohled a odpovědnost.
Hlavní zpráva je jasná: AI již mění průběh války, dělá ji neosobní, rychlejší a potenciálně mnohem bezohlednější. Otázkou není zda k tomu dojde, ale jak zajistit odpovědné používání těchto nástrojů – což je úkol, u kterého kniha naznačuje, že selháváme.
