Поширення штучного інтелекту у сучасній війні більше не є теоретичним. Як докладно описано у книзі Катріни Менсон “Project Maven”, операції військових, керовані ІІ, вже ведуться, причому такі країни, як Ізраїль, США та Україна, активно розгортають ці технології. Книга не про “потенціал” ІІ у війні, а про його “поточний” стан – про справжню реальність автономного націлювання, летальних дронів і зростаючу залежність від алгоритмів у рішеннях, що стосуються життя і смерті.
Прихований Арсенал ІІ Пентагону
Міністерство оборони США має у своєму розпорядженні більш ніж 800 проектів у галузі ІІ, багато з яких реалізуються в обстановці суворої таємності. Project Maven, запущений у 2017 році, був спрямований на обробку величезного обсягу даних, які збирають дрони. Перші версії були недосконалі: алгоритми помилково ідентифікували об’єкти (наприклад, плутали шкільні автобуси з цілями) через властиві машинному навчанню обмеження. Однак основна ідея залишилася незмінною: усунути людську неефективність з війни.
Логіка жорстока, але ясна: люди схильні до помилок, втоми і схильні до прорахунків. Прихильники стверджують, що ІІ міг би розсіяти «туман війни» та забезпечити більш швидку та рішучу дію. Кінцева мета — не лише покращена розвідка, а й повністю автономні системи, здатні виявляти, відстежувати та знищувати цілі без участі людини. Один інсайдер відверто заявив: «Ми вбиваємо не тих людей постійно. Машина не може бути гіршою за людину».
Від Прикордонної Безпеки до Летальної Автономії
Maven поширився за межі традиційних полів битв, тепер він використовується на прикордонних переходах та в операціях по боротьбі з наркотиками. Це порушує тривожне запитання: якщо держава володіє інструментами масового стеження та автоматизованого вбивства, чи буде вона чинити опір їх застосуванню проти власних громадян? Тенденція спрямована на велику автономію. Системи, такі як дрони Goalkeeper та військово-морські дрони Whiplash, призначені для самостійного пошуку та поразки цілей – крок до повного усунення людського контролю.
Історичний прецедент похмурий. Як зазначає Менсон, люди ніколи не створювали зброю, а потім відмовлялися її використовувати. Анекдот, що леденить душу про співшукача, який відкрито заявив про своє бажання «скоротити неамериканське населення» і “все одно був прийнятий на роботу”, підкреслює моральні компроміси, які вже мають місце.
Людський Фактор: Роль, що зменшується?
Книга також нагадує нам про людський чинник у ухваленні рішень. Історія Станіслава Петрова, радянського офіцера, який запобіг ядерній війні в 1983 році, проігнорувавши несправну сигналізацію, підкреслює цінність людського судження. Зробила б ІІ-керована система той самий вибір? Відповідь далека від очевидної.
Project Maven розкриває не лише технологію, а й бюрократичну інерцію та готовність Кремнієвої долини укладати контракти незалежно від етичних міркувань. Секретність Пентагону гарантує, що повний обсяг цих технологій залишиться прихованим протягом багатьох років, що ще більше ускладнить нагляд та притягнення до відповідальності.
Основний висновок очевидний: ІІ вже змінює хід війни, роблячи її безособовою, швидшою і потенційно набагато безрозсуднішою. Питання не в тому, чи станеться це, а в тому, як забезпечити відповідальне використання цих інструментів — завдання, з яким, на думку книги, ми не справляємося.
