El auge de la inteligencia artificial en la guerra moderna ya no es teórico. Como se detalla en el Proyecto Maven de Katrina Manson, ya se están llevando a cabo operaciones militares impulsadas por IA, y naciones como Israel, Estados Unidos y Ucrania están desplegando activamente estas tecnologías. El libro no trata sobre el potencial de la IA en la guerra, sino sobre su estado actual : una realidad presente de objetivos autónomos, drones letales y una creciente dependencia de los algoritmos en las decisiones de vida o muerte.
El arsenal de IA oculto del Pentágono
El Departamento de Defensa de Estados Unidos tiene más de 800 proyectos de IA, muchos de ellos operando en secreto. El Proyecto Maven, lanzado en 2017, tenía como objetivo procesar el abrumador volumen de datos recopilados por drones. Las primeras iteraciones eran defectuosas, con algoritmos que identificaban erróneamente objetos (como confundir autobuses escolares con objetivos) debido a las limitaciones inherentes del aprendizaje automático. Sin embargo, la idea central permaneció: eliminar la ineficiencia humana de la guerra.
The logic is brutal but clear: humans are fallible, tired, and prone to error. Los defensores argumentan que la IA podría despejar la “niebla de la guerra” y permitir acciones más rápidas y decisivas. El objetivo final no es sólo una inteligencia mejorada, sino sistemas totalmente autónomos capaces de identificar, rastrear y eliminar objetivos sin intervención humana. Un informante afirmó sin rodeos: “Matamos a las personas equivocadas todo el tiempo. Una máquina no puede ser peor que un humano”.
De la seguridad fronteriza a la autonomía letal
Maven se ha extendido más allá de los campos de batalla tradicionales y ahora se utiliza en cruces fronterizos y en operaciones antinarcóticos. Esto plantea una pregunta inquietante: si un Estado posee herramientas para la vigilancia masiva y el asesinato automatizado, ¿se resistirá a utilizarlas contra sus propios ciudadanos? La tendencia es hacia una mayor autonomía. Sistemas como los drones Goalkeeper y los drones navales Whiplash están diseñados para encontrar y atacar objetivos de forma independiente, un paso hacia la eliminación total de la supervisión humana.
El precedente histórico es desalentador. Como señala Manson, los humanos nunca crearon un arma y luego se negaron a usarla. La escalofriante anécdota de un solicitante de empleo que declaró abiertamente su deseo de “reducir la población no estadounidense” y todavía fue contratado resalta los compromisos morales que ya estaban en juego.
El factor humano: ¿un papel en disminución?
El libro también nos recuerda el elemento humano en la toma de decisiones. La historia de Stanislav Petrov, el oficial soviético que evitó una guerra nuclear en 1983 al anular una alarma defectuosa, subraya el valor del juicio humano. ¿Un sistema impulsado por IA habría tomado la misma decisión? La respuesta está lejos de ser segura.
El Proyecto Maven expone no sólo la tecnología sino también la inercia burocrática y la voluntad de Silicon Valley de buscar contratos independientemente de las preocupaciones éticas. El secretismo del Pentágono garantiza que el alcance total de estas tecnologías permanecerá oculto durante años, lo que dificulta aún más la supervisión y la rendición de cuentas.
La conclusión central es clara: la IA ya está remodelando la guerra, volviéndola impersonal, más rápida y potencialmente mucho más imprudente. La pregunta no es si esto sucederá, sino cómo garantizar que estas herramientas se utilicen de manera responsable, un desafío que el libro sugiere que no estamos logrando cumplir.
