EDITORIAL: La prisa del algoritmo vuelve la guerra un video juego carente de reflexion

Carlos Marquez Cabrera  /

La velocidad anula la conciencia

El debate ético sobre la inteligencia artificial en la guerra suele centrarse en una pregunta equivocada.

¿puede una máquina decidir matar a un ser humano?

La respuesta técnica es que ya lo hace.

El Pentágono desplegó en 2025 el sistema Maven Smart System, una plataforma de inteligencia artificial diseñada para fusionar datos de múltiples fuentes —satélites, drones, sensores acústicos, interceptaciones de comunicaciones— y generar en tiempo real una imagen unificada del campo de batalla.

Pero Maven no solo observa; también recomienda.

En los primeros días de la campaña contra Irán, Maven procesó el equivalente a diez años de imágenes de satélite en apenas 24 horas, identificando más de 1.000 objetivos potenciales.

Un oficial humano, por muy entrenado que esté, no puede procesar esa cantidad de información.

La máquina no es mejor que el humano; es más rápida. Y esa velocidad, compañero, es el verdadero problema.

Porque el factor humano, el que durante siglos ha frenado la barbarie, no se basa en la velocidad, sino en la duda.

Un soldado que ve a una mujer con un niño en la mira duda. Un piloto que observa las ruinas de un edificio escolar siente náuseas.

Un comandante que recibe un informe contradictorio pide una verificación.

La IA no duda, no siente náuseas y no pide verificación.

Procesa los datos, etiqueta el objetivo como amenaza prioritaria y lo envía a la tableta del oficial en 0,3 segundos.

En el tiempo que un ser humano tarda en parpadear, el algoritmo ya ha tomado una decisión que puede costar miles y miles de vidas.

El trágico incidente de la escuela en Irán, donde un ataque del sistema Maven mató a 160 personas, incluyendo a 68 niños, no fue un fallo técnico en el sentido estricto.

El sistema identificó correctamente lo que sus datos le indicaban. Una concentración de señales electrónicas compatibles con un centro de comunicaciones enemigo.

El problema fue que la inteligencia de fuentes humanas era inexacta, pero Maven, fiel a su programación, procesó esos datos erróneos con la misma confianza que si fueran ciertos.

Cuando el oficial responsable recibió la recomendación de ataque en su tableta, la ventana táctica para el bombardeo se estaba cerrando.

Para no perder la oportunidad, pulsó aceptar, sin verificar manualmente las imágenes. No tuvo tiempo. La tecnología no le quitó el botón de disparo; le quitó el tiempo para pensar si debía pulsarlo.

Esa dinámica transforma la guerra en un reflejo, no en una decisión.

Los comandantes se convierten en gestores de excepciones, interviniendo solo cuando el sistema les pide autorización, pero sin capacidad real para auditar el razonamiento de la máquina en el tiempo disponible.

La famosa doctrina del juicio humano en el bucle se está convirtiendo en una ficción legal.

El humano está en el bucle, sí, pero el bucle gira tan rápido que su participación es meramente simbólica. Es el algoritmo el que fija el ritmo, y el humano se limita a aceptar para no quedar fuera de juego.

El Papa Francisco, en su reciente intervención sobre este tema, lo expresó con claridad. Esos sistemas reducen el costo político de la guerra, haciendo que sea más fácil de iniciar y menos controlable por los humanos.

No se trata de que las máquinas sean malvadas; es que su velocidad nos expulsa del proceso de deliberación moral.

La guerra se ha vuelto un videojuego donde el reflejo vale más que la conciencia, y eso, es la verdadera deshumanización.

No es la que viene de la maldad, es la sale de la prisa del algoritmo.