Al borde del abismo

Según una investigación de CNN, difundida en varios medios, «un informe de inteligencia militar estadounidense, elaborado con la ayuda de inteligencia artificial, afirmó falsamente que un buque chino en Oriente Medio transportaba componentes relacionados con un programa de armas nucleares, lo que casi provocó que las fuerzas estadounidenses interceptaran y abordaran la embarcación durante la guerra con Irán» (“Military Watch”, 23 XE setiembre de 2026).

CNN menciona cuatro fuentes que aseguran que el informe de inteligencia alertó a las Fuerzas Armadas de Estados Unidos, que «comenzaron a preparar una operación contra el buque chino». Los militares ya estaban para abordar la embarcación, mientras que aviones militares se disponían a atacarla. «La operación se detuvo solo después de que los funcionarios examinaran con mayor detenimiento la información de inteligencia subyacente y descubrieran que el informe se había generado con la ayuda de un chatbot de IA».

Según la misma fuente, la IA había «identificado erróneamente el material que transportaba el buque». CNN destaca que una de las fuentes describió la evaluación de inteligencia resultante como «totalmente falsa», y añadió que «casi desencadenó una guerra». Agrega que «una operación estadounidense contra un buque chino podría haber provocado una confrontación directa entre Washington y Pekín, con una posible escalada mucho mayor que la del incidente original». El incidente ocurrió mientras las fuerzas estadounidenses realizaban operaciones militares contra Irán, la pasada primavera.

Hasta ahí los datos difundidos. La gravedad del «error» de la IA no merece mayores comentarios, aunque de ahí se deducen varias preguntas. ¿Estamos ante un caso aislado o «errores» como ese suceden más a menudo y no se difunden? ¿Las decisiones de operaciones militares de alto impacto se toman siempre del mismo modo, mediante la IA? ¿Quien controla a los que mandos que introducen datos incorrectos o falsos en la IA?

La CNN se apoya en analistas militares, en general, oficiales retirados, que aseguran que se está estudiando de forma independiente «si la información introducida en los sistemas de IA es precisa». Esto quiere decir que estamos en manos de especialistas a los que nadie controla, los que pueden no solo equivocarse sino hacerlo de forma voluntaria, con objetivos inconfesables.

En este punto quisiera abordar dos temas: por un lado, los problemas propios de la delegación de decisiones en la IA. Por otro, la cuestión del secreto militar y la aceleración de planes para la guerra.

Miguel Benasayag, filósofo, psicoanalista e investigador en neurociencia, señala en una entrevista que sostuvimos días atrás que «la IA es ruptura de los mecanismos del pensamiento» y que utiliza un tipo de funcionamiento que se llama «densidad estadística», que también utiliza el cerebro humano. El problema, estima, es que el algoritmo coloniza el cerebro, de tal modo que neutraliza el pensamiento, porque el pensamiento vivo es aquel que puede poner en cuestión las formas que nos entrega la IA. En consecuencia, «la delegación masiva de las funciones humanas hacia la máquina está debilitando enormemente la potencia de pensar y de actuar de los humanos».

En el caso que comento del buque chino, fueron los humanos los que pudieron detectar el «error» de la máquina, ya que ella por sí misma no era capaz de hacerlo. Sin embargo, si la capacidad de pensar por cuenta propia sigue debilitándose, será cada vez más difícil distinguir la veracidad de lo que nos entrega la IA. A tal punto que puede conducirnos al suicidio como humanidad. Estima que la IA no piensa, y en su libro “El cerebro aumentado, el hombre disminuido”, fundamenta estas cuestiones.

La conclusión es que en algunos casos concretos el ser humano ha sido capaz de corregir la IA. Todos conocemos fallos en el diagnóstico clínico de enfermedades y en los pronósticos a mediano plazo del clima, pero cuando está en juego la utilización de armas nucleares, los errores son sencillamente criminales. Delegar decisiones importantes en la IA es una suerte de ruleta rusa que juega con nuestras vidas y la del planeta.

El segundo aspecto es el secreto militar, guardado bajo siete llaves. La autonomía que han adquirido las fuerzas armadas respecto a la sociedad, y la ignorancia sobre sus planes, son sumamente peligrosas, toda vez que manejan herramientas capaces de exterminarnos. Los datos que se difunden a través de portales especializados no parecen reflejar la capacidad destructiva del tipo de armamento que manejan. Ahora Estados Unidos está en vías de construir armas nucleares tácticas, capaces de asegurar una destrucción acotada a ciudades o barrios, pero siempre terrible.

El gran público no conoce el poder de las armas hipersónicas, por ejemplo, ni su capacidad de destrucción ni la velocidad con que se trasladan. Hemos visto estos años cómo armamento sofisticado puede ser construido por fuerzas no estatales en Medio Oriente. En América Latina, observamos atónitos cómo bandas del crimen organizado utilizan masivamente drones para desplazar poblaciones o someterlas a su chantaje. La difusión descontrolada de armamento será en el futuro uno de los principales peligros que enfrentaremos como movimientos populares.

En ambos casos, la IA y las fuerzas armadas, es necesario y urgente proceder a un control social estricto de su desarrollo e implementación. Como descarto que esto vaya a suceder, debemos ser los pueblos organizados los que tomemos recaudos. No podemos confiar en los gobiernos ni en los Estados y sus instituciones, ni en organismos internacionales que están demostrando sus límites.

Los próximos años serán difíciles. El primer punto sería debatir estos temas, desde la geopolítica hasta la cuestión militar y ambiental que ponen en riesgo la vida. El segundo es ver los modos de protegernos colectivamente, sabiendo que nadie más que el nosotros colectivo puede encontrar salidas a los desafíos que enfrentamos.