AI «casi inició una guerra» entre Estados Unidos y China después de escribir un informe de inteligencia falso, dice CNN
Se habría evitado por poco una tragedia, si se cree en la información de CNN. Los medios estadounidenses informaron este viernes por la noche que la inteligencia artificial habría “Casi comienza una guerra” entre Estados Unidos y China la primavera pasada, después de que ella escribiera un informe de inteligencia erróneo. El documento fue “completamente falso” pero «casi comienza una guerra», una fuente cercana al asunto aseguró a nuestros colegas.
Este informe de inteligencia, distribuido dentro del ejército estadounidense, supuestamente informó sobre un barco chino estacionado en el Medio Oriente que transportaba componentes destinados a un programa de armas nucleares. Según cuatro fuentes familiarizadas con el asunto, el ejército estadounidense intervino rápidamente al leer el informe, con órdenes de interceptar el barco. Se habían desplegado aviones militares que sobrevolaban la zona y el personal militar estadounidense se preparaba para abordar. Según CNN, la operación finalmente se canceló poco antes de que se lanzara, después de que los funcionarios descubrieran que la IA simplemente había cometido un error. La estación de televisión no dijo qué transportaba realmente el barco ni cuál era su destino.
Fusión de información
En este caso, el chatbot fue consultado por un analista militar, que buscaba información sobre un barco chino incluido en otro informe, esta vez del Comando de Operaciones Especiales del Pacífico de Estados Unidos (SOCPAC), ubicado en Hawái.
El chatbot, que no está claro si se trataba de un modelo comercial o de una herramienta desarrollada específicamente para el ejército estadounidense, luego fusionó información confidencial del informe con información disponible gratuitamente en Internet, antes de llegar a la conclusión de que el barco transportaba componentes nucleares. Luego, el analista militar volvió a utilizar el chatbot, esta vez para recopilar todos estos datos e insertarlos en un nuevo informe de inteligencia. Luego lo transmitió a través de canales militares estadounidenses.
Según varias fuentes citadas por CNN, el ejército estadounidense utiliza cada vez más la IA para sus operaciones de selección de objetivos, un área donde el más mínimo error puede tener graves consecuencias. “El uso de IA para objetivos está claramente aumentando, pero hoy en día no hay una guía clara que defina cómo la supervisión humana puede realmente prevenir víctimas civiles o errores”.estima una fuente de los medios estadounidenses.
Múltiples advertencias
En enero, el secretario de Guerra, Pete Hegseth, publicó su “Estrategia de aceleración de la inteligencia artificial”un documento destinado a acelerar el uso de la IA por parte del ejército estadounidense. “Desataremos la experimentación, eliminaremos barreras burocráticas, centraremos nuestras inversiones y demostraremos (…) que estamos a la vanguardia de la IA militar”proclamó en un discurso de presentación del documento.
Este episodio tiene lugar mientras el sector tecnológico aumenta sus advertencias contra “desalineación » Models, un fenómeno por el cual una inteligencia artificial lleva a cabo acciones consideradas perjudiciales para la humanidad, o que realmente no corresponden a lo que los humanos le han pedido. En el caso del barco chino, la IA probablemente “alucinado”y por tanto produce información falsa o inventada, con el único objetivo de satisfacer a su usuario. A pesar de los peligros de la IA, Donald Trump y varios miembros de la mayoría presidencial reiteraron recientemente su deseo de no regular el sector, oficialmente por miedo a que China gane ventaja.
