El Pentágono compró herramientas OpenAI para operaciones militares en toda África

Menos de un Un año después de que OpenAI señalara silenciosamente que quería hacer negocios con el Pentágono, un documento de adquisición obtenido por The Intercept muestra que el Comando África de EE. UU., o AFRICOM, cree que el acceso a la tecnología de OpenAI es “esencial” para su misión.

El documento del 30 de septiembre expone las razones de AFRICOM para comprar servicios de computación en la nube directamente de Microsoft como parte de su contrato de capacidad de nube de guerra conjunta de $9 mil millones, en lugar de buscar otro proveedor en el mercado abierto. “USAFRICOM opera en un entorno dinámico y en evolución donde la TI desempeña un papel fundamental en el logro de los objetivos de la misión”, dice el documento, incluida “su misión vital en apoyo de nuestros socios de misión africanos”. [and] Ejercicios conjuntos de USAFRICOM”.

El documento, denominado Información no clasificada controlada, está marcado como FEDCON, lo que indica que no debe distribuirse más allá del gobierno o los contratistas. Muestra que la solicitud de AFRICOM fue aprobada por la Agencia de Sistemas de Información de Defensa. Si bien el precio de la compra está redactado, el documento de aprobación señala que su valor es inferior a 15 millones de dólares.

Al igual que el resto del Departamento de Defensa, AFRICOM –que supervisa las operaciones del Pentágono en África, incluida la cooperación militar local con los aliados de Estados Unidos allí– tiene un creciente apetito por la computación en la nube. El Departamento de Defensa ya compra acceso a la computación en la nube de Microsoft a través del proyecto Joint Warfighting Cloud Capability. Este nuevo documento refleja el deseo de AFRICOM de evitar la burocracia contractual y comprar inmediatamente los servicios en la nube de Microsoft Azure, incluido el software OpenAI, sin considerar a otros proveedores. AFRICOM afirma que la “capacidad de admitir cargas de trabajo avanzadas de IA/ML es crucial. Esto incluye servicios de búsqueda, procesamiento del lenguaje natural, [machine learning]y análisis unificados para el procesamiento de datos”. Y según AFRICOM, la plataforma en la nube Azure de Microsoft, que incluye un conjunto de herramientas proporcionadas por OpenAI, es el único proveedor de la nube capaz de satisfacer sus necesidades.

Microsoft comenzó a vender el modelo de lenguaje grande GPT-4 de OpenAI a clientes de defensa en junio de 2023. A principios de este año, tras la revelación de que OpenAI había cambiado de opinión sobre el trabajo militar, la compañía anunció una colaboración de ciberseguridad con DARPA en enero y dijo que sus herramientas serían utilizado para una iniciativa de prevención del suicidio de veteranos no especificada. En abril, Microsoft propuso al Pentágono utilizar DALL-E, la herramienta de generación de imágenes de OpenAI, para software de comando y control. Pero el documento de AFRICOM marca la primera compra confirmada de productos de OpenAI por parte de un comando combatiente estadounidense cuya misión es matar.

La misión corporativa declarada de OpenAI sigue siendo “garantizar que la inteligencia artificial general beneficie a toda la humanidad”.

El documento afirma que las “herramientas OpenAI” se encuentran entre las “características únicas” ofrecidas por Microsoft “esenciales para garantizar que los servicios en la nube proporcionados se alineen con la misión y las necesidades operativas de USAFRICOM. … Sin acceso al conjunto integrado de herramientas y servicios de inteligencia artificial de Microsoft, USAFRICOM enfrentaría desafíos importantes al analizar y extraer conocimientos prácticos a partir de grandes cantidades de datos. … Esto podría provocar retrasos en la toma de decisiones, comprometer la conciencia situacional y una menor agilidad para responder a amenazas dinámicas y en evolución en todo el continente africano”. Las agencias de defensa y de inteligencia de todo el mundo han expresado un gran interés en utilizar grandes modelos de lenguaje para examinar tesoros de inteligencia o transcribir y analizar rápidamente datos de audio de interrogatorios.

Microsoft invirtió 10 mil millones de dólares en OpenAI el año pasado y ahora ejerce una gran influencia sobre la empresa, además de revender su tecnología. En febrero, The Intercept y otros medios de noticias digitales demandaron a Microsoft y OpenAI por utilizar su periodismo sin permiso ni crédito.

Un portavoz de OpenAI dijo a The Intercept: “OpenAI no tiene ninguna asociación con el Comando África de EE. UU.” y remitió las preguntas a Microsoft. Microsoft no respondió de inmediato a una solicitud de comentarios. Tampoco lo hizo un portavoz de AFRICOM.

“Es extremadamente alarmante que sean explícitos en el uso de la herramienta OpenAI para ‘análisis unificados para el procesamiento de datos’ para alinearse con los objetivos de la misión de USAFRICOM”, dijo Heidy Khlaaf, científica jefe de IA en el AI Now Institute, quien anteriormente realizó evaluaciones de seguridad para OpenAI. “Especialmente al afirmar que creen que estas herramientas mejoran la eficiencia, la precisión y la escalabilidad, cuando en realidad se ha demostrado que estas herramientas son muy inexactas y fabrican resultados de manera consistente. Estas afirmaciones muestran una preocupante falta de conciencia por parte de quienes adquieren estas tecnologías sobre los altos riesgos que estas herramientas plantean en entornos de misión crítica”.

Desde que OpenAI eliminó silenciosamente la parte de sus términos de servicio que prohibía el trabajo militar en enero, la compañía se ha congraciado constantemente con el establishment de seguridad nacional de EE. UU., que está ansioso por integrar herramientas impresionantes pero frecuentemente inexactas como ChatGPT. En junio, OpenAI incorporó a su junta directiva al exjefe de la Agencia de Seguridad Nacional designado por Trump, Paul Nakasone; La actual jefa de asociaciones de seguridad nacional de la compañía es Katrina Mulligan, una alumna del Pentágono que anteriormente trabajó en “Operaciones Especiales y Guerra Irregular”, según su perfil de LinkedIn.

El jueves, tras una directiva de la Casa Blanca que ordenaba al Pentágono acelerar la adopción de herramientas como las creadas por OpenAI, la compañía publicó un artículo que describe su “enfoque hacia la IA y la seguridad nacional”. Según la publicación, “Los valores que guían nuestro trabajo en materia de seguridad nacional” incluyen “valores democráticos”, “derechos humanos” y “responsabilidad”, y explica: “Creemos que todas las aplicaciones de IA, especialmente aquellas que involucran al gobierno y la seguridad nacional, debe estar sujeto a supervisión, pautas de uso claras y estándares éticos”. El lenguaje de OpenAI es un claro reflejo de la orden de la Casa Blanca, que prohibía a las entidades de seguridad e inteligencia utilizar inteligencia artificial de maneras que “no se alineen con los valores democráticos”, informó el Washington Post.

Si bien el documento de AFRICOM contiene pocos detalles sobre cómo exactamente podría utilizar las herramientas OpenAI, las implicaciones habituales del comando en golpes de estado, asesinatos de civiles, torturas y guerras encubiertas en África parecerían incompatibles con el marco de seguridad nacional profesado por OpenAI. El año pasado, el general Michael Langley, jefe de AFRICOM, dijo al Comité de Servicios Armados de la Cámara de Representantes que su comando comparte “valores fundamentales” con el coronel Mamady Doumbouya, un aprendiz de AFRICOM que derrocó al gobierno de Guinea y se declaró su líder en 2021.

Aunque la actividad militar estadounidense en África recibe relativamente poca atención en comparación con el Comando Central estadounidense, que supervisa las fuerzas estadounidenses en el Medio Oriente, la presencia de AFRICOM es significativa y objeto de frecuentes controversias. A pesar de las afirmaciones de una “huella ligera” en el continente, The Intercept informó en 2020 sobre un mapa de AFRICOM anteriormente secreto que muestra “una red de 29 bases militares estadounidenses que se extienden de un lado a otro de África”. Gran parte del propósito de AFRICOM desde su creación en 2007 implica entrenar y asesorar a tropas africanas, misiones de bajo perfil por parte de fuerzas de Operaciones Especiales y operar bases de drones para contrarrestar a grupos militantes en el Sahel, la cuenca del lago Chad y el Cuerno de África en esfuerzos por traer seguridad y estabilidad al continente. Los resultados han sido desalentadores. En toda África, el Departamento de Estado contabilizó un total de sólo nueve ataques terroristas en 2002 y 2003, los primeros años de asistencia antiterrorista estadounidense en el continente. Según el Centro Africano de Estudios Estratégicos, una institución de investigación del Pentágono, el número anual de ataques perpetrados por grupos militantes islamistas en África supera ahora los 6.700, un aumento del 74.344 por ciento.

A medida que la violencia ha aumentado, al menos 15 oficiales que se beneficiaron de la asistencia de seguridad de Estados Unidos han estado involucrados en 12 golpes de Estado en África Occidental y el Gran Sahel durante la guerra contra el terrorismo, incluido Níger el año pasado. (Al menos cinco líderes de ese golpe de julio de 2023 recibieron asistencia estadounidense, según un funcionario estadounidense). Los aliados de Estados Unidos también han estado implicados en una serie de presuntos abusos contra los derechos humanos. En 2017, The Intercept informó que una base militar camerunesa utilizada por AFRICOM para realizar vuelos de vigilancia con drones había sido utilizada para torturar a prisioneros militares.

Tratar con datos ha sido durante mucho tiempo un desafío para AFRICOM. Después de que The Intercept hiciera un recuento de los líderes golpistas entrenados por Estados Unidos en el continente, por ejemplo, el comando admitió que no sabía cuántos golpes habían llevado a cabo sus cargos, ni siquiera mantuvo una lista de cuántas veces se habían producido tales tomas de poder. sucedió. “AFRICOM no mantiene una base de datos con esta información”, dijo la portavoz Kelly Cahalan a The Intercept el año pasado.

La mala gestión de la información por parte de AFRICOM también ha sido letal. Tras un ataque con aviones no tripulados en Somalia en 2018, AFRICOM anunció que había matado a “cinco terroristas” y destruido un vehículo, y que “ningún civil murió en este ataque aéreo”. Una investigación militar secreta de Estados Unidos, obtenida por The Intercept a través de la Ley de Libertad de Información, mostró que a pesar de meses de “desarrollo de objetivos”, el ataque a una camioneta mató al menos a tres, y posiblemente cinco, civiles, incluidos Luul Dahir Mohamed y su Hija de 4 años, Mariam Shilow Muse.