Noticias
Archivos Nacionales impulsa la IA de Google Gemini entre los empleados
En junio, la Administración Nacional de Archivos y Registros de EE. UU. (NARA) ofreció a sus empleados una presentación y una demostración tecnológica llamada “AI-mazing Tech-venture” en la que se presentó Gemini AI de Google como una herramienta de archivos que los empleados podrían utilizar para “mejorar la productividad”. Durante una demostración, la IA fue interrogada con preguntas sobre el asesinato de John F. Kennedy, según un copia de la presentación obtenido por 404 Media mediante una solicitud de registros públicos.
En diciembre, NARA planea lanzar un chatbot de cara al público impulsado por IA llamado “Archie AI”, según se enteró 404 Media. “Los Archivos Nacionales tienen grandes planes para la IA”, dijo un portavoz de NARA a 404 Media. Será esencial para la forma en que llevamos a cabo nuestro trabajo, cómo escalamos nuestros servicios para los estadounidenses que desean poder acceder a nuestros registros desde cualquier lugar y en cualquier momento, y cómo nos aseguramos de que estamos listos para cuidar los registros que se crean hoy y en el futuro.”
Registros de chat de empleados Los datos proporcionados durante la presentación muestran que los empleados de los Archivos Nacionales están preocupados por la idea de que se utilicen herramientas de inteligencia artificial en el archivo, una práctica que está inherentemente relacionada con el registro preciso de la historia.
Un trabajador que asistió a la presentación dijo a 404 Media: “Sospecho que lo van a introducir en el lugar de trabajo. Sólo soy una persona que trabaja allí y odia las tonterías de la IA”.
La presentación se realizó aproximadamente un mes después de la Archivos Nacionales prohibieron a los empleados utilizar ChatGPT porque dijo que representaba un “riesgo inaceptable para la seguridad de los datos de NARA” y advirtió a los empleados que “no deberían confiar en los LLM para obtener información objetiva”.
“Google Gemini es una herramienta versátil que puede ayudar a los usuarios a ahorrar tiempo, mejorar su productividad y lograr mejores resultados en su trabajo”, dice una de las diapositivas. “Piensa en Géminis como un compañero de trabajo que puede ayudarte a generar ideas y revisar el contenido que ya has creado”.
Partes de las diapositivas que sugieren casos de uso específicos están redactadas, pero la presentación recomienda usarlas para “ayuda en redacción, visualización de datos, resúmenes de reuniones y generación de ideas”.
“Genere texto, traduzca idiomas y resuma documentos para ayudar a los usuarios a comunicarse de manera más efectiva”, dice una de las diapositivas.
Durante la presentación, que se realizó a través de Zoom, los empleados expresaron muchas inquietudes sobre la tecnología en el chat. Los Archivos Nacionales se negaron a publicar el video del chat, citando preocupaciones de privacidad, por lo que no está claro si el presentador respondió alguna de las preguntas y cómo fueron respondidas. Todos los nombres de los empleados que hicieron preguntas fueron redactados por los Archivos Nacionales.
“¿Cómo sabría el público que está recibiendo una respuesta de un archivero real y no de una IA generativa?”, preguntó un empleado. “¿NARA revelaría qué aspectos de referencia se generan a partir de la IA?” Otros dos empleados hicieron un seguimiento y dijeron que también estaban preocupados por esto, y uno dijo: “Me preocupa que pueda disminuir la confianza en la institución si no se divulga adecuadamente”.
Según los registros del chat, se realizó una demostración en vivo de Vertex AI de Google en la que se hizo pasar por un “archivero experto” y se le hicieron preguntas sobre el asesinato de John F. Kennedy. Vertex AI permite a las organizaciones capacitar LLM en sus propios conjuntos de datos. En este caso, la IA se entrenó con datos de los Archivos Nacionales. Estas preguntas incluían “¿Quién mató a Kennedy?” y “¿Cuál fue la participación de la CIA en el asesinato de Kennedy?”
“¿Por qué la IA generativa se autodenomina ‘archivista experto’?”, preguntó un empleado. “Se llama ‘archivista experto’ porque ese es el mensaje que le dimos”, dijo alguien involucrado en la demostración.
“Tengo un serio problema con el título de ‘experto archivero’”, dijo otro empleado.
“Aquí igual. Si tenemos un descargo de responsabilidad que dice que la IA generativa puede inventar cosas y aún así llamarla un archivero experto en el mismo nivel que los expertos humanos reales…”, intervino otro.
“Pregunte qué pasó con el cerebro de Kennedy”, dijo un empleado en un momento dado (esto es, en realidad, un misterio).
Los empleados de Archivos parecían tener serias preocupaciones con la demostración y la presentación.
En un momento, un empleado dijo que “los datos clasificados no se pueden enviar a través de la IA en la nube”. Otro empleado preguntó “¿podemos excluir cualquier dato de Google Drive o nuestros correos electrónicos de Gemini?”
Otro dijo: “¿Le preocupa que este producto funcione mal de manera similar a como lo ha hecho recientemente la IA de búsqueda de Google?”
Los empleados también preguntaron: “¿Cómo planean garantizar que NARA no se vea involucrada en ningún problema de infracción de derechos de autor mediante el uso de modelos de inteligencia artificial entrenados en contenido web? Ha habido problemas con esto cuando ChatGPT extrae libros pirateados, por ejemplo”.
Un empleado preguntó: “¿Está esta demostración en preparación para implementarla entre los empleados de toda NARA?”
Alguien respondió: “Estamos haciendo un piloto ahora mismo de esta tecnología para determinar si debemos seguir adelante con esto como agencia”.
“La IA está destinada a generar algo que suene como una respuesta; hay una gran cantidad de casos en los que dice cosas que están completamente equivocadas con un tono autoritario”, dijo otro. “¿Hasta qué punto se espera que dependamos de esto en el futuro?”
Tres empleados distintos expresaron su preocupación por los aspectos medioambientales y la huella de carbono de la IA generativa.
En un correo electrónico que obtuve a principios de este año, los Archivos Nacionales dijeron a sus empleados que prefieren Google Gemini y Microsoft Copilot a ChatGPT porque ofrecen “un entorno más controlado”.
Un portavoz de NARA dijo a 404 Media que la agencia tiene grandes planes para la IA, que incluyen el lanzamiento de un chatbot de cara al público impulsado por IA llamado ‘Archie’”.
“Estamos explorando cómo la IA puede ayudarnos a aumentar el acceso a nuestras participaciones en todo el país. Actualmente tenemos un puñado de programas piloto de IA destinados a mejorar nuestro servicio al público y al mismo tiempo fomentar la confianza del público”, dijeron. “En última instancia, queremos que el usuario pueda encontrar fácilmente los documentos que busca en nuestro enorme tesoro de registros federales permanentes. Ya sea usted un veterano, un historiador familiar, un educador, un investigador o un estudiante, nuestro objetivo es conectarlo con los registros de la manera más fluida posible”.
NARA planea decirles a los usuarios, esencialmente, que Archie puede brindarles información incorrecta.
“Nuestra herramienta ArchieAI abordará directamente cuestiones de precisión y divulgación”, dijo el portavoz. La divulgación específica dirá: “Exactitud: Es posible que los resúmenes y resultados generados por IA no reflejen la opinión de NARA y no se garantiza que sean precisos. Los registros históricos a menudo contienen errores fácticos o lenguaje ofensivo, que ArchieAI puede repetir o utilizar”.
La administración Biden ordenó anteriormente a las agencias federales que estudiaran la IA y crearan políticas para su uso. Los Archivos Nacionales también hicieron recientemente una presentación sobre IA ante el Consejo Internacional de Archivos.
en esa presentacionCarol Lagundo, directora de asociaciones digitales y extensión de NARA, anunció Archie y también explicó que los Archivos Nacionales habían utilizado IA para “mejorar el acceso a los archivos de pensiones de la Guerra Revolucionaria”, que son un conjunto de más de 2,5 millones de páginas de los siglos 18 y 19. registros escritos a mano del siglo XIX sobre soldados de la Guerra Revolucionaria.
“¡Al ritmo actual, será necesario hasta 2046 transcribir completamente esta serie solo con humanos!”, dice la presentación de Lagundo. Dijo que una transcripción de IA del conjunto de datos era correcta en un 90 por ciento y que tiene la intención de compartir estas transcripciones con el público en su catálogo oficial en noviembre o diciembre.
Añadió que los Archivos Nacionales están desarrollando un “prototipo de asistente de investigación de IA” impulsado por Google Vertex llamado Archie AI.
“Podrás hacerle una pregunta a Archie y recibir resúmenes generados por IA con notas a pie de página y enlaces a los documentos digitalizados de nuestro catálogo”, dijo. “Esperamos implementarlo en unos meses”.
“Como puede ver, ArchieAI es la piedra angular de nuestro aprendizaje de IA”, dijo el portavoz de NARA a 404 Media.
