Helen Toner, ex directora de Openai: “Si todo el desarrollo de IA se detuvo ahora, su impacto ya es tan grande como Internet” | Tecnología

A los 33 años, Helen Toner ha tenido una relación larga y agitada con la inteligencia artificial (IA). Su momento decisivo fue su entrada a la Junta de Directores de OpenAI en 2021, pero más aún de la forma en que se fue, poco después de votar para despedir a Sam Altman como CEO en noviembre de 2023. Tóner se niega a discutir esa experiencia en la compañía que creó ChatGPT, pero previamente ha compartido su opinión: Altman no fue honesto con la junta. “Nos enteramos de ChatGPT en Twitter”, dijo Toner. También agregó que el ejecutivo había creado una “atmósfera tóxica” en la compañía, según algunos ejecutivos.

Esa batalla terminó con la reincorporación de Altman. Toner ahora sigue de cerca el desarrollo de la IA en la industria de la defensa y en China, dos de sus especialidades, del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown (CSET) en Washington. Ella ya ha testificado ante el Congreso sobre su visión para el futuro de la IA, que explica en esta entrevista en video.

Pregunta. ¿Por qué muchos usuarios atribuyen propiedades mágicas a la IA?

Respuesta. Yo diría que hay dos razones. Una razón obvia es la forma en que hemos aprendido sobre la IA es a través de la ciencia ficción, y la IA de ciencia ficción suele ser infalible. Tal vez sea bueno, tal vez sea malo, pero siempre tiene las respuestas correctas y puede hacer todo. Su papel en la ficción es similar al de las hadas, dioses o seres sobrenaturales. Una respuesta diferente podría ser que tenemos que cambiar la forma en que pensamos en interactuar con las computadoras, porque en la interacción a la que estamos acostumbrados con las computadoras, son muy confiables. Una calculadora siempre le da la respuesta correcta, nunca tropieza en la tercera línea de una división larga. Pero [AI] son sistemas no deterministas, dan diferentes respuestas, son solo una coincidencia de patrones y no llevan a cabo este algoritmo perfectamente especificado para resolver sus problemas, es bastante nuevo y bastante diferente.

. ¿A qué distancia llegará la IA?

A. La gente habla como si hubiera una línea de meta, que es AGI, inteligencia general artificial. Si intentas profundizar en lo que es eso, mucha gente imagina que es cuando la IA es como un humano, tan bueno como un humano. Pero sabemos que la IA nunca tendrá el mismo perfil de habilidad que un humano. Ya hay cosas en las que la IA es mucho mejor que nosotros, y otras en las que es peor. Incluso si logramos una IA tan buena como un humano, seguirá siendo diferente. No creo que alguna vez tengamos robots que sean tan buenos como los humanos en el baile social, como la salsa o el baile de swing donde estás improvisando en vivo con otro humano. No tiene sentido construir algo así. Pero tendremos sistemas de IA muy poderosos, capaces de superar a los humanos en tareas estratégicas o intelectuales. Hablamos como si hubiera un destino obvio, pero en realidad no sabemos cómo será el futuro para que los sistemas de IA se vuelvan más avanzados.

. ¿Cuál es su principal preocupación con la IA?

A. Creo que hay muchas áreas de preocupación. Los malos escenarios que me parecen más probables son en la categoría en la que elegimos dar más y más autonomía a los sistemas de IA y elegimos incrustarlos cada vez más en la sociedad y en la economía y los militares. Ese sería el primer paso. El paso dos podría ser muchos escenarios diferentes. Podría ser que AIS comience a cooperar entre sí y eventualmente tome el control de los humanos. Podría ser que vivamos en un mundo que parece agradable, pero no tiene sentido: desplazar a Tiktok todo el día y tener una buena comida chatarra para comer pero sin vidas muy significativas. O que un pequeño número de personas comienzan a colaborar con el AIS, tomamos el control, y terminamos en un mundo totalitario, con un tipo de poder muy concentrado.

. ¿Realmente crees que eso puede suceder?

A. Creo que podría ir muy, muy mal. Creo que hay una gama mucho más amplia de cosas que podrían salir muy, muy mal que “todos mueren”. Tal vez todos mueran, pero ese parece un escenario muy específico para centrarse.

. Ya estamos viendo estudios donde la IA es capaz de manipulación. ¿Estás preocupado?

A. Depende de lo que estén tratando de convencerte. Un tipo de persuasión que me parece más realista son los cultos o religiones basadas en la IA, donde la gente cree que la IA es su amiga y los está cuidando, y es un ser sabio que deben seguir y escuchar. La historia de los cultos humanos nos dice que es bastante fácil encontrar uno y hacer que la gente haga algunas cosas bastante locas. Hasta ahora, generalmente han involucrado a un pequeño número de personas. Estoy seguro de que vamos a ver cultos basados ​​en la IA.

. No parece un asunto trivial crear una IA capaz de liderar un culto.

A. Va a ser interesante. Como mínimo, habrá muchas personas que tengan relaciones con sus compañeros de IA.

. ¿Qué tan avanzado está China en la IA?

A. Depende de qué parte de la IA esté viendo. En sistemas más avanzados, Estados Unidos todavía está por delante. Trabajo en seguridad nacional, y creo que es más difícil decirlo allí. Cómo se aplica la IA dentro del ejército importará más. Esperaría que los Estados Unidos estén mejor que China, pero no es fácil saberlo, y es un tipo diferente de problema que construir modelos más avanzados. Cuando hablamos de modelos fronterizos, eso también es difícil de medir. No sé si diría que China está un año o dos atrás. Los datos más recientes que tenemos es el lanzamiento de Deepseek V3. Deepseek lanzó dos modelos, y mucha gente estaba entusiasmada con R1, el modelo de razonamiento. Pero entre las personas que trabajan en IA, mucha gente piensa que el otro, V3, es más impresionante. Lanzaron esa en diciembre, y probablemente fueron de seis a nueve meses detrás del modelo equivalente en los EE. UU., Y el modelo de razonamiento fue de unos tres o cuatro meses de retraso. Pero desde entonces, las empresas estadounidenses han seguido progresando, y China aún no ha respondido. Actualmente tienen entre seis y doce meses atrás, pero esa brecha podría ampliarse con la implementación de controles de exportación de chips.

. ¿Qué tan temerosos debemos ser de IA militar?

A. AI es muchas cosas diferentes. Es muy natural y muy razonable que los militares usen AI. Todos los militares tienen un gran componente administrativo, con recursos humanos y finanzas, por lo que tiene mucho sentido para ellos usarlo como negocios. Tiene sentido usar la IA para procesar cuando tiene muchas más imágenes de las que sus analistas humanos pueden ver. También han tratado de usarlo para lo que llaman “mantenimiento predictivo”: por ejemplo, si tiene un montón de helicópteros y está tratando de averiguar cuándo debe hacer mantenimiento en ellos. Puede predecir mejor cuándo se va a agotarse un motor o cuándo debe reemplazarse una parte diferente.

. Y armas autónomas?

A. Los debates sobre la IA y los militares se centran demasiado en ese tema. Y es solo una pequeña parte de cómo la IA podría usarse en el ejército. Centrarse solo en armas autónomas no es el mejor enfoque. Tiendo a pensar que lo más importante para nosotros para centrarnos es en nuestras leyes existentes de conflictos armados, sobre el derecho internacional humanitario. ¿Estás distinguiendo entre combatientes y civiles? ¿Estás respondiendo proporcionalmente a los ataques? Cuando imaginamos escenarios en los que la IA y la guerra salen muy mal, a menudo es porque, por ejemplo, los civiles están siendo atacados en lugar de combatientes. Y eso ya es ilegal según el derecho internacional.

. ¿El modelo de negocio AI siempre estará basado en la suscripción?

A. Creo que el gran dinero vendrá de empresas, no de los consumidores. Debido a que es una tecnología multipropósito, no solo un chatbot divertido que las personas llevan en sus bolsillos, será una herramienta muy poderosa para todo tipo de productividad económica e innovación. Así que imagino que los ingresos en el lado comercial serán muy grandes.

. Si AI no avanza más, ¿ya tiene la capacidad de cambiar la economía?

A. Sí. Las tecnologías de uso general, como la IA, tardan décadas en integrarse en la economía. Si todo el desarrollo de la IA se detuviera ahora, no sé si sería una transformación tan grande como la gente pronostica, pero creo que ciertamente tan grande como Internet. La transición de no tener Internet a tener décadas. Incluso si nos detuviéramos ahora, todavía habría una gran cantidad de trabajo por hacer para integrar la IA en la atención médica, la educación, los procesos comerciales, la ley y las finanzas.

. ¿Y ya hemos llegado al techo de lo que AI puede hacer?

A. No apostaría por eso. La historia de los últimos 15 años en la IA no ha sido una de las grandes innovaciones que cambian por completo la forma en que se construye la IA, sino mejoras pequeñas o medianas que pueden apilarse una encima de la otra para seguir obteniendo cada vez más mejoras. En este momento, tenemos estos grandes modelos de idiomas, chatbots, a los que nos hemos acostumbrado. Pero las empresas están presionando en dos direcciones principales. Uno, modelos de razonamiento: enseñarles a pensar paso a paso para que puedan resolver problemas más duros. Y dos, agentes: enseñarles no solo a chatear con usted en una pequeña ventana del navegador, sino para salir y hacer cosas por usted y tomar medidas y ser productivos. Veremos grandes mejoras allí en los próximos 25 años.

. Es imposible predecir en qué dirección.

A. AI cambiará la forma en que funciona toda la economía política de la sociedad. Estamos en un momento inusual en este momento. Hay muchos países democráticos donde las personas tienen el control de una manera significativa. Pero eso parece estar comenzando a deslizarse en algunos países importantes. La IA reconfigurará el equilibrio de poder, por ejemplo, en el mercado laboral. ¿Cuánto poder tienen los trabajadores si atacan? ¿Cuántos soldados se necesitan en un ejército si tienes ciertos tipos de IA? El poder laboral presumiblemente disminuirá con la IA. Si podemos terminar en un mundo donde las personas tienen sus necesidades básicas y tienen acceso a la IA, eso podría ser un mundo maravilloso. Pero me preocupa que la condición básica de la humanidad para la mayor parte de la historia sea “podría hacer lo correcto” y quien tenga el poder puede hacer lo que quieren, y las personas que no tienen poder llevan vidas mucho peores.

Matricularse en Nuestro boletín semanal Para obtener más cobertura de noticias en inglés de El País USA Edition