Noticias

Esas audaces predicciones de AGI de repente parecen exageradas

Published

4 días ago

17 noviembre, 2024

Sergio Villanueva

Recientemente se le preguntó al director ejecutivo de OpenAI, Sam Altman, qué esperaba en 2025.

“¿AGI? Sí, emocionado por eso”, dijo en una entrevista en video publicada en YouTube.

AGI, o inteligencia artificial general, es un futuro teórico en el que los sistemas informáticos autónomos superan a los humanos en la mayoría de los trabajos económicamente valiosos. El auge de la IA generativa ha inspirado predicciones audaces de AGI que van desde que esto suceda en 2025, 2026 o tal vez 2027.

Sin embargo, últimamente ha habido una gran cantidad de noticias y acontecimientos que han hecho que estas predicciones parezcan, en el mejor de los casos, equivocadas.

“Siempre fue una exageración. Ahora eso ha quedado claro”, dijo Oren Etzioni, profesor de ciencias de la computación que dirigió el Instituto Allen para la IA durante casi una década y ahora ayuda a administrar una incubadora de IA con sede en Seattle.

Se están gastando billones de dólares en tales predicciones. Las empresas de tecnología y otras empresas están gastando enormemente en talento, hardware y software de IA, asumiendo que esta tecnología seguirá mejorando.

“¡El AGI es importante! Es importante que la gente entienda qué es realista y qué es exageración”, dijo Etzioni. “Mi frase favorita sobre este tema es: nunca confundas una vista clara con una distancia corta”.

Signos recientes de duda

La suposición central detrás del revuelo y la esperanza de la industria de la IA es la siguiente: cuando se agregan más datos, potencia informática y tiempo de entrenamiento, se producen mejores modelos de IA a un ritmo constante y predecible.

Ésa es la razón principal de los enormes avances en los últimos años en el rendimiento de los modelos de IA. Es lo que hizo que ChatGPT fuera tan inteligente y útil.

Sin embargo, recientemente ha habido múltiples señales de que los beneficios de este método se han ralentizado. A pesar de que se agregan más datos y cálculos a esto, es posible que no funcione tan bien.

El cofundador de OpenAI, Ilya Sutskever, dijo a Reuters que los resultados de la ampliación de modelos de IA como este se han estancado.
“En algún momento, el paradigma de escalamiento se rompe”, dijo el investigador de OpenAI Noam Brown en una conferencia reciente.
Algunos empleados de OpenAI le dijeron a The Information que la startup está luchando por mejorar significativamente su próximo modelo Orion AI. El aumento en la calidad fue mucho menor en comparación con el salto entre GPT-3 y GPT-4, los dos últimos modelos insignia de OpenAI.
Una nueva versión de Gemini de Google no está a la altura de las expectativas internas, informó Bloomberg. Google no ha logrado las mejoras de rendimiento que algunos líderes esperaban después de dedicar grandes cantidades de potencia informática y datos de capacitación al esfuerzo, informó The Information esta semana.
Un portavoz de Google dijo a Bloomberg que el gigante tecnológico está reconsiderando cómo aborda los datos de entrenamiento.

Marc y Ben opinan

Los capitalistas de riesgo Marc Andreessen y Ben Horowitz discutieron esto en un podcast reciente. Estas personas no son luditas. Por el contrario, son tecno-optimistas alcistas que regularmente hacen sus propias predicciones audaces, como la famosa visión de Andreessen de que “el software se está comiendo el mundo”.

Esta vez, tienen dudas sobre la capacidad de las empresas de IA para seguir mejorando los modelos al mismo ritmo que lo han hecho en los últimos años.

“Están alcanzando el mismo límite de capacidades”, dijo Andreessen. “Ahora, hay muchas personas inteligentes en la industria trabajando para superar esos límites, pero sentados aquí hoy, si simplemente miras los datos, si miras los gráficos de desempeño a lo largo del tiempo, dirías que hay al menos una Lo que está sucediendo es la superación local de las capacidades”.

Horowitz señaló varios factores que están frenando las mejoras del modelo de IA, incluida la falta de nuevos datos humanos de alta calidad y los problemas para obtener la energía adicional necesaria para alimentar los centros de datos de IA.

“Una vez que obtengan los chips, no tendremos suficiente energía. Y una vez que tengamos la energía, no tendremos suficiente refrigeración”, dijo. “Realmente hemos desacelerado en términos de la cantidad de mejoras. Y lo que hay que tener en cuenta es que el aumento de GPU fue comparable, por lo que estamos aumentando las GPU al mismo ritmo, pero no estamos obteniendo las mejoras de inteligencia en todo fuera de esto.”

Preguntas sobre AGI

Si el principal método probado y verdadero para mejorar los modelos de IA ya no funciona, es poco probable que obtengamos AGI en el corto plazo.

Le pregunté a OpenAI y Google sobre todo esto. No respondieron. Otra importante startup de IA, Anthropic, me envió un comunicado que decía: “No hemos visto ninguna señal de desviaciones de las leyes de escala”.

El jueves, Altman tuiteó: “No hay muro”, una probable respuesta a este aluvión de señales que sugieren una desaceleración en las mejoras del modelo de IA.

Podría haber otra razón por la que Altman sigue siendo tan optimista en cuanto a alcanzar el AGI pronto. Si OpenAI alcanza este objetivo, su gran acuerdo con Microsoft cambiará, probablemente a favor de la startup.

“La junta determina cuándo hemos alcanzado el AGI. Nuevamente, por AGI nos referimos a un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos económicamente valiosos”, explica OpenAI en su sitio web. Un sistema de este tipo está excluido de las licencias de propiedad intelectual y otros términos comerciales con Microsoft, que sólo se aplican a la tecnología anterior a AGI.” También le pregunté a OpenAI sobre esto, pero no obtuve respuesta.

Las audaces predicciones de AGI de Altman también pueden ser un grito de guerra eficaz para los empleados trabajadores de OpenAI. Elon Musk ha estado prediciendo humanos en Marte y autos autónomos durante años y, a menudo, incumple plazos y predicciones. Pero entusiasma a las tropas con una visión poderosa.

AGI para 2025 es sin duda una mejor declaración de misión que objetivos de IA más mundanos y alcanzables como “¡automatizaremos la facturación de la empresa!” (aunque tal vez no sea tan rentable).

Las tendencias tecnológicas no duran para siempre

Otras tendencias tecnológicas también acaban de dejar de funcionar después de años de progreso constante. Y las repercusiones no han sido buenas para algunas empresas involucradas.

La Ley de Moore es probablemente el mejor ejemplo. Dicho esto, el número de transistores en un circuito integrado se duplica aproximadamente cada dos años. Eso se convirtió en evangelio en la industria tecnológica e impulsó enormes ganancias en potencia informática y otros beneficios, especialmente para Intel.

Entonces simplemente dejó de funcionar. de acuerdo a Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT. Intel tardó cinco años en pasar de la tecnología de chip de 14 nanómetros (2014) a la tecnología de 10 nanómetros (2019), en lugar de los dos años que predijo la Ley de Moore.

Desde que los inversores se dieron cuenta de esto alrededor de 2019, las acciones de Intel se han desplomado alrededor de un 50%. Nunca se ha recuperado realmente de eso, al menos no todavía.