“Ha sido esta cosa muy popular a lo largo de la historia predecir que todos trabajaremos cuatro horas a la semana o lo que sea. Pero parece que estamos bastante cableados para querer crear, para ser útiles para otras personas, para hacer cosas, para que me gusten, sentimos que estamos haciendo algo significativo “, dijo el director ejecutivo de Operai en una exclusiva Entrevista la semana pasada con The Times Tech Podcast. “No creo que nos quedemos sin cosas que hacer y tendremos esta existencia miserable donde nos sentamos y simplemente tomamos drogas y jugamos videojuegos”.
Uno escucha alguna versión de su respuesta, un hombro encogiéndose de hombros que es a la vez refrescantemente honesto y profundamente inquietante, de las personas en toda la industria, y en su compañía, mientras corren para construir máquinas súper inteligentes. El Sunday Times recientemente obtuvo un raro acceso al círculo interno de ejecutivos y codificadores de Altman en la sede de la compañía en San Francisco, antes de pasar por Londres camino a la Cumbre de Acción de AI de París de París de la semana pasada.
Sam Altman en el Sunday Times Building en Londres
Fotógrafo del Sunday Times Richard Pohle
La reunión en la capital francesa, de líderes, ejecutivos y científicos de más de 100 países, se anunció como una oportunidad para finalmente unir al mundo en cuestiones clave de gobernanza sobre una tecnología preparada para devolver a la economía y la sociedad. Al final, se logró poco más allá de una fotografía. Ni América ni Gran Bretaña incluso firmaron una declaración que era notable solo por lo poco notable y sin dientes que era.
Mientras que los políticos juegan, Altman y Co funcionan lo más rápido que pueden para ofrecer inteligencia general artificial (AGI), un término utilizado para describir un sistema que es mejor que los mejores humanos en cualquier tarea, para 2030, si no antes. Parecen ser impulsados por un optimismo de la costa oeste: una convicción de que están construyendo un futuro donde se curarán las enfermedades, se resolverán el cambio climático y se abrirán nuevos horizontes de posibilidades, todo con la magia de la inteligencia artificial.
Y, sin embargo, junto con el optimismo de la gasa, viene una admisión poco quirúrgica de que, para llegar allí, primero debemos pasar por un período de transición que, como lo expresó Altman, será muy “doloroso” y “desordenado” a medida que los trabajos se vaporizan, las picos de desigualdad y las puntas de desigualdad y Los gobiernos reaccionan. “Creo que habrá mucho bien y mucho mal. Mi esperanza y mi creencia genuina es que habrá órdenes de magnitud más buenas que malas de esto “, dijo Altman, y agregó:” Pero habrá muy mal, y creo que estás viendo algunas de ellas ahora “.
Escondido a la vista
Lo extrañarías si no supieras que estaba allí. La sede de San Francisco de Openai se encuentra en un almacén no notable en un área llena de almacenes: vestigios del pasado industrial de la ciudad. No hay letrero afuera, ni rascacielos que arroje una sombra sobre el horizonte, solo una gran caja gris.
La sede de Operai en San Francisco
David Paul Morris/Bloomberg/Getty Images
En el interior, todo es pisos de concreto pulido, madera rubia, una cocina replante de agua y café, y una profusión de plantas bañadas en sol difundidas a través de ventanas esmeriladas. En resumen, se parece a cualquier otra nueva empresa, pero para el reluciente piano negro Yamaha en el área de recepción principal y una silla de aguacate, un mueble inspirado en una imagen temprana de Dall-E, el generador de texto a imagen de OpenAi. Eso, hace solo tres años, sorprendió al mundo pero ahora parece bastante pasada.
Había un frisson de energía en el aire el día de la visita del Sunday Times; Las acciones tecnológicas de EE. UU. Habían entrado en caída libre después de que Deepseek, una compañía china previamente poco conocida, lanzó un modelo de IA gratuito que estaba a la par con ChatGPT de OpenAI. La revelación puesta pagada a la noción de que Estados Unidos, dirigido por la compañía de Altman, había abierto una gran ventaja en China.
Nick Turley, jefe de Chatgpt, no era sorprendido, principalmente. “Una compensación de ser la primera es que verás a la gente ponerse al día”, dijo. Pero Turley no estaba pensando en eso porque el mundo, en su opinión, está a punto de cambiar de nuevo, al igual que lo hizo cuando él y su equipo desataron a Chatgpt en noviembre de 2022. “Es el año de los agentes, en mi opinión”, agregó .
Los agentes son herramientas de IA que se liberan de un sitio web o el cuadro de búsqueda de la aplicación para salir a la web para llevar a cabo tareas por sí mismos, desde reservar boletos y enviar correos electrónicos, hasta realizar investigaciones profundas y fundamentales sobre el nivel de un doctorado o una ciudad Analista financiero.
“El mercado total direccionable para un agente general sorprendente, el conjunto total de problemas de los usuarios, es todo lo que hace en el navegador hoy”, dijo Turley. “Esto es lo que siempre se suponía que era cuando nos propusimos construir chatgpt. Nunca se suponía que fuera un chatbot. Internamente, lo llamamos el ‘Super Asistente’ “.
Operai ha lanzado dos agentes en las últimas semanas: operador, que puede hacer tareas básicas como compras en línea; e investigación profunda, que puede realizar investigaciones y generar informes. El operador, en particular, es bastante torpe, pero eso es parte del enfoque de implementación “iterativo” de OpenAi: expulsar los productos defectuosos para que el público pueda usarlos y proporcionar comentarios como una forma de acelerar su mejora.
Tyler Cowen, el prominente economista, se quedó atónito por las capacidades de Deep Research. “Lo he hecho escribir varios documentos de diez páginas para mí, cada uno de ellos sobresalientes. Pienso que la calidad es comparable a tener un buen asistente de investigación a nivel de doctorado, y enviar a esa persona con una tarea por una semana o dos, o tal vez más ”, escribió. “Excepto que la investigación profunda hace el trabajo en cinco o seis minutos”.
Altman agregó: “Con este lanzamiento, mucha gente ha dicho: ‘Este es mi momento AGI personal: está haciendo un trabajo real y económicamente valioso y no pensé que un sistema iba a hacer esto'”.
Estando atento al peligro
Los agentes se han convertido en el foco central de la mayoría de los principales desarrolladores de IA. De hecho, Anthrope, un rival de OpenAI, ha lanzado una función similar de “uso de computadora”, mientras que Google lanzó su agente Mariner a un pequeño grupo de personas en diciembre.
Para Johannes Heidecke, el jefe de sistemas de seguridad de OpenAi, desatar miles, y, en última instancia, miles de millones, de agentes cada vez más capaces en la web hace que su trabajo sea dramáticamente más duro. Pero, dijo, Openai había ideado un “marco de preparación” para evaluar los “riesgos catastróficos planteados por modelos cada vez más poderosos”.
• Probamos Chatgpt contra Deepseek. Cuidado con Sam Altman
Esto incluye un sistema de calificación sobre las habilidades de un modelo para, por ejemplo, evadir los controles impuestos por OpenAI o lanzar ataques cibernéticos, y un requisito para dejar de entrenar un modelo por completo si se vuelve demasiado peligroso. Y hay una ventaja, dijo, en modelos cada vez más poderosos: son mejores en la vigilancia de sí mismos.
“Vemos que, por ejemplo, nuestro [latest reasoning models]donde pasan un tiempo pensando antes de responder, se han vuelto mucho más robustos para los descansos en la cárcel “, dijo Heidecke, refiriéndose cuando las herramientas de IA calculan cómo evitar las limitaciones incorporadas. “Todavía hay mucho trabajo por hacer aquí, pero vemos muchos signos prometedores de que los modelos se vuelven más inteligentes y también lo que lleva a las victorias de seguridad”.
Y, sin embargo, solo días retirados de la cumbre húmeda de Squib en París, uno no puede escapar de la realidad de que tales medidas son en su mayoría voluntarias. No se ha aprobado una regulación significativa en Gran Bretaña o América, donde JD Vance, el vicepresidente, advirtió la semana pasada contra reglas “excesivas” que podrían “matar una industria transformadora”. La Ley de IA de la Unión Europea ha impuesto algunas restricciones básicas de “seguridad del producto”, pero se concibió en gran medida antes de que ChatGPT se lanzara en 2022.
Mientras tanto, las capacidades de IA se agravan con una velocidad increíble. Mark Chen, jefe de investigación de Openai, dijo: “Solíamos poder lanzar evaluaciones diseñadas para humanos en los modelos, ¿verdad? Los humanos compiten en concursos de matemáticas. Puedes tomar esas mismas competiciones de matemáticas y darlas a los modelos. Una de las cosas realmente notables durante el último año es que hemos roto esa barrera: hay muy pocos concursos o evaluaciones que podría diseñar para los humanos que aún son desafiantes para los modelos “.
Y, sin embargo, en estas primeras entradas de la Revolución AI, estas herramientas, para toda su capacidad de asombrosa, todavía hacen algunas cosas notablemente tontas. Google se avergonzó este mes cuando un anuncio de Super Bowl por su insignia Ai Gemini mostró un factoid erróneo sobre cuánto queso Gouda come el mundo. En diciembre, la IA de Apple reescribió un titular de la BBC sobre Luigi Mangione, alegando que el presunto asesino de un ejecutivo de atención médica de los Estados Unidos se había disparado.
Altman es entrevistado para el podcast Times Tech por Katie Prescott y Danny Fortson
Fotógrafo del Sunday Times Richard Pohle
Batalla por el dominio
A pesar de los pasos en falso, las fuerzas financieras y geopolíticas que empujan a la IA solo están creciendo. Operai es utilizado por más de 300 millones de personas cada semana, y está recaudando una nueva ronda de financiamiento, dirigida por SoftBank, que lo valoraría en $ 300 mil millones (£ 240 mil millones), 15 veces su valor en 2022. Los siete principales tecnologías estadounidenses Las empresas, Meta, Alphabet, Amazon, Microsoft, Nvidia, Tesla y Apple, están juntas gastando $ 560 mil millones en infraestructura de IA entre 2024 y finales de este año. Elon Musk, quien dirige su propia compañía de IA, Grok, ha tratado de reducir la velocidad de Openai a través de los tribunales, ha comenzado varias demandas, y la semana pasada anunció una oferta hostil de $ 97 mil millones para hacerse cargo de la compañía. Fue rechazado rápidamente.
• SoftBank sufre una pérdida trimestral sorpresa
Los puñetazos son parte de la batalla por el dominio de una tecnología que podría absorber billones de dólares, ya que automatiza las franjas de la economía. Geopolíticamente, la IA ha tomado el centro del escenario, como las grandes potencias de China, América y Europa se empeñan por la supremacía. Todos los líderes estadounidenses de IA, incluido OpenAI, han comenzado a trabajar recientemente con el establecimiento de defensa.
Altman dijo: “Creo que sería muy malo si el gobierno de los Estados Unidos no entiende la IA y el impacto que tendrá, por lo que nos gustaría tratar de ayudar”. Añadió: “Una cosa que creo que no es tan fácil de resolver es, ¿nos dirigimos hacia una IA más autoritaria o una IA más democrática? Obviamente, estoy muy en el lado democrático de la IA, pero eso viene con algunas compensaciones y eso vendrá con algunas cosas malas en la sociedad, como nunca hemos empoderado a las personas tanto como estamos a punto de hacerlo “.
En la sede de OpenAI, esas preocupaciones son, para la mayoría, no frontales. En cambio, la fuerza laboral se centra en construir un producto que funcione, y que las personas y las empresas pagarán. Joanne Jang, jefa de comportamiento modelo en la compañía, ha creado un equipo completo dedicado a lo que podría describirse libremente como la “personalidad” de Chatgpt. En términos prácticos, eso significa ajustar la especificación para que el modelo no sea demasiado sycofántico, pero no demasiado predicador, no para alucinar, sino para minimizar los tiempos que dice, en efecto, “no sé”.
Jang es, en cierto modo, construir la personalidad de nuestro futuro jefe. Ella dijo: “Creo que a largo plazo, definitivamente queremos tener múltiples personalidades predeterminadas y presets que los usuarios puedan explorar”.