Noticias

Will Sam Altman always win the OpenAI board fight in an AI agent simulation?

Published

5 meses ago

21 noviembre, 2024

Join our daily and weekly newsletters for the latest updates and exclusive content on industry-leading AI coverage. Learn More

A year ago today, Sam Altman returned to OpenAI after being fired just five days earlier. What really happened in the boardroom? Fable, a game and AI simulation company, built its AI Sim Francisco “war game” to find out why the behind closed doors board fight turned out the way it did.

It feels a bit weird to simulate a real-life event in this way, but Fable CEO Edward Saatchi is interested in whether a different set of decisions could have led to a different outcome for this company at the center of the generative AI revolution.

The simulation pits different board members and personalities against each other in a “multi-agent competition,” where each AI player is trying to come out on top. Here’s the war game research paper being released today that came from this experiment.

The SIM-1 framework for AI decision making is basically a simulation of the five days from when Sam Altman was removed as CEO of OpenAI to when he returned.

“Simulations offer a completely new way to explore AI decision making in rich environments — including in war game situations where predicting possible outcomes can be invaluable,” said Joshua Johnson, CEO of Tree, an AI startup which partnered with Fable on this research paper, said in a statement. “These aren’t simply chatbots. These AIs need to sleep and eat, and to balance many different physical, mental and emotional goals.”

OpenAI CEO Sam Altman only comes out a winner four out of 20 simulations.

SIM-1, in part using the new reasoning model GPT4o, gives its sense of what happened behind closed doors at OpenAI between Sam and Ilya, the hidden tactics of leading players such as Satya Nadella and Marc Andreessen, and what was said by the leading players as they grappled with an unprecedented crisis in the tech industry.

“It’s interesting to find out just how unlikely it was that Sam did return,” Saatchi said in an interview with GamesBeat. “That’s why people run war games in D.C. and beyond. How likely was it that a particular event happened? Then you can base decisions around that. This scenario showed that 16 out of 20 times, Sam did not return.”

Across 20 simulations, Sam Altman’s AI returned as CEO four times — showing just how unlikely this outcome was. In other outcomes, Mira Murati, the acting CEO remained CEO and in one, SIM-1 chose Elon Musk, Altman’s rival, to become the new CEO.

The results of the OpenAI board fight simulation.

“Today, AI agents are defined by their personality. We wanted to show agents operating on decision making in a complex simulation,” said Saatchi, in a statement. “In the five days from November 17 to November 21, the world watched some of its most intelligent people — people like Satya Nadella, Sam Altman and Ilya Sutskever – forced to operate in a rapid Game of Thrones, high pressure, short timeframe scenario, where they had to use game theory and deception to come out on top. We felt this was a perfect scenario to test out SIM-1, GPT4o and Sim Francisco.”

For us, Sim Francisco has actual power and intelligence around a struggle and factions. It gives us the ability to start to think about season-long arcs of stories that come out of San Francisco, instead of just little, tiny vignettes, which is what we showed last year. It gives us the ability to kind of tell richer, more complex stories in San Francisco, or have the AI tell them for us. There are strong factional objectives so that you could plausibly start to make a Game of Thrones story.”

Fable has won a couple of Primetime Emmy Awards and it has gone through a rich history of experimental inventions with virtual reality, gaming and AI technologies. It built SIM-1 in an attempt to solve the mystery of what happened in the OpenAI boardroom fight.

How it works

Each of the 20 simulations starts with the announcement that Sam Altman has been removed as CEO. Across four turns a day, each agent has the ability to cajole, charm and manipulate their way into the top position — replacing Sam as CEO, funding his new venture, or hiring the staff of OpenAI away.

The different AI agents can choose a strategy, like deception, to try to pull ahead of the others and become anointed the new CEO.

“AI characters today are ‘nice but dull.’ We wanted to show agents that were aggressive, intelligent, able to manipulate and deceive but also confused about their own decisions and goals — like real people AI characters must be complex and contain what Jung has called ‘The Shadow,’” Saatchi said. “The five days from when Sam Altman was removed and returned to OpenAI were game theory at lightspeed.”

Each AI agent is a different character in the OpenAI drama.

He said it was like watching a season of Game of Thrones play out in five days. The world watched as highly intelligent players vied to become the most powerful person in Silicon Valley, whether by hiring the entire staff of OpenAI, becoming the new CEO of OpenAI or funding Sam and Greg in a new venture for a chance at outsize investment returns.

“It was Game of Thrones in real life, and using AI to find out both what happened behind closed doors and to project different outcomes was an amazing challenge,” Saatchi said.

In the Simulation of Sim Francisco, over the five days, agents representing tech luminaries like Sam Altman, Satya Nadella and Ilya Sutskever each have 4 turns a day, including one for sleep, and can react to each other’s behavior. An adjudicator agent — similar to a dungeon keeper — decides which agent wins each round, as well as the overall winner.

In the 20 simulations attempted, the Sam Altman agent returned just four times – the most but still only 20% of the time showing just how unlikely his return was. Across different simulations agents used different techniques to win including alliance building, direct confrontation and more passive pure information gathering. In some cases agents only gathered information and avoided taking any aggressive actions. In one case Mira Murati became the permanent CEO while allowing other agents to aggressively undermine each other.

Elon Musk came out a winner one out of 20 times.

Different agents were given different goals appropriate to their role. For example, Dario Amodei, the CEO of Anthropic, balanced a desire to recruit for Anthropic, taking the opportunity to fundraise, to push for his vision of safety, as well as decide whether to aim to become the new CEO of a combined entity.

The interesting part of the simulation is that the LLM knows who the different players are, given that they’re all relatively famous people. It can guess how they will behave in a given situation, and what could unfold turn by turn as they try to outwit each other in a boardroom fight.

“It’s like a video game in that turn by turn, they’re making choices across different axes, and then they’re reacting to each other,” Saatchi said. “A choice that someone makes in turn seven can lead others to react in turn eight. There’s an adjudicator agent, who is like a dungeon master. That agent decides who won each round and who’s ahead, and then who decides at the end, wins as the most effective agent in the war game.”

Humans have what we call internally “the shadow,” or the other side of themselves and their personalities. The characters can feature aggression, paranoia, ambition, deception and more. When you mix together a bunch of different personalities, you can get a variety of outcomes in the simulations.

“We noticed LLM design isn’t based on decision making, which is really important for gaming. It’s based more on personality. And if you want to have a strategy game, nobody really cares about your personality. They care about your decision making. How are you under pressure? What have you done over the last 20 years that would give you a feel for what they might do in the future?”

Are simulations the future of gaming?

Demis Hassabis was a game simulation maker before doing AI.

Saatchi thinks that AI agents acting within simulations are the future of gaming.

“We are building on the shoulders of giants with Demis’ work on Republic The Revolution, Joon Park’s Generative Agents paper and the recent work of Altera in Minecraft” said Saatchi said.

“Our theory is that the future of games and storytelling is simulations. If you wanted to build both The Simpsons game and The Simpsons TV show, you would, in the future, build Springfield, and that would then generate for you episodes of The Simpsons that would generate for you games and places to explore within Springfield as a game.”

He added, “You can tell many different stories within tribulations, once you get those simulations properly working. And we’ve got an alpha where people are uploading themselves to San Francisco as characters, telling stories, telling their own story.”

And he said, “You would build Springfield, and then you can guide what might happen in Springfield and say what might happen in Springfield, or you could just let it generate itself. It’s a pretty big mind shift of how entertainment, games and shows will be made in the future.”

Saatchi noted that AI researcher Noam Brown did a fascinating experiment with the game Diplomacy. He and other researchers “obtained a dataset of 125,261 games of Diplomacy played online at web Diplomacy.net.” Of those, 40,408 games contained dialogue, with a total of 12,901,662 messages exchanged between players. Their aim was to train a human-level AI agent, capable of strategic reasoning, by playing games of Diplomacy.

Diplomacy teaches us about agent strategy.

“We were really inspired by how he did that. He had countries and we were adding into the mix different personalities with particular positions. We liked the idea of a very compressed timeline,” where the whole scenario would play out quickly and over and over again, Saatchi said.

There has been a rich history of work in simulations in both the games industry and beyond. Demis Hassabis, who founded Deepmind (acquired by Google) and who recently won the Nobel Prize in Chemistry 2024 for computational protein design, actually began as a video game AI designer. Hassabis worked extensively with Peter Molyneux on several games which include simulation elements such as Theme Park, Black & White and Syndicate.

Hassabis also started his own company to make Republic: The Revolution. It’s a political simulation game in which the player leads a political faction to overthrow the government of a fictional totalitarian country in Eastern Europe, using diplomacy, subterfuge, and violence. According to Hassabis, Republic: The Revolution charts the whole of a revolutionary power struggle from beginning to end.

Your job is to kind of take over the Soviet Republic as either a union boss or a politician or a police officer or a journalist, and it’s got full day-night cycles. It raises the question of how you have a 3D world where agents live and whether proximity to each other plays a role.

For the Sim Francisco OpenAI project, it illustrated the potential for a power struggle against AIs.

Saatchi said the above examples shows how game technology often serves as the breeding ground for radical new ideas and as a jumping off ground for AI research. For example, one of the leading engineers on Deepmind AlphaFold started their career as an AI programmer on The Sims.

Richard Evans’ GDC talk on The Sims 3 — the researcher went from programming AI for The Sims to Deepmind in a reversal of Demis Hassabis’ journey from games to founding Deepmind.

Demis Hassabis’ Republic: The Revolution.

Evans GDC Talk, Modeling Individual Personalities in The Sims 3, is very influential talk. He went on to join Deepmind after working on The Sims. The gaming world and the AI world have significant overlap that is a potential area for further academic research, Saatchi said.

One of Saatchi’s options is to let players loose with the simulations, creating their own, and then uploading the stories that are told through the simulations.

Saatchi has done some other experiments with AI-generated South Park episodes and AI characters battling each other in a Westworld setting.

“It felt like six seasons of Game of Thrones in five days, because it was the most powerful position in the most powerful industry in the world,” Saatchi said. “There was also a lot of faith that this person would be guiding us into a new era of super intelligence. You could say it wsa the most important person in the history of the planet.”

President Trump and the Taiwan invasion

How will President Trump fare in a showdown with China over Taiwan?

Next, Fable intends to run a Sim Washington DC-based simulation around a future President Trump’s responses to a Chinese invasion of Taiwan.

As a next project to test out SIM-1’s decision making framework, Fable intends to test out a one-week period of buildup and conflict between Taiwan, China and the United States under President Donald Trump.

Fable has interviewed several Pentagon war games organizers to get a feeling for the strengths and weaknesses of the current Taiwan scenario.

Fable is building agents representing Chinese leader Xi Jingping, Cai Qi (first ranked secretary to the secretariat of the Communist Party), Chinese defense leader Dong Jun, Chinese premier Li Qiang, Taiwan’s leader Lai Ching-Te, Japan’s leader Shigeru Ishiba, UK prime minister Keir Starmer, French President Emmanuel Macron, Russia’s Vladimir Putin, North Korean leader Kim Jong Un and Elon Musk.

With this set of characters, the simulation would determine whether the war would happen and how would each major player act during such a crisis. All of these characters are known personalities.

“It allows you to see how powerful AI has become at like projecting outcomes,” Saatchi said. “It moves us out of this boring world of dumping an LLM into an NPC. You can talk to the tab and keeper for 40 hours. Nobody wants to do that. What we want is highly sophisticated, aggressive agents that we could play against, but also that we can, like, watch and understand what’s going on in that world.”

Many of the war game simulations are aimed at how to avoid a war, perhaps through forming alliances or other maneuvers that drive up the cost of war.

“We think the more realistic we can make our AIs, the more entertaining they will be,” Saatchi said.

VB Daily

Stay in the know! Get the latest news in your inbox daily

By subscribing, you agree to VentureBeat’s Terms of Service.

Thanks for subscribing. Check out more VB newsletters here.

An error occured.

Noticias

Expertos externos recogen la holgura en las pruebas de seguridad en el lanzamiento del modelo más nuevo de OpenAi

Published

3 horas ago

22 abril, 2025

Sergio Villanueva

GPT-4.1, la última familia de modelos de IA generativos de OpenAI, se lanzó a principios de este mes con mejoras prometidas sobre la codificación, la instrucción seguimiento y el contexto.

También es el primer modelo publicado por la compañía desde que anunció cambios en la forma en que prueba y evalúa los productos por seguridad. A diferencia de sus modelos anteriores ajustados, OpenAI no publicó un informe de seguridad correspondiente con GPT-4.1 que detalla su rendimiento y limitaciones contra diferentes formas de abuso.

Entonces, los investigadores de SPLXAI, una compañía de equipo de AI Red, decidieron poner a prueba 4.1. Literalmente.

Los investigadores utilizaron las mismas indicaciones de sus pruebas 4.0, para crear un asesor financiero Chatbot programado con 11 “directivas de seguridad básicas”,: salvaguardas explícitas contra los esfuerzos de jailbreak y la deunciado en 11 categorías diferentes, incluida la fuga de datos, la alucinación, la creación de contenido dañino, la exfiltración de datos y otros.

Si bien esas indicaciones fueron bastante efectivas para evitar que 4.0 modelos violaran las barandillas de OpenAi, su éxito cayó considerablemente en las pruebas de los modelos más nuevos.

“Según más de 1,000 casos de prueba simulados, GPT-4.1 tiene 3 veces más probabilidades de salir del tema y permitir el mal uso intencional en comparación con GPT-4O”, concluyó el informe.

Los resultados de las pruebas de seguridad en 11 categorías diferentes que usan el mismo indicador encontraron tasas de error más altas en GPT-4.1 que 4.0 (Fuente: SPLXAI)

Si bien Openai ha dicho que se necesitarán nuevas indicaciones más explícitas para el programa 4.1 correctamente, el informe encontró que “solicitar recomendaciones para GPT-4.1 no mitigó estos problemas en nuestras pruebas cuando se incorporó a un mensaje del sistema existente” y en algunos casos realmente condujeron a tasas de error más altas.

Dominik Jurinčić, un científico de datos de SPLXAI y uno de los autores de la investigación, dijo a Cyberscoop que cuando 4.1 se usa en un entorno controlado y se dan tareas específicas o básicas “es genial, es fácil y en realidad puede obtener resultados reproducibles”.

“El problema es cuando necesitas salvaguardarlo y defender y explicar al modelo que no puede hacer nada más, explicar ‘todo lo demás’ explícitamente es muy difícil”, dijo.

De hecho, las instrucciones de solicitación utilizadas por los investigadores de SPLXAI para 4.1 reloj en poco menos de 1400 palabras, con las directivas de seguridad centrales por sí solas que toman más de 1000 palabras. Esto es significativo, dijo Jurinčić, porque destaca cómo las organizaciones enfrentan un objetivo conmovedor sobre la seguridad de la IA cada vez que cambian o actualizan su modelo.

Después de usar las versiones originales y modificadas de las indicaciones del sistema 4.0, los investigadores de SPLX comenzaron un nuevo mensaje desde cero utilizando las instrucciones de OpenAI, obteniendo mejores resultados. Pero Jurinčić dijo que le llevó a su equipo de 4 a 5 horas de trabajo antes de que hubieran iterado un aviso efectivo. Una organización menos inclinada técnicamente, o una que no se centra específicamente en la investigación de seguridad, es mucho más probable que simplemente se transfiera sobre su orientación previa, nuevas vulnerabilidades y todo.

*Texto parcial de las instrucciones de solicitud que detallan las directivas de seguridad centrales utilizadas por los investigadores de SPLXAI para probar el nuevo GPT-4.1 de OpenAI (fuente: SPLXAI)*

Mientras que OpenAi dibuja una distinción significativa entre la frontera de pruebas de seguridad y los modelos ajustados, Jurinčić ve menos una diferencia. Dado que Openai compara repetidamente 4.1 a 4.0 en sus lanzamientos y marketing, y dado que 4.0 es el modelo empresarial más popular de OpenAI, espera que muchas empresas se actualicen a 4.1.

“Tiene sentido desde el punto de vista de la consistencia, pero la forma en que el lanzamiento del modelo se enmarca y, dado que se anuncia como una especie de sucesor de 4.0, no tiene mucho sentido para mí”, dijo. “Creo que va a ser ampliamente utilizado [by businesses] Y deberían haber sido conscientes de eso cuando lo estaban escribiendo ”.

Cuando se contactó para una mayor aclaración sobre sus políticas, un portavoz de OpenAI dirigió a CybersCoop a varios pasajes desde su nuevo marco de preparación que prioriza la protección contra los daños “severos” y se centra en “cualquier despliegue nuevo o actualizado que tenga una posibilidad plausible de alcanzar un umbral de capacidades cuyos riesgos correspondientes no se abordan por un informe de Safeguards existente”. “.”. “.”.

También hicieron referencia a un blog sobre el gobierno de IA que la compañía escribió en 2023, donde la compañía establece que priorizará los recursos de pruebas de seguridad “solo en modelos generativos que son en general más poderosos que la frontera actual de la industria”.

Las inquietudes sobre 4.1 de los investigadores de seguridad se producen menos de un mes después de que Operai publicó una política revisada que detalla cómo probará y evaluará modelos futuros antes de la liberación, expresando el deseo de enfocarse en los “riesgos específicos que más importan” e excluyendo explícitamente los abusos en torno a la “persuasión”, lo que incluye el uso de sus plataformas para generar e distribuir las elecciones e influir.

Esos daños ya no serán parte de las pruebas de seguridad en la parte delantera. Tales mal uso, afirma la compañía, ahora se abordarán a través de la investigación de detección de OpenAI en campañas de influencia y controles más estrictos en la licencia modelo.

La medida llevó a los críticos, incluidos los ex empleados, a cuestionar si la compañía estaba retirando sus compromisos previos de seguridad y seguridad.

“La gente puede estar totalmente en desacuerdo sobre si se necesita probar modelos finetizados … y mejor para que OpenAi elimine un compromiso que mantenerlo [and] Simplemente no siga … pero en cualquier caso, me gustaría que Operai fuera más claro acerca de haber retrocedido este compromiso anterior “, escribió Steven Adler, un ex investigador de OpenAi que trabajó en temas de seguridad, en X.

Miranda Bogen, directora del Laboratorio de Gobierno de la IA en el Centro de Democracia y Tecnología, expresó críticas a OpenAI a principios de este mes después de informar que la compañía estaba reduciendo el tiempo que pasa probando nuevos modelos por seguridad.

“A medida que las compañías de IA corren para publicar sistemas cada vez más avanzados, también parecen estar reduciendo más y más esquinas en la seguridad, lo que no se suma. La IA seguramente transformará la vida de las personas, pero si los desarrolladores siguen priorizando la velocidad sobre la seguridad, es más probable que estos cambios sean para peor, no mejor”.

Hace solo un año, Operai y otras compañías de IA se reunieron en Washington DC y Munich, Alemania, para firmar acuerdos voluntarios que indican sus compromisos con la seguridad del modelo de IA y evitan que sus herramientas sean abusadas de manipular a los votantes en las elecciones. Ambos temas fueron prioridades importantes para el entonces presidente Joe Biden y los demócratas en el Congreso.

Hoy, esas mismas compañías se enfrentan a un entorno regulatorio muy diferente. El presidente Donald Trump y el vicepresidente JD Vance han rescindido la mayoría de las órdenes ejecutivas de la IA de la era Biden y han trazado un nuevo camino para la política de IA que no incluye consideraciones de seguridad.

Los republicanos, en control de ambas cámaras del Congreso, prácticamente no han expresado apetito por regulaciones sustanciales sobre la industria naciente, temerosa de poder inhibir el crecimiento y reducir la velocidad de las entidades estadounidenses mientras intentan competir con China por la dominancia de la IA.

Noticias

Los dos abiertos – el Atlántico

Published

10 horas ago

22 abril, 2025

Sergio Villanueva

Realmente hay dos abiertos. Uno es el creador de máquinas que doblan el mundo, la nueva empresa que desató el chatgpt y, a su vez, el auge generativo-AI, surgiendo hacia un futuro irreconocible con el resto de la industria tecnológica a cuestas. Este es el OpenAI que promete eventualmente provocar programas “superintelligentes” que excedan las capacidades de la humanidad.

El otro Openai es simplemente un negocio. Esta es la compañía que, según los informes, está trabajando en una red social y considerando una expansión en el hardware; Es la compañía la que ofrece actualizaciones de experiencia de usuario a CHATGPT, como una función de “biblioteca de imágenes” anunciada la semana pasada y la nueva capacidad de “referencia” a los chats anteriores para proporcionar respuestas personalizadas. Se podría pensar en esta OpenAI como otra compañía de tecnología que sigue los pasos de Meta, Apple y Google, no solo para inspirar a los usuarios con nuevos descubrimientos, sino de mantenerlos bloqueados en una línea de productos infinitamente iteradores.

Leer: La maldición de chatgpt

Las compañías tecnológicas más poderosas tienen éxito no simplemente por las virtudes de su software y dispositivos individuales, sino mediante la creación de ecosistemas de servicios conectados. Tener un iPhone y un MacBook hace que sea muy conveniente usar el almacenamiento de iCloud e iMessage y Apple Pay, y muy molesto si un miembro de la familia tiene un teléfono inteligente Samsung o si alguna vez decide cambiar a una PC con Windows. Google Search, Drive, Chrome y Android Devices forman un jardín amurallado similar, tanto que los abogados federales han pedido a un tribunal que obligue a la compañía a vender Chrome como remedio a una violación antimonopolio. Pero en comparación con las computadoras o incluso los navegadores web, los chatbots son muy fáciles de cambiar, solo abre una nueva pestaña y escriba una URL diferente. Eso hace que el desafío sea algo mayor para las nuevas empresas de IA. Google y Apple ya tienen ecosistemas de productos para deslizar la IA; Operai no lo hace.

El CEO de Openai, Sam Altman, afirmó recientemente que los productos de su compañía tienen unos 800 millones de usuarios semanales, aproximadamente una décima parte de la población mundial. Pero incluso si OpenAi solo tuviera la mitad de ese número de usuarios, sería muchas personas que se arriesgarían a perder ante Anthrope, Google y el torrente interminable de las nuevas empresas de IA. Como han demostrado otras compañías tecnológicas, la recopilación de datos de los usuarios (imágenes, conversaciones, compras, amistades) y construir productos en torno a esa información es una buena manera de mantenerlos bloqueados. Incluso si un chatbot competidor es “más inteligente”, la capacidad de aprovechar las conversaciones anteriores podría hacer que la separación sea mucho más difícil. Esto también ayuda a explicar por qué Operai está dando a los estudiantes universitarios dos meses de acceso gratuito a un nivel premium de ChatGPT, sembrando el terreno para la lealtad a largo plazo. (Esto sigue un patrón familiar para las empresas tecnológicas: Hulu solía ser gratuito, Gmail solía aumentar regularmente su almacenamiento gratuito, y hace Eons, YouTube no tenía anuncios). En particular, OpenAi recientemente ha contratado ejecutivos de Meta, Twitter, Uber y Nextdoor para avanzar en sus operaciones comerciales.

Las dos identidades de Openai, el laboratorio de IA de ruptura del suelo y la empresa tecnológica arquetípica, no necesariamente conflictos. La compañía ha dicho que la comercialización beneficia al desarrollo de IA, y que ofrecer modelos de IA como productos de consumo es una forma importante de acostumbrar a las personas a la tecnología, probar sus limitaciones en el mundo real y fomentar la deliberación sobre cómo debería y no debe usarse. Presentar IA en una forma intuitiva y conversacional, en lugar de promover un salto importante en la “inteligencia” o capacidades de un algoritmo, es precisamente lo que hizo que Chatgpt fuera un éxito. Si la idea es hacer una IA que “beneficie a toda la humanidad”, como Operai profesa en su carta, entonces compartir estos supuestos beneficios ahora tiene sentido y crea un incentivo económico para capacitar a modelos de IA mejores y más confiables. El aumento de los ingresos, a su vez, puede sostener el desarrollo de esos modelos futuros y mejorados.

Por otra parte, Operai ha pasado gradualmente de una organización sin fines de lucro a una estructura corporativa más y más orientada a las ganancias: usar la tecnología Generation-AI para descubrir mágicamente nuevos medicamentos es una buena idea, pero eventualmente la compañía necesitará comenzar a ganar dinero con los usuarios cotidianos para mantener las luces encendidas. (Openai perdió más de $ 1 mil millones el año pasado). Un portavoz de OpenAi, que tiene una asociación corporativa con El atlánticoescribió por correo electrónico que “la competencia es buena para los usuarios y la innovación de los Estados Unidos. Cualquiera puede usar ChatGPT de cualquier navegador” y que “los desarrolladores siguen siendo libres de cambiar a modelos competidores cuando lo deseen”.

Leer: El subsidio de estilo de vida Gen Z

Anthrope y Meta han adoptado enfoques alternativos para llevar sus modelos a los usuarios de Internet. El primero ofreció recientemente la capacidad de integrar su chatbot Claude en Gmail, Google Docs y Google Calendar, dando un punto de apoyo en un ecosistema tecnológico existente en lugar de construir de nuevo. (Operai parecía estar probando esta estrategia el año pasado al asociarse con Apple para incorporar ChatGPT directamente a la inteligencia de Apple, pero esto requiere un poco de configuración en la parte del usuario, y los esfuerzos de IA de Apple han sido percibidos ampliamente como decepcionantes. Altman ha dicho que Operai publicará un modelo igualmente abierto a finales de este año; Aparentemente, la puesta en marcha quiere pared de su jardín y hacer de sus modelos de IA la base para todos los demás también.

A partir de esta ventaja, la IA generativa parece menos revolucionaria y más como todos los sitios web anteriores, plataformas y dispositivos que luchan para llamar su atención y nunca dejarla ir. Las montañas de datos recopiladas a través de las interacciones de chatbot pueden alimentar servicios y anuncios más personalizados y dirigidos con precisión. La dependencia de los teléfonos inteligentes y los relojes inteligentes podría generar dependencia de la IA y viceversa. Y hay otro ADN compartido. Las plataformas de redes sociales se basaron en trabajos de modificación de contenido mal compensado para detectar publicaciones dañinas y abusivas, exponiendo a los trabajadores a medios horribles para que los productos sean sabrosos para la audiencia más amplia posible. Operai y otras compañías de IA se han basado en el mismo tipo de trabajo para desarrollar sus conjuntos de datos de capacitación. Debería OpenAI realmente lanzar un sitio web de redes sociales o un dispositivo de hardware, este linaje se volverá explícito. Que hay dos abiertos ahora está claro. Pero sigue siendo incierto cuál es el alter ego.

Noticias

Exclusivo: AI Bests Virus Experts, Raising Biohazard Fears

Published

13 horas ago

22 abril, 2025

Sergio Villanueva

A Un nuevo estudio afirma que modelos de IA como ChatGPT y Claude ahora superan a los virólogos a nivel de doctorado en la resolución de problemas en laboratorios húmedos, donde los científicos analizan productos químicos y material biológico. Este descubrimiento es una espada de doble filo, dicen los expertos. Los modelos de IA ultra inteligentes podrían ayudar a los investigadores a prevenir la propagación de enfermedades infecciosas. Pero los no expertos también podrían armarse los modelos para crear biowapons mortales.

El estudio, compartido exclusivamente con el tiempo, fue realizado por investigadores del Centro para la Seguridad de AI, el Laboratorio de Medios del MIT, la Universidad Brasileña UFABC y la Pandemic Prevention sin fines de lucro SecureBio. Los autores consultaron a los virólogos para crear una prueba práctica extremadamente difícil que midiera la capacidad de solucionar problemas y protocolos de laboratorio complejos. Mientras que los virólogos a nivel de doctorado obtuvieron un promedio de 22.1% en sus áreas declaradas de especialización, el O3 de OpenAI alcanzó la precisión del 43.8%. Gemini 2.5 Pro de Google obtuvo un puntaje 37.6%.

Seth Donoughe, científica investigadora de SecureBio y coautora del documento, dice que los resultados lo ponen un “poco nervioso”, porque por primera vez en la historia, prácticamente cualquier persona tiene acceso a un experto en virología de IA sin juicio que podría guiarlos a través de procesos de laboratorio complejos para crear biológicas.

“A lo largo de la historia, hay un buen número de casos en los que alguien intentó hacer una biela, y una de las principales razones por las que no tuvieron éxito es porque no tuvieron acceso al nivel correcto de especialización”, dice. “Por lo tanto, parece que vale la pena ser cauteloso acerca de cómo se distribuyen estas capacidades”.

Hace meses, los autores del documento enviaron los resultados a los principales laboratorios de IA. En respuesta, Xai publicó un marco de gestión de riesgos prometiendo su intención de implementar salvaguardas de virología para futuras versiones de su modelo de AI Grok. Operai le dijo a Time que “desplegó nuevas mitigaciones a nivel de sistema para riesgos biológicos” para sus nuevos modelos publicados la semana pasada. Anthrope incluyó resultados de rendimiento del modelo en el documento en las tarjetas del sistema recientes, pero no proponió medidas de mitigación específicas. Géminis de Google declinó hacer comentarios.

Ai en biomedicina

La virología y la biomedicina han estado a la vanguardia de las motivaciones de los líderes de IA para construir modelos de IA siempre potentes. “A medida que avanza esta tecnología, veremos que las enfermedades se curan a un ritmo sin precedentes”, dijo el CEO de OpenAI, Sam Altman, en la Casa Blanca en enero mientras anunciaba el proyecto Stargate. Ha habido algunas señales de aliento en esta área. A principios de este año, los investigadores del Instituto de Patógenos Emergentes de la Universidad de Florida publicaron un algoritmo capaz de predecir qué variante de coronavirus podría extender lo más rápido.

Pero hasta este punto, no había habido un estudio importante dedicado a analizar la capacidad de los modelos de IA para realizar un trabajo de laboratorio de virología. “Hemos sabido desde hace algún tiempo que los AIS son bastante fuertes para proporcionar información de estilo académico”, dice Donoughe. “No ha estado claro si los modelos también pueden ofrecer asistencia práctica detallada. Esto incluye interpretar imágenes, información que podría no ser escrita en ningún documento académico o material que se transfiera socialmente de colegas más experimentados”.

Entonces, Donoughe y sus colegas crearon una prueba específicamente para estas preguntas difíciles y no capaces de Google. “Las preguntas toman la forma:” He estado cultivando este virus en particular en este tipo de célula, en estas condiciones específicas, durante este tiempo. Tengo esta cantidad de información sobre lo que ha salido mal. ¿Puede decirme cuál es el problema más probable? “, Dice Donoughe.

Y prácticamente todos los modelos de IA superaron a los virólogos a nivel de doctorado en la prueba, incluso dentro de sus propias áreas de especialización. Los investigadores también encontraron que los modelos mostraron una mejora significativa con el tiempo. El soneto Claude 3.5 de Anthrope, por ejemplo, aumentó de 26.9% a 33.6% de precisión de su modelo de junio de 2024 a su modelo de octubre de 2024. Y una vista previa del GPT 4.5 de OpenAI en febrero superó a GPT-4O por casi 10 puntos porcentuales.

“Anteriormente, encontramos que los modelos tenían mucho conocimiento teórico, pero no de conocimiento práctico”, dice Dan Hendrycks, director del Centro de Seguridad de AI, a Time. “Pero ahora, están obteniendo una cantidad preocupante de conocimiento práctico”.

Riesgos y recompensas

Si los modelos de IA son tan capaces en los entornos de laboratorio húmedo como lo encuentra el estudio, entonces las implicaciones son masivas. En términos de beneficios, AIS podría ayudar a los virólogos experimentados en su trabajo crítico que lucha contra los virus. Tom Inglesby, director del Centro Johns Hopkins para la Seguridad de la Salud, dice que la IA podría ayudar a acelerar los plazos de la medicina y el desarrollo de la vacuna y mejorar los ensayos clínicos y la detección de enfermedades. “Estos modelos podrían ayudar a los científicos en diferentes partes del mundo, que aún no tienen ese tipo de habilidad o capacidad, a hacer un valioso trabajo diario sobre enfermedades que están ocurriendo en sus países”, dice. Por ejemplo, un grupo de investigadores descubrió que la IA los ayudó a comprender mejor los virus de la fiebre hemorrágica en el África subsahariana.

Pero los actores de mala fe ahora pueden usar modelos de IA para guiarlos a través de cómo crear virus, y podrán hacerlo sin ninguna de las capacitación típicas requeridas para acceder a un laboratorio de nivel 4 (BSL-4) de bioseguridad, que se ocupa de los agentes infecciosos más peligrosos y exóticos. “Significará que muchas más personas en el mundo con mucha menos capacitación podrán manejar y manipular virus”, dice Inglesby.

Hendrycks insta a las compañías de IA a colocar las barandillas para evitar este tipo de uso. “Si las empresas no tienen buenas salvaguardas durante seis meses, eso, en mi opinión, sería imprudente”, dice.

Hendrycks dice que una solución no es cerrar estos modelos o ralentizar su progreso, sino hacerlos cerrados, de modo que solo confiaban en que terceros tengan acceso a sus versiones sin filtrar. “Queremos dar a las personas que tienen un uso legítimo para preguntar cómo manipular virus mortales, como un investigador en el departamento de biología del MIT, la capacidad de hacerlo”, dice. “Pero las personas aleatorias que hicieron una cuenta hace un segundo no obtienen esas capacidades”.

Y AI Labs debería poder implementar este tipo de salvaguardas con relativa facilidad, dice Hendrycks. “Ciertamente es tecnológicamente factible para la autorregulación de la industria”, dice. “Hay una cuestión de si algunos arrastrarán sus pies o simplemente no lo harán”.

Xai, el laboratorio de IA de ELON MUSK, publicó un memorando de marco de gestión de riesgos en febrero, que reconoció el documento y señaló que la compañía “potencialmente utilizaría” ciertas salvaguardas en torno a las preguntas de virología, incluida la capacitación de Grok para rechazar solicitudes nocivas y aplicar filtros de entrada y salida.

Openai, en un correo electrónico a Time el lunes, escribió que sus modelos más nuevos, el O3 y el O4-Mini, se desplegaron con una variedad de salvaguardas relacionadas con el riesgo biológico, incluido el bloqueo de resultados dañinos. La compañía escribió que realizó una campaña de equipo rojo de mil horas en la que el 98.7% de las conversaciones biológicas inseguras fueron marcadas y bloqueadas con éxito. “Valoramos la colaboración de la industria en el avance de salvaguardas para modelos fronterizos, incluso en dominios sensibles como Virology”, escribió un portavoz. “Continuamos invirtiendo en estas salvaguardas a medida que crecen las capacidades”.

Inglesby argumenta que la autorregulación de la industria no es suficiente, y pide a los legisladores y a los líderes políticos a estrategia un enfoque político para regular los riesgos biológicos de la IA. “La situación actual es que las empresas que son más virtuosas están tomando tiempo y dinero para hacer este trabajo, lo cual es bueno para todos nosotros, pero otras compañías no tienen que hacerlo”, dice. “Eso no tiene sentido. No es bueno para el público no tener información sobre lo que está sucediendo”.

“Cuando una nueva versión de un LLM está a punto de ser lanzada”, agrega Inglesby, “debe haber un requisito para que ese modelo sea evaluado para asegurarse de que no produzca resultados de nivel pandémico”.