Cómo Operai perdió almizcle y apuntó a “algo mágico”

En 2018, Reid Hoffman recibió una llamada en pánico de Sam Altman. Las cosas no iban bien dentro de Openai. “Sabíamos lo que queríamos hacer”, dijo Altman. “Sabíamos por qué queríamos hacerlo. Pero no teníamos idea de cómo”. Su gente intentó aplicar la IA a los videojuegos, como lo había hecho DeepMind, y dedicó demasiado tiempo experimentando con una mano robótica que habían construido que podía descifrar el cubo de Rubik. Estaban tambaleándose. Pero el verdadero problema era almizcle. “Elon no está feliz”, dijo Altman a Hoffman.

La carrera para construir el primer modelo de IA poderoso siempre había sido personal para Musk. En el verano de 2015, él y Larry Page habían tenido una amarga discusión sobre la IA. Donde Page veía la inteligencia artificial como un acelerador que podría elevar a la humanidad, Musk argumentó que la tecnología era más probable que condujera a nuestra destino. Según se informa, los dos dejaron de hablar por eso. Unas semanas más tarde, Musk se reunió con Altman y los demás en el Hotel Rosewood, donde se nació la idea de Openai. Sin embargo, a pesar de los esfuerzos de Openai, Google siguió siendo el líder indiscutible en inteligencia artificial. En 2016, un modelo profundo llamado Alphago había cautivado al mundo al vencer a un campeón mundial de dieciocho veces en GO, un juego antiguo que se considera más complejo que el ajedrez y uno más basado en la intuición humana. Ese mismo año, Deepmind lanzó Wavenet, una red neuronal que aprendió a emular el discurso humano. Musk se quejó al hablar con Altman que habían caído irremediablemente detrás de Google. La gran babosa de dinero que Musk estaba programada para depositar en su cuenta bancaria estaba en duda.

La solución de Musk, como invariablemente es, lo hizo hacerse cargo del esfuerzo. Propuso que tomara una participación mayoritaria en OpenAI y operara la compañía junto con sus otras compañías, incluidas Tesla y SpaceX, o doblaría la startup dentro de Tesla, que ya estaba trabajando en autos autónomos. Tres años después de su esfuerzo, estaba listo para desechar la idea de OpenAi como un laboratorio independiente.

Altman no deseaba trabajar para Musk, un famoso jefe mercurial. Se imaginó que la mayoría de las personas que reclutó para OpenAi tampoco. Altman rechazó la oferta. Musk se alejó de la compañía, dejando a Altman para preocuparse por cubrir los salarios y otros gastos.

“Elon está cortando su apoyo”, dijo Altman a Hoffman. “¿Qué hacemos?” Hoffman se comprometió a invertir otros $ 10 millones en Openai y prometió hacer lo que pudo para ayudarlos a recaudar más. Dentro del año, Altman, de treinta y tres años, renunció como presidente de Y Combinator y asumió el cargo de CEO de OpenAi. Hoffman fue agregado a la Junta Directiva de Operai, y Greg Brockman, cuyo apartamento de San Francisco había servido como primera oficina de OpenAi, asumió el papel de presidente de la junta. Públicamente, Musk dijo que cortó los lazos con OpenAi debido a un conflicto de intereses con Tesla. En privado, declaró que la compañía no tenía ninguna posibilidad de éxito.

Prueba Big Think+ para tu negocio

Involucrar contenido sobre las habilidades que importan, impartidas por expertos de clase mundial.

El dinero continuó siendo un problema para Openai, a pesar de la generosidad de Hoffman. Cuando comencé a escribir sobre tecnología en la década de 1990, el costo de construir una empresa era prohibitivo. Se necesitaba un punto-com a contratar hordas de programadores para construir su sitio e invertir en equipos costosos para alojarlo. Sin embargo, cuando dejé el ritmo de Silicon Valley a mediados de la década de 2000, la economía del ecosistema de inicio se había transformado. La globalización del talento tecnológico permitió a las nuevas empresas aprovechar un grupo internacional de tecnólogos calificados. Los programadores en India o Europa del Este podrían alistarse a una fracción del costo de los equipos estadounidenses. Y la computación en la nube eliminó la necesidad de comprar su propio hardware costoso. Al alquilar energía informática tal como la necesitaban, una empresa joven podría escalar sus costos de infraestructura en línea con su crecimiento. La barrera de entrada para una startup se había reducido hasta el punto de que algunas personas con una computadora portátil podrían desafiar a un gigante.

Ai volcó esa ecuación de regreso a los viejos tiempos. Google estaba tratando de acumular tanto talento AI como pudiera. Facebook también lo fue. Como resultado, los principales investigadores en el campo estaban ordenando un salario de $ 1 millón o más. Operai, por ejemplo, había colocado $ 1.9 millones al año más acciones para atraer a Ilya Sutskever de Google. El pago anual para cualquier persona con cualquier experiencia de IA estaba llegando a muchos cientos de miles. Los costos laborales para cualquier startup de IA serían enormes. Mucho dinero había aumentado en llamas en auges tecnológicos anteriores. Pero el costo de construir sistemas de IA conmocionó a los veteranos.

Aún mayor fue el costo del “cálculo”: las compañías de energía informática necesitaban capacitar y ejecutar sus modelos. Las nuevas empresas de IA aún podrían confiar en la nube, pero el entrenamiento de redes neuronales grandes puede requerir semanas, si no meses de tiempo de computadora sin parar. Y parecía estar atordenado que esos costos continuarían aumentando en el futuro previsible. Alrededor de la época del ultimátum de Musk, Operai había hecho un avance que requeriría aún más potencia de computadora. En 2017, un grupo de investigadores dentro de Google publicó lo que coloquialmente se conoció como el documento “Transformador”. Hasta ese momento, OpenAi había estado experimentando con modelos de idiomas grandes (LLM) que aprenden a chatear conversando conversando al digerir publicaciones de Reddit, revisiones de Amazon y otros conjuntos de datos disponibles públicamente. El documento del transformador ofreció un modelo completamente nuevo para enseñar una red neuronal tanto para deducir mejor el significado de un humano como para responder de una manera más natural. Los autores sugirieron que IA imita nuestros propios cerebros y pesa palabras en función de su importancia. En lugar de analizar palabras individuales, el modelo de lenguaje grande de OpenAI, o LLM, evaluaría fragmentos de palabras y usaría contexto para crear la siguiente palabra, como lo haría un humano.

Uso de la arquitectura del transformador para alimentar sus grandes modelos de lenguaje, dijo un informático de OpenAi. Cableado“Hice más progresos en dos semanas que en los últimos dos años”. El modelo Transformer demostró una mejor manera de entrenar un LLM, pero también significaba crear modelos vastos y costosos de ejecutar. “La cantidad de dinero que necesitábamos para tener éxito en la misión es mucho más gigantesco de lo que pensé originalmente”, dijo Altman en una entrevista de 2019.

La solución de Altman era crear una subsidiaria con fines de lucro que respondiera a su tablero sin fines de lucro. Operai buscaría nuevos inversores, pero dejaría en claro que el suyo no era la startup típica. Sellado en la parte superior del acuerdo de financiación, cualquier inversor firmaría fue una advertencia: “Los principios avanzados en la Carta de OpenAI Inc tienen prioridad sobre cualquier obligación de generar ganancias”. La nueva entidad sería lo que Openai describió como una compañía de “ganancias limitadas”, aunque solo un capitalista de riesgo podría considerar las condiciones que se impusieron un límite. Cualquiera que invierta en esta primera ronda comercial no podría hacer más de 100 veces su inversión original.

La compañía explicó el cambio en una breve publicación en su sitio web en 2019. “Los sistemas de IA más dramáticos usan la potencia más computacional”, decía. “Tendremos que invertir miles de millones de dólares en los próximos años en el cálculo de la nube a gran escala, atraer y retener a personas talentosas, y construir supercomputadoras de IA”.

De nuevo, Hoffman demostró ser fundamental. A instancias de Altman, dirigió esta primera ronda comercial escribiendo otro gran cheque a OpenAi. “Sam dijo que sería realmente útil si tomara la iniciativa porque no tenían un plan de negocios, un plan de productos, o cualquiera de esas cosas que a un inversor generalmente le gusta ver antes de poner dinero en un negocio”, dijo. “Realmente fue una apuesta para que pudieran hacer algo mágico con la IA”.