Sam Altman, director ejecutivo y cofundador de OpenAI, ha compartido reflexiones sinceras sobre el viaje de la empresa en su objetivo de lograr la superinteligencia.

Ahora que ChatGPT celebra recientemente su segundo aniversario, Altman describe los logros de OpenAI, los desafíos actuales y la visión para el futuro de la IA.

“El segundo cumpleaños de ChatGPT fue hace sólo poco más de un mes, y ahora hemos hecho la transición al siguiente paradigma de modelos que pueden realizar razonamientos complejos”, reflexiona Altman.

Una misión audaz para lograr AGI y superinteligencia

OpenAI se fundó en 2015 con una misión clara, aunque audaz: desarrollar AGI y garantizar que beneficie a toda la humanidad.

Altman y el equipo fundador creían que AGI podría convertirse en “la tecnología de mayor impacto en la historia de la humanidad”. Sin embargo, recuerda, el mundo no estaba particularmente interesado en su búsqueda en aquel entonces.

“En ese momento, a muy pocas personas les importaba, y si les importaba, era principalmente porque pensaban que no teníamos posibilidades de éxito”, explica Altman.

Un avance rápido hasta 2022, OpenAI todavía era una instalación de investigación relativamente silenciosa que probaba lo que entonces se conocía como “Chat With GPT-3.5”. Los desarrolladores habían estado explorando las capacidades de su API y el entusiasmo despertó la idea de lanzar una demostración lista para el usuario.

Esta demostración condujo a la creación de ChatGPT, que Altman reconoce que se benefició de una marca “afortunadamente” mejor que su nombre inicial. Cuando se lanzó el 30 de noviembre de 2022, ChatGPT demostró ser un punto de inflexión.

“El lanzamiento de ChatGPT inició una curva de crecimiento como nunca antes habíamos visto, en nuestra empresa, nuestra industria y el mundo en general”, dice.

Desde entonces, OpenAI ha sido testigo de una evolución marcada por un interés asombroso, no sólo en sus herramientas sino en las posibilidades más amplias de la IA.

Construyendo a una velocidad vertiginosa

Altman admite que convertir OpenAI en una potencia tecnológica global planteó desafíos importantes.

“En los últimos dos años, tuvimos que construir una empresa entera, casi desde cero, en torno a esta nueva tecnología”, señala, y añade: “No hay manera de formar a la gente para esto excepto haciéndolo”.

Al operar en aguas desconocidas, el equipo de OpenAI a menudo se enfrentó a la ambigüedad: tomó decisiones sobre la marcha y tuvo que lidiar con los inevitables pasos en falso.

“Construir una empresa a tan alta velocidad con tan poca capacitación es un proceso complicado”, explica Altman. “A menudo son dos pasos hacia adelante y uno hacia atrás (y, a veces, un paso hacia adelante y dos hacia atrás)”.

Sin embargo, a pesar del caos, Altman atribuye el mérito a la resiliencia y la capacidad de adaptación del equipo.

OpenAI ahora cuenta con más de 300 millones de usuarios activos semanales, un fuerte aumento con respecto a los 100 millones reportados hace apenas un año. Gran parte de este éxito radica en el espíritu de la organización de aprender haciendo, combinado con el compromiso de llevar al mundo “tecnología que la gente realmente parece amar y que resuelve problemas reales”.

“Un gran fracaso de la gobernanza”

Por supuesto, el viaje hasta ahora no ha estado exento de turbulencias. Altman relata un capítulo particularmente difícil de noviembre de 2023, cuando fue repentinamente destituido como director ejecutivo, contratado brevemente por Microsoft, para ser reinstalado por OpenAI días después en medio de una reacción violenta de la industria y protestas del personal.

Hablando abiertamente, Altman destaca la necesidad de mejores estructuras de gobernanza en las organizaciones que abordan tecnologías críticas como la IA.

“Todo el evento fue, en mi opinión, un gran fracaso de la gobernanza por parte de personas bien intencionadas, incluido yo mismo”, admite. “Mirando hacia atrás, ciertamente desearía haber hecho las cosas de manera diferente y me gustaría creer que hoy soy un líder mejor y más reflexivo que hace un año”.

El episodio sirvió como un crudo recordatorio de la complejidad de gestionar el rápido crecimiento y lo que está en juego en el desarrollo de la IA. También impulsó a OpenAI a forjar nuevas estructuras de gobernanza “que nos permitan llevar a cabo nuestra misión de garantizar que AGI beneficie a toda la humanidad”.

Altman expresó su profunda gratitud por el apoyo que OpenAI recibió durante la crisis por parte de empleados, socios y clientes. “Lo más importante que aprendí es cuánto tengo que estar agradecido y a cuántas personas debo gratitud”, enfatiza.

Pivotando hacia la superinteligencia

De cara al futuro, Altman dice que OpenAI está empezando a apuntar más allá de la AGI hacia el desarrollo de “superinteligencia”, sistemas de IA que superan con creces las capacidades cognitivas humanas.

“Ahora estamos seguros de que sabemos cómo construir AGI como lo hemos entendido tradicionalmente”, comparte Altman. OpenAI predice que para finales de este año, los agentes de IA se “unirán significativamente a la fuerza laboral”, revolucionando las industrias con sistemas complementarios y de automatización más inteligentes.

Lograr la superinteligencia sería especialmente transformador para la sociedad, con el potencial de acelerar los descubrimientos científicos, pero también plantea los peligros más importantes.

“Creemos en la importancia de ser líderes mundiales en investigación de seguridad y alineación… OpenAI no puede ser una empresa normal”, señala, subrayando la necesidad de abordar la innovación de manera responsable.

La estrategia de OpenAI incluye introducir gradualmente avances en el mundo, permitiendo que la sociedad se adapte a la rápida evolución de la IA. “Poner de forma iterativa excelentes herramientas en manos de las personas conduce a resultados excelentes y ampliamente distribuidos”, argumenta Altman.

Al reflexionar sobre la trayectoria de la organización, Altman admite que el camino de OpenAI ha estado definido tanto por avances extraordinarios como por desafíos importantes, desde ampliar equipos hasta navegar el escrutinio público.

“Hace nueve años, realmente no teníamos idea de en qué nos íbamos a convertir; Incluso ahora, sólo lo sabemos en cierto modo”, afirma.

Lo que queda claro es su compromiso inquebrantable con la visión de OpenAI. “Nuestra visión no cambiará; Nuestras tácticas seguirán evolucionando”, afirma Altman, atribuyendo el notable progreso de la empresa a la voluntad del equipo de repensar los procesos y aceptar los desafíos.

A medida que la IA continúa remodelando las industrias y la vida diaria, el mensaje central de Altman es evidente: si bien el viaje no ha sido nada sencillo, OpenAI se mantiene firme en su misión de desbloquear los beneficios de la IA para todos.

“Qué suerte y qué humildad es poder desempeñar un papel en este trabajo”, concluye Altman.

Ver también: OpenAI financia un estudio de 1 millón de dólares sobre IA y moralidad en la Universidad de Duke

¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Echa un vistazo a AI & Big Data Expo que se lleva a cabo en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos líderes, como la Conferencia de Automatización Inteligente, BlockX, la Semana de Transformación Digital y la Cyber ​​Security & Cloud Expo.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

Etiquetas: agi, ai, inteligencia artificial, desarrollo, ética, openai, sam altman, superinteligencia

Se está gestando una batalla por la reestructuración de OpenAI, el creador del chatbot pionero de inteligencia artificial ChatGPT. Se fundó como una organización sin fines de lucro en 2015 con el objetivo de desarrollar IA para beneficiar a la humanidad, no a los inversores. Pero la IA avanzada requiere una potencia de procesamiento masiva, lo que se vuelve costoso, lo que influye en la decisión de la empresa de contratar grandes inversores. Recientemente, OpenAI dio a conocer un plan para la transición a una corporación de beneficio público con fines de lucro.

Ese plan ha generado objeciones de personas como Elon Musk, Meta y Robert Weissman, copresidente del grupo de defensa del consumidor Public Citizen, que instó a las autoridades de California a garantizar que, a medida que OpenAI se reorganice, devolverá gran parte de los beneficios que recibió como organización sin fines de lucro. .

La siguiente es una transcripción editada de la conversación de Weissman con Meghan McCarty Carino de Marketplace.

Robert Weissman: Ser una organización sin fines de lucro habilitada [OpenAI] aceptar donaciones, y ese fue el modelo para la organización sin fines de lucro, al igual que es el modelo para otras organizaciones sin fines de lucro. Habían donado dinero en efectivo y donaciones en especie de poder computacional para hacer su trabajo de desarrollar esta nueva tecnología. No tenían que fingir que iban a poder devolver la inversión a la gente. Les pidieron que lo hicieran con fines benéficos y pudieron recaudar una cantidad significativa de dinero y recursos a través de ese enfoque.

Meghan McCarty Cariño: Entonces, tengo entendido que en 2019, OpenAI hizo una transición a una estructura diferente para poder recibir dinero de inversores como Microsoft. Pero el negocio, un negocio con ganancias limitadas, todavía ha sido gobernado aparentemente por la organización sin fines de lucro. Ahora, busca convertirse en una corporación de beneficio público con fines de lucro. ¿Qué dice la ley sobre lo que se requiere para realizar este tipo de pivote?

Weissman: Esto es algo muy, muy inusual, y tal vez ninguna entidad haya seguido exactamente el camino que ha tomado OpenAI. Pero hay una historia de organizaciones sin fines de lucro que se convierten en organizaciones con fines de lucro, que no es exactamente lo que está haciendo OpenAI, pero es la historia central de lo que está haciendo OpenAI. Y para hacer esa conversión, tendrán que recibir efectivamente el visto bueno de los fiscales generales de Delaware, donde está constituida la operación, y de California, donde están registrados y donde hacen negocios.

En la historia de este tipo de conversiones, si vas a sacar activos del sector sin fines de lucro, tienes que devolverle al sector sin fines de lucro el valor de lo que estás tomando. Si diriges una empresa benéfica, no puedes privatizarla de repente y hacerla tuya. Si eres el director ejecutivo de una organización benéfica, no puedes simplemente donarla a una corporación, o no puedes simplemente convertir tu organización sin fines de lucro en una corporación con fines de lucro porque pudiste tener éxito y evolucionar bajo el paraguas de acuerdos sin fines de lucro, apoyo deducible de impuestos, etc. Tienes que devolverle el dinero al sector caritativo. El precedente más importante de este tipo de conversiones es la conversión de compañías de seguros médicos Blue Cross sin fines de lucro en compañías de atención médica Blue Cross con fines de lucro. Esto ocurrió en todo Estados Unidos y en todos los estados donde sucedió, la entidad con fines de lucro debía devolver al sector sin fines de lucro una cantidad igual en valor a lo que estaban privatizando. Por lo general, ese dinero se dedicaba luego a una fundación benéfica de atención médica. Muchas grandes fundaciones benéficas de atención médica todavía existen, incluso en California, a partir de ese tipo de conversiones.

McCarty Carino: Entonces, ¿qué ha sugerido OpenAI sobre cómo realizaría esta transición y qué le preocupa sobre su plan?

Weissman: Bueno, las cosas han evolucionado rápidamente y muy recientemente. Ahora han anunciado su intención de hacerlo, aunque ya se rumoreaba desde hacía algún tiempo. Lo que OpenAI dice que van a hacer es escindir su filial con fines de lucro. En este momento, tienen una junta sin fines de lucro que controla una afiliada con fines de lucro, y la organización con fines de lucro pagaría a la organización sin fines de lucro el valor de lo que están tomando, y eso sería propiedad de la organización sin fines de lucro en forma de acciones en el nuevo OpenAI independiente y con fines de lucro. Así que proponen hacer ese pago al sector sin fines de lucro básicamente pagándose a ellos mismos, lo cual creemos que no es una buena idea.

McCarty Carino: Así que usted escribió una carta al fiscal general de California, Rob Bonta, en septiembre defendiendo que OpenAI pagara al menos 30 mil millones de dólares y compartiera cualquier tecnología de inteligencia artificial general básicamente con una fundación benéfica, una fundación benéfica independiente. ¿Cómo se te ocurrió eso?

Weissman: Bueno, primero comenzamos a comunicarnos con los fiscales generales de California y también de Delaware después de la muy extraña y muy publicitada reorganización de la junta directiva de OpenAI en noviembre de 2023, porque lo que vimos que sucedió allí fue que la junta sin fines de lucro intentaba ejercer control sobre la afiliada con fines de lucro. y perdiendo. Las fuerzas con fines de lucro dentro y alrededor de OpenAI básicamente abrumaron a la junta directiva de las organizaciones sin fines de lucro, las expulsaron y las reemplazaron con gente nueva. En ese momento, nos pareció que esta entidad, fuera lo que fuera, esta entidad combinada, ya no funcionaba realmente como una organización sin fines de lucro. Efectivamente se había convertido en una empresa con fines de lucro. Y empezamos a decir, bueno, si ese es el caso, entonces tienen el deber de pagar al sector sin fines de lucro el valor de lo que están retirando, tal como fue el caso con estas conversiones de Blue Cross. Ahora, poco más de un año después, OpenAI dice: sí, es cierto, en realidad ya no queremos pretender ser una organización sin fines de lucro; queremos hacer esa conversión. Entonces, antes de que esto suceda, dijimos, si va a haber una conversión, si realmente se va a hacer eso formalmente, o si se va a obligar a hacerlo, para reconocer lo que efectivamente ya sucedió, ¿cuál es el valor? que tienen que devolver el dinero?

Ahora han desarrollado una estructura muy extraña, no toda transparente. No está claro que OpenAI, la organización sin fines de lucro, tenga muchas acciones o tenga mucha participación accionaria en OpenAI, la organización con fines de lucro. Sin embargo, según los términos de configuración de toda la operación, sí tiene control sobre OpenAI con fines de lucro. Entonces dijimos, mire, al menos se les debe la prima de control, que en el extremo inferior es el 20% del valor de una empresa adquirida en la mayoría de las transacciones que tienen lugar y en el mercado de valores y adquisiciones regulares. Bueno, el 20% de los 150.000 millones de dólares, que es el valor actual de OpenAI, supone un mínimo de 30.000 millones de dólares. Hay muchas razones para pensar que las cifras deberían ser más altas, tal vez mucho más altas que eso, pero creemos que 30.000 millones de dólares es la base de lo que hay que pagar. Y nuevamente, para nosotros, no funciona si OpenAI simplemente se paga a sí mismo, básicamente hace que las organizaciones con fines de lucro paguen a las organizaciones sin fines de lucro que son afiliadas y no verdaderamente independientes. Tiene que volver al sector caritativo independiente, lo que probablemente significaría una o más fundaciones independientes que realmente podrían promover los intereses del desarrollo de la IA para el interés público, promover las preocupaciones éticas y de seguridad de la inteligencia artificial y descubrir cómo proporcionar un mayor acceso a personas a las nuevas tecnologías que están surgiendo.

McCarty Carino: Entonces, ¿cómo ve este posible giro que impactará la visión original de OpenAI de anteponer la humanidad a las ganancias en la búsqueda de la inteligencia artificial?

Weissman: Bueno, creo que han abandonado eso. Creo que lo abandonaron antes de esta conversión, por lo que, desde nuestro punto de vista, parece que el genio ya está fuera de la botella. Dicen que se están convirtiendo, que quieren convertirse en una corporación de beneficio público, que tendría la capacidad de considerar tanto intereses lucrativos como no lucrativos. Pero, de hecho, lo que hemos visto con OpenAI durante el último año, en realidad con el lanzamiento de la popular versión de ChatGPT, es que ha sido la menos preocupada por la seguridad, la más agresiva en la introducción de nuevas tecnologías de todas las empresas de IA. . Entonces introdujeron la tecnología que Google más o menos tenía, pero tenía miedo de lanzarla al mercado debido a preocupaciones sobre la seguridad y tal vez debido a la responsabilidad, pero se vio obligado a ponerse al día rápidamente después de que OpenAI avanzó. Estamos viendo eso nuevamente con OpenAI introduciendo tecnologías que tienen una capacidad de voz artificial de increíblemente alta calidad, lo que realmente hace posible y probable que las personas se dejen engañar por voces con sonido humano que serán muy fácilmente implementables a través de Internet. Y esa es también una tecnología que Google había analizado, había considerado demasiado arriesgada y no iba a introducir en el mercado. Pero una vez que un competidor lo hace, los demás rápidamente le siguen. Entonces, desde nuestro punto de vista, OpenAI ha dejado atrás la idea de priorizar la seguridad y la ética y está realmente más interesado en ser el primero en actuar. Así que el viejo lema de Silicon Valley “Muévete rápido y rompe cosas” parece ser lo que OpenAI ha adoptado, a pesar de ser supuestamente una organización sin fines de lucro y una operación que prioriza los intereses de la humanidad por encima de cualquier consideración de lucro.

McCarty Carino: ¿Qué papel podría desempeñar esta fundación benéfica independiente en ese contexto?

Weissman: Bueno, dependiendo del tamaño de la fundación, podría apoyar todo tipo de programas de investigación, promoción, educación y acceso. Podría apoyar la investigación y la innovación diseñadas para garantizar la seguridad. Podría apoyar a empresas emergentes más pequeñas que se estuvieran moviendo en calidad de organización sin fines de lucro y comprometidas a permanecer en esa capacidad. Podría prestar más atención a la seguridad, por un lado, y al acceso a las nuevas tecnologías, por el otro. Podría apoyar los esfuerzos para garantizar que las personas de bajos ingresos tuvieran acceso a nuevas tecnologías a medida que estuvieran disponibles. Podría formar a nuevas personas para que se conviertan en programadores y desarrolladores. Podría respaldar la promoción para hacer retroceder el poder monopólico de empresas como OpenAI. Hay muchísimo que podría hacer, e idealmente, en realidad sería más de una sola base. A esa escala de recursos, creo que sería mejor distribuirlo entre muchos. Pero pase lo que pase, realmente podría convertirse en un actor poderoso para compensar el desafortunado movimiento que estamos viendo de desarrollar estas tecnologías realmente fascinantes mucho antes de considerar la seguridad, la ética y el acceso.