Noticias
Elon Musk vs. OpenAI está “más allá de cualquier programa de HBO”, dice el ex investigador de Deepmind
- Se agregó la declaración de Nando de Freitas.
Actualización 23 de noviembre de 2024:
El ex investigador principal de DeepMind, Nando de Freitas, ha negado rotundamente las acusaciones contra DeepMind hechas en el intercambio de correos electrónicos entre ejecutivos de OpenAI y Elon Musk.
“La mayor parte de lo que se dice sobre DeepMind en estas cartas es absoluta tontería. Éramos simplemente científicos, descubriendo la inteligencia, tratando de descubrir cómo hacer cosas buenas con ella”, escribe de Freitas.
El investigador, que en ese momento reportaba directamente al CEO de DeepMind, Demis Hassabis, acusa a Musk y a los líderes de OpenAI de abusar de la apertura de DeepMind: “Abrimos nuestros laboratorios a todas estas personas, especialmente a Elon, y ellos abusaron de nuestra apertura”.
Anuncio
De Freitas ve los correos electrónicos ahora publicados como un argumento a favor de una mayor apertura en el desarrollo de la IA: “La gente debe decidir, y no un grupo de multimillonarios jugando con los científicos”.
Según de Freitas, Ilya Sutskever acertó proféticamente: los investigadores hicieron todo el entrenamiento, las ideas y el código, pero ahora el único poder que les queda es protestar en aplicaciones propiedad de los mismos multimillonarios.
“Pero protestaremos. La IA debe ser para el pueblo, para todos los estados nacionales”, escribe de Freitas.
De Freitas pasó más de una década en Deepmind como líder de AL y director senior de IA, y ahora es vicepresidente de Microsoft AI, la empresa asociada más grande e importante de OpenAI.
Artículo original del 17 de noviembre de 2024:
Recomendación
Elon Musk no quería que OpenAI pareciera la “perra del marketing” de Microsoft
Los correos electrónicos recientemente publicados sobre el conflicto legal entre Elon Musk y el director ejecutivo de OpenAI, Sam Altman, muestran lo que llevó a Musk a abandonar la empresa de inteligencia artificial que ayudó a crear.
La correspondencia muestra que Musk estuvo impulsado desde el principio por la preocupación de que Google y su laboratorio de inteligencia artificial DeepMind pudieran asumir una posición demasiado dominante.
“Deepmind me está causando un estrés mental extremo. Si ganan, serán realmente malas noticias con su única intención de gobernar la filosofía mundial.“, escribió Musk al cofundador de OpenAI, Greg Brockman, en febrero de 2016.
Musk y Altman fundaron OpenAI a finales de 2015 como una organización sin ánimo de lucro con el objetivo de desarrollar inteligencia artificial en beneficio de la humanidad.
“Si esto va a suceder de todos modos, parece que sería bueno que alguien que no sea Google lo hiciera primero”, escribió Sam Altman a Elon Musk en mayo de 2015.
Musk no quería que OpenAI pareciera la “perra del marketing” de Microsoft
Las primeras tensiones surgieron en septiembre de 2016, cuando OpenAI estaba negociando con Microsoft recursos informáticos. Microsoft ofreció 60 millones de dólares en potencia informática por 10 millones de dólares, pero quería que OpenAI promocionara la plataforma CNTK AI de Microsoft a cambio.
Al final, las partes acordaron un pago de 50 millones de dólares sin más condiciones. Musk estuvo de acuerdo si Microsoft no utilizaría el acuerdo con fines de relaciones públicas: “Valdría mucho más de 50 millones de dólares para no parecer la perra del marketing de Microsoft”, escribió Musk al entonces jefe de personal de OpenAI, Sam Teller.
Sutskever y Brockman critican la búsqueda de poder de Musk y Altman
La situación llegó a un punto crítico en 2017, cuando el liderazgo de OpenAI en torno a Ilya Sutskever y Greg Brockman expresaron su preocupación en un correo electrónico titulado “Pensamientos honestos” de que Musk podría obtener un “control absoluto unilateral” sobre una potencial inteligencia artificial general (AGI) como director ejecutivo de una filial planificada con fines de lucro.
Según OpenAI, Musk quería una propiedad mayoritaria de las acciones, el control inicial de la junta directiva y el puesto de director ejecutivo si la empresa se convertía a una estructura con fines de lucro.
“Usted declaró que no desea controlar el AGI final, pero durante esta negociación nos ha demostrado que el control absoluto es extremadamente importante para usted”, escribieron Sutskever y Brockman. “Nos preocupa que a medida que la empresa avance genuinamente hacia AGI, usted opte por conservar su control absoluto de la empresa a pesar de la intención actual de lo contrario”.
Musk, que había cofundado OpenAI específicamente para evitar tal concentración de poder, respondió con un ultimátum: “Chicos, ya he tenido suficiente. Este es el colmo. O hacen algo por su cuenta o continúan con OpenAI como una organización sin fines de lucro”. Ya no financiaré OpenAI hasta que hayas hecho un compromiso firme de quedarte o simplemente estoy siendo un tonto que básicamente te está proporcionando fondos gratuitos para que crees una startup. Las discusiones terminaron”.
Brockman y Sutskever también sospechaban de las ambiciones de Sam Altman de convertirse en director ejecutivo. “No entendemos por qué el título de CEO es tan importante para usted. Sus razones declaradas han cambiado, y es difícil entender realmente qué lo impulsa”, escribieron, preguntándole a Altman cómo un puesto de CEO en OpenAI se “conectaría con su posición política”. objetivos.”
Sutskever estuvo involucrado en el derrocamiento temporal de Altman en noviembre de 2024 y dejó la compañía en mayo de 2024 para lanzar su propia startup de inteligencia artificial centrada en superinteligencia segura. Brockman regresó recientemente a trabajar en OpenAI después de una pausa de tres meses.
División final
A principios de 2018, Musk intensificó sus críticas, diciendo que OpenAI estaba en “camino hacia un fracaso seguro en relación con Google”, y pidió “medidas inmediatas y dramáticas”. Descartó la idea de Altman de una oferta inicial de monedas (ICO) como una “pérdida masiva de credibilidad”. Como último recurso, sugirió “una gran expansión de OpenAI y una gran expansión de Tesla AI. Quizás ambas simultáneamente”.
“Para ser claro, respeto mucho sus habilidades y logros, pero no estoy contento con cómo se han manejado las cosas. Es por eso que he tenido problemas para interactuar con OpenAI en los últimos meses. O arreglamos las cosas y mi compromiso aumenta mucho o no lo hacemos y caeré a casi cero y reduciré públicamente mi asociación”, escribió Musk.
Las conversaciones fracasaron y, en febrero de 2018, Musk renunció a la junta directiva de OpenAI. En su momento, OpenAI explicó que la renuncia de Musk tenía que ver con evitar conflictos de intereses en su rol como CEO de Tesla. Dadas las numerosas tensiones entre las partes, esta explicación ahora parece muy aséptica.
Cuando OpenAI formó una rama con fines de lucro en marzo de 2019 para invertir miles de millones en centros de datos y talento, se renovó el contacto por correo electrónico entre las partes. Musk enfatizó que el anuncio de la reestructuración debería indicar claramente que no tenía ningún interés financiero en OpenAI.
Las tensiones entre Musk y OpenAI continúan hasta el día de hoy. Musk está demandando a OpenAI por su cambio a un modelo con fines de lucro y afirma que Microsoft ahora controla la empresa. Desde entonces, inició xAI, con el objetivo de crear lo que él llama el modelo de IA más poderoso para fines de 2024.
Los correos electrónicos surgieron de documentos judiciales sobre la disputa legal en curso entre Musk y Altman, publicados como parte del proceso y compilados por un autor de la plataforma LessWrong.