Noticias
RIC va más allá de las exageraciones para enseñar aprendizaje automático responsable • Rhode Island Current
Este artículo es parte de una serie en curso sobre la IA en Rhode Island.
Un enigma favorito de los filósofos es el problema del carro. Puedes tirar de una palanca y desviar un tranvía fuera de control justo a tiempo para evitar matar a cinco personas, pero una persona moriría en la nueva vía. ¿Tiras de la palanca?
En una mañana soleada de septiembre, en un aula del tercer piso del campus de Rhode Island College (RIC) en Providence, pequeños grupos de estudiantes debatieron sobre un problema de carrito modificado en el que un robot está en el interruptor. Todos han leído el libro alegórico del autor de ciencia ficción Isaac Asimov.tres leyes de la robótica”, que consideraba prohibido que los robots lastimaran a los humanos. ¿Qué puede hacer un robot cuando un resultado sangriento parece inevitable?
Sonya Cheteyan pensó que el dilema no sería más fácil de resolver para una máquina.
“Si es imposible para un ser humano, será muy difícil para una IA darse cuenta, porque la IA es sólo una extensión de nuestra inteligencia”, dijo Cheteyan, estudiante junior del RIC con doble especialización en ciencias de la computación e IA y un Providence de toda la vida. residente.
“Es como una combinación de la inteligencia de todos reunida en una sola entidad para tomar decisiones por nosotros. Y es difícil, porque si no tenemos una respuesta a ese problema, la IA no la tendrá”.
Cheteyan encontró el problema del tranvía en el curso “Aplicación e impacto de la IA”, impartido por el profesor asociado Leonardo Pinheiro. Es uno de los dos cursos que integran el trabajo de detective ético en el nuevo RIC. Plan de estudios de IAcual lanzado en septiembre.
El programa de licenciatura en ciencias es la primera carrera universitaria centrada en la IA en una escuela estatal de Rhode Island. Su objetivo es preparar a los estudiantes para una fuerza laboral en la que la IA ya no es novedosa, dijo Tim Henry, profesor asociado que dirige el nuevo programa de IA. Eso significa educar a los estudiantes no sólo sobre cómo construir inteligencia artificial, sino también sobre cómo hacerlo de manera responsable.
“Vamos a educar a los estudiantes de Rhode Island, ayudándolos a prepararse para la fuerza laboral”, dijo Henry. “Las empresas ya se están sintiendo cómodas con el uso de la IA. Lo difícil es entender cómo usarlo bien y poder saber cuáles son los riesgos de cómo usarlo”.
Lo que los estudiantes aprenden en el programa de IA se superpone y complementa la especialización en informática existente. “[They’re] En cierto modo, es complementario, porque las habilidades informáticas son tan importantes como saber cómo funcionan los modelos de IA”, dijo Cheteyan.
Una mayor alfabetización en IA ya está en la agenda en el ámbito K-12, como se ve en proyectos de ley como el Ley LIFT de IAcopatrocinado por el representante demócrata estadounidense de Rhode Island, Gabe Amo, y el representante republicano de Nueva Jersey, Tom Kean Jr. Mientras tanto, clases como la de Pinheiro en RIC ayudan a contextualizar la inteligencia artificial para aquellos que ingresarán a la fuerza laboral mucho antes. Cheteyan dijo que no esperaba disfrutar el curso tanto como lo ha hecho.
“Él realmente me reveló todo”, dijo sobre Pinheiro. “’Pensé: ‘Oh, la IA es más que solo ChatGPT’. Se utiliza en ciencia de datos. Se utiliza para el reconocimiento facial. Se usó antes de que fuera una palabra popular… Me sorprendió lo lejos que llegó”.
Sea a=4
Al programa de IA se unen dos menores centrados en la IA y se sincroniza con el Instituto de Ciberseguridad y Tecnologías Emergentes de la escuela, que inaugurado el pasado noviembre y se beneficiará de un pregunta electoral aprobado por el 59,7% de los votantes en las elecciones generales del 5 de noviembre. Los votantes dijeron sí a una emisión de bonos por valor de 160,5 millones de dólares para mejoras de capital en RIC y la Universidad de Rhode Island. RIC usaría su participación de $73 millones para renovar y modernizar Whipple Hall y convertirlo en un espacio dedicado al instituto, con laboratorios de computación, centros de datos, infraestructura de TI, aulas y rangos cibernéticos donde los estudiantes podrían modelar amenazas en tiempo real.
Las instalaciones actualizadas diferirían enormemente de donde Henry escribió su primer código en 1976: el interior del armario de limpieza de su escuela secundaria, donde él y tres compañeros de estudios trabajaban en una terminal de teletipo conectada a la Universidad de Pensilvania.
“Tuvimos que escribir nuestro primer programa de computadora”, dijo Henry en una entrevista reciente en su oficina de Alger Hall en el campus de RIC. “Era como, ‘Sea a igual a cuatro, sea b igual a cinco, sea c igual a a más b, imprima c’”.
Ese fue el lugar inicial de la fascinación de Henry, y sus padres le regalaron una calculadora de cuatro funciones para Navidad. Después de servir en la Guardia Costera y una carrera en gimnasia que incluyó dos estatus All-American, hoy el profesor es muy solicitado por su sagacidad con el código.
“Dr. El historial de Henry habla por sí solo”, afirmó Suzanne Mello-Stark, presidenta del departamento de Ciencias de la Computación y Sistemas de Información del RIC y ex doctora. Estudiante de Henry en la URI.
Por eso RIC reclutó a Henry para dirigir el programa de IA. Henry también forma parte del grupo de trabajo sobre inteligencia artificial del gobernador Dan McKee, que fue creado por orden ejecutiva en febrero y se reunió por primera vez en julio. El grupo de trabajo está presidido por el ex representante estadounidense Jim Langevin, quien se desempeña como presidente distinguido del instituto de ciberseguridad del RIC. Él también quería a Henry a bordo para la primera iniciativa a nivel ejecutivo del estado sobre IA, que eventualmente producirá un informe con hallazgos y recomendaciones sobre cómo el gobierno estatal debería proceder mejor con la IA, un conjunto de tecnologías que ha sido anunciada como apocalíptico y mesiánico.
En opinión de Cheteyan, los comentarios sobre la IA pueden ser excesivamente negativos. “Hay cierta fatalidad, por ejemplo, en el periodismo”, dijo, donde se teme que la IA pueda reemplazar o eliminar ciertos trabajos.
Pero Cheteyan cree que la IA puede aprovecharse como una herramienta para el bien y no para la ruina. “El objetivo es recibir educación sobre cómo usarla y cómo aprovechar la IA, en lugar de sentarse y decir: ‘Oh, ahora perdí mi trabajo’. No, simplemente hicimos su trabajo más fácil”, dijo.
Las computadoras también pueden ser artistas
La IA generativa ha hecho que más personas se den cuenta, aunque no siempre sea bienvenida, de la capacidad de la IA para crear canciones, imágenes e historias. Un poco menos de dos años después Surgió ChatGPT como un sofisticado sucesor del chatbots de antañoel entusiasmo por la IA generativa, que crea contenido, no se ha evaporado. Pero ni siquiera un robot bien entrenado puede resolverlo todo. ¿Qué pasa si le pides a ChatGPT que “resuelva el problema del tranvía”?
“Es poco probable que un robot ‘resuelva’ completamente el problema del tranvía, ya que es fundamentalmente una cuestión de filosofía moral más que de lógica pura”, ChatGPT respondió cuando se le solicite.
Henry dijo que las oportunidades creativas ayudan a generar gran parte del interés en la IA.
“Si tiene IA para predecir las ventas de su organización en dos meses, está bien, genial”, dijo Henry. “Eso es realmente interesante para un grupo pequeño y reducido de personas. Pero si la IA puede conversar contigo o generar algún texto para ti, eso será útil para mucha más gente. Si puede generar una imagen para usted, será útil para mucha más gente”.
La codificación, dijo Cheteyan, es “en realidad un tipo de creatividad. Sé que mucha gente dice que son matemáticas, pero hay que pensar, hay que encontrar buenas soluciones a los problemas y para eso se necesita una mente creativa”.
Dos proyectos que ha codificado son un chatbot para la popular aplicación de mensajería Discord y un modelo que analiza datos de Netflix para predecir el tiempo de visualización de un usuario en un día determinado. Cheteyan trabaja principalmente en el lenguaje de programación Python, que es “necesario” para muchos modelos de lenguaje grandes que utiliza la IA, y prioriza el código limpio y legible.
Según una de las 20 pautas tipo koan conocidas como Zen de Pitón: “Ante la ambigüedad, rechaza la tentación de adivinar”.
Un trabajo para facilitar otros trabajos
Pero todavía hay conjeturas sobre qué títulos o puestos ocuparán los estudiantes de IA cuando se gradúen, dijo Henry.
“Es una muy buena pregunta y todo el mundo está tratando de resolverla”, dijo Henry. “No puedo descartar necesariamente los títulos, pero a veces es ‘ingeniero en visión por computadora’ o ‘ingeniero en robótica’ o ‘ingeniero en procesamiento del lenguaje natural’. Esas son áreas muy específicas, pero generalmente será alguien que haga aprendizaje automático como ingeniero de software. Así que la ingeniería de software sigue siendo la categoría general”.
La ciencia de datos es un campo en el que la IA está teniendo un impacto notable, dijo Henry, porque “el análisis y la preparación de datos, el análisis exploratorio de datos… son como la primera parte de cualquier buen modelo de IA, poder hacerlos bien”.
También destacó la utilidad de la IA en ciberseguridad, lo que la convierte en una opción natural para el instituto de RIC: “Las herramientas de IA son realmente buenas para comprender y aprender patrones normales de tráfico de red, por ejemplo, o comportamientos típicos de software malicioso”.
Cheteyan tampoco está segura de su futuro exacto ni de qué trabajo desempeñará algún día, pero dijo que espera crear “herramientas útiles” como chatbots o aprovechar la ciencia de datos para hacer predicciones para las empresas. Ella ofreció el ejemplo de análisis de sentimientoque rastrea enormes cantidades de texto para hablar en línea sobre ciertos productos, personas o empresas.
Un optimismo cauteloso rodea a la IA generativa, destacado recientemente por la gobernadora de la Reserva Federal, Lisa D. Cook, quien la llamó una “tecnología de propósito general”, que podría aumentar la productividad, reducir la inflación y ser una bendición para el mercado laboral en general, aunque llevaría tiempo.
Un total de 386 estudiantes están tomando clases bajo el paraguas de IA a través del instituto. Ese número incluye una combinación de especializaciones, dobles especializaciones y menores, dijo Lindsay Russell, portavoz del Instituto de Ciberseguridad y Tecnologías Emergentes.
Aún no estaba disponible un número exacto de especialidades y Henry dijo que la escuela todavía está inscribiendo especialidades. “La mayoría de los estudiantes que conozco en este momento son personas que estuvieron aquí en su segundo año y se matricularon en una especialidad de IA en su tercer año”, agregó.
En el próximo semestre, Henry impartirá un curso sobre ética en tecnologías de inteligencia artificial.
“El mayor problema es comprender cómo se puede utilizar el software fuera de lo previsto”, dijo Henry. “Esa es nuestra responsabilidad ética: observar los datos y cómo los recopilamos para entrenarlos”.
OBTÉN LOS TITULARES DE LA MAÑANA.
Noticias
Los líderes de IA instan a CA, DE AGS a detener el cambio de fines de lucro de OpenAi • El registro
Un grupo de pesos pesados de IA y ex empleados de la Openia instan a los fiscales generales de California y Delaware a bloquear la última reestructuración de la tienda de chatgpt en una corporación con fines de lucro.
Laureado Nobel y el experto en red neuronal Geoffrey Hinton; Stuart Russell de UC Berkeley; Abrazando a Margaret Mitchell de Face; y 10 ex empleados de Operai se encuentran entre los firmantes en una carta abierta pidiendo a los AGS que intervengan antes de que el shell sin fines de lucro de OpenAI ceda por completo la rueda. Esencialmente, argumentan que el desarrollo de la inteligencia general artificial (AGI) es demasiado importante para dejar a una empresa privada con un motivo de ganancias, y debe preservarse para el interés público.
En cuestión es el plan para convertir el brazo con fines de lucro de OpenAI en una Corporación de Beneficios Públicos de Delaware (PBC) y darle el control total sobre las operaciones y los negocios de la compañía, dejando la parte sin fines de lucro para administrar iniciativas de caridad en ciertos sectores como la atención médica, la educación y la ciencia. Los firmantes argumentan que esto desmantelaría las salvaguardas de gobernanza que una vez distinguen a OpenAi, como los rendimientos de los inversores limitados, una junta independiente y un deber fiduciario de priorizar el interés público sobre la ganancia financiera.
“Openai tiene una estructura legal a medida basada en el control sin fines de lucro”, dice la carta. “Esta estructura está diseñada para aprovechar las fuerzas del mercado sin permitir que esas fuerzas abrumen su propósito caritativo”.
Mientras que el grupo se hace eco de algunas de las preocupaciones planteadas por el cofundador fallecido Elon Musk, que actualmente está demandando a OpenAi para bloquear la reestructuración, están tocando una carta diferente: un atractivo formal a los reguladores para proteger al público.
“Como los principales reguladores de OpenAI, actualmente tiene el poder de proteger el propósito caritativo de OpenAI en nombre de sus beneficiarios, salvaguardando el interés público en un momento potencialmente fundamental en el desarrollo de esta tecnología”, la carta se supone a California AG Rob Bonta y/o Delaware Kathleen Jennings. “Bajo la reestructuración propuesta por OpenAi, ese ya no sería el caso”.
Le instamos a que proteja el propósito caritativo de OpenAI preservando las salvaguardas de gobierno básicas que OpenAi y el Sr. Altman han afirmado repetidamente son importantes para su misión
“No permita que la reestructuración continúe según lo planeado”, exigieron los autores, puntiagudos en blanco. “Le instamos a que proteja el propósito caritativo de OpenAI preservando las salvaguardas de gobernanza básicas que OpenAi y el Sr. Altman han afirmado repetidamente son importantes para su misión”.
Los argumentos en la carta sonarán familiares para cualquiera que haya seguido la saga de la compañía, que Sam Altman y una camarilla de otras luminarias, incluida Musk, fundada en 2015. En el lanzamiento, OpenAi se presentó como una organización sin fines de lucro contra los gustos de Google Deepmind, comprometido a desarrollar AGI para beneficio de toda humanidad.
Eso cambió en 2019, cuando creó una subsidiaria con fines de lucro OpenAI LP bajo el control total de su padre sin fines de lucro. La nueva estructura se lanzó como un modelo de “finos de fines de lucro” diseñado para permitir a los inversores un rendimiento limitado, cualquier cosa por encima de esa tapa que revertía a la organización sin fines de lucro. Se suponía que la junta seguía siendo independiente de la mayoría, y cualquier AGI desarrollado sería propiedad y gobernaría por la organización sin fines de lucro.
La segunda reestructuración propuesta el año pasado sería un paso más allá: convertir Operai LP en un PBC de Delaware. Esto tiene como objetivo ayudar a Operai a recaudar fondos y competir con sus rivales con fines de lucro, algo que realmente no ha sido un problema para la empresa en los últimos tiempos.
¿Qué quieren los firmantes?
Los firmantes instan a los AG a exigir respuestas de OpenAI, argumentando que el atuendo no ha abordado públicamente preguntas clave sobre su reestructuración, como si se consideraron modelos alternativos, qué papel desempeñaba la presión de los inversores y si los miembros de la junta involucrados en el proceso se beneficiarán personalmente.
También le piden al AGS que elimine a los directores que comprometieran la integridad de las decisiones de la Junta sin fines de lucro y soliciten nuevos mecanismos de supervisión para garantizar que la Junta permanezca independiente y se centre en la misión fundadora de OpenAI, no en maximizar los rendimientos para fines de lucro.
No hemos tenido noticias de la oficina de Delaware AG, y la AG de California nos dijo que no puede comentar sobre el asunto debido a una investigación en curso. Sin embargo, la oficina de Bonta nos dio una pista sobre lo que piensa de la carta.
“El Departamento de Justicia de California está comprometido a proteger los activos caritativos para su propósito previsto y se toma en serio esta responsabilidad”, nos dijo la oficina de California AG.
Operai respondió a El registro Con una explicación similar de que nos dio antes, afirmar que la organización sin fines de lucro no está siendo marginada y, si algo, en realidad se está fortaleciendo por el movimiento.
Nuestra junta ha sido muy clara: nuestra organización sin fines de lucro se fortalecerá y cualquier cambio en nuestra estructura existente estaría en servicio para garantizar que el público en general pueda beneficiarse de la IA
“Nuestra junta ha sido muy clara: nuestra organización sin fines de lucro se fortalecerá y cualquier cambio en nuestra estructura existente estaría en servicio para garantizar que el público en general pueda beneficiarse de la IA”, nos dijo un portavoz de OpenAI en una declaración enviada por correo electrónico. El brazo con fines de lucro que se convirtió en un PBC sería similar a otros atuendos de IA como Anthrope y XAI, agregó la compañía, al tiempo que cava a Musk diciendo que Xai “no admite una organización sin fines de lucro”.
Operai también señaló, nuevamente, que recientemente había establecido una comisión de expertos para guiar sus “esfuerzos filantrópicos” al “maximizar el impacto para las personas y las organizaciones impulsadas por la misión”.
Nada de lo que Operai ha dicho aborda directamente sus propias afirmaciones de que, bajo la última reestructuración propuesta, el brazo con fines de lucro se haría cargo de las operaciones diarias.
Como una corporación de beneficios públicos de Delaware, OpenAi aún se requeriría legalmente para obtener un beneficio público junto con las ganancias. Sin embargo, según la ley de Delaware, el OpenAI PBC no se requeriría que revele públicamente el progreso hacia ese objetivo. También le da a PBCS amplio margen para participar en empresas rentables que no necesariamente se alinean con su misión pública declarada.
Dado que SoftBank recientemente prometió arar $ 40 mil millones en el gigante de la IA, con una condición específica que Operai se convierte en una entidad con fines de lucro este año, podemos imaginar un fuerte incentivo para participar en la mayor cantidad posible de estas empresas con ganancias. ®
Rose Chan Loui explica la controversia actual que rodea la decisión de Openi de abandonar su estado sin fines de lucro. Para obtener más información sobre la reestructuración propuesta por OpenAI, lo que significa para que la carrera desarrolle inteligencia general artificial y cómo resalta el concepto legal difícil del “propósito” de una organización sin fines de lucro, escuche la reciente aparición de Chan Loui sobre Capital no.
¿Qué es el “propósito”? ¿Es una portería que uno se establece para uno mismo, una promesa bien intencionada entre amigos o un compromiso legalmente vinculante? En el mundo sin fines de lucro, el propósito es un compromiso vinculante con el público, y la ley no facilita la abandono. Allí se encuentra la controversia actual que rodea al desarrollador de inteligencia artificial OpenAi, ya que busca cambiar su propósito fundador sin fines de lucro. Cómo se resuelve esta controversia tiene implicaciones para miles de millones de dólares en fondos y el futuro del desarrollo de la inteligencia artificial.
La compañía con sede en California conocida como OpenAI es en realidad una red de empresas controlada por una organización sin fines de lucro, que para la intención de este artículo, llamaremos “sin fines de lucro OpenAI”. La organización sin fines de lucro Openai se fundó a fines de 2015 “con el objetivo de construir inteligencia general artificial segura y beneficiosa para el beneficio de la humanidad”. Openai define la inteligencia artificial como “sistemas altamente autónomos que superan a los humanos a la mayoría de los trabajos económicamente valiosos”. La compañía afirma además: “Intentaremos construir directamente AGI seguro y beneficioso, pero también consideraremos que nuestra misión se cumple si nuestro trabajo ayuda a otros a lograr este resultado”.
El propósito legal sin fines de lucro Openai, que se encuentra en su certificado de incorporación, es “garantizar que la inteligencia general artificial beneficie a toda la humanidad, incluso mediante la realización y/o financiamiento de la investigación de inteligencia artificial”. El certificado de incorporación elabora aún más que “la corporación puede También investigue y/o apoye los esfuerzos para desarrollar y distribuir de manera segura dicha tecnología y sus beneficios asociados, incluido el análisis de los impactos sociales de la tecnología y el apoyo a la investigación e iniciativas de políticas educativas, económicas y de seguridad relacionadas “. Finalmente, el certificado promete que “[t]La tecnología resultante beneficiará al público y la corporación buscará distribuirla para el beneficio público cuando corresponda “.
Como los ex empleados de Operai han representado en una presentación judicial, la organización sin fines de lucro OpenAI se comprometió con este propósito de atraer y retener lo mejor y lo más brillante en el campo de la investigación y el desarrollo de la IA.
La estructura inusual de Openai se produjo en 2019, cuando la junta sin fines de lucro de OpenAI decidió que la financiación filantrópica no sería suficiente para apoyar su trabajo de desarrollo y necesitaban una estructura sin fines de lucro que permitiera una inversión externa. Al expandir su estructura de entidad única a la red actual de entidades, la compañía se comprometió a dar el control del 100% de la corporación con fines de lucro (lo que llamaremos “OpenAI con fines de lucro”) a OpenAI sin fines de lucro. La compañía afirmó además que el propósito sin fines de lucro de OpenAI, no para obtener ganancias, sería primordial en las operaciones de OpenAI con fines de lucro. Proporcionando una mayor garantía de que el propósito sin fines de lucro OpenAI controlaría, la organización sin fines de lucro Openai cometió que la mayoría de su junta sería “independiente” (definida estrechamente como no tener equidad en OpenAI con fines de lucro).
La compañía dejó en claro esta estructura de inversión a medida para los inversores, incluso afirmando en sus acuerdos de inversores que las contribuciones de capital a OpenAI con fines de lucro deben verse “en el espíritu de una donación”. OpenAI con fines de lucro no tendrá la obligación de obtener ganancias y sería libre de invertir cualquiera o la totalidad de su flujo de efectivo en la investigación y el desarrollo sin ninguna obligación (como distribuciones) para los inversores. Si se obtuvieran ganancias, el interés de los inversores se limitaría a 100 veces la inversión, con el valor residual para ir a la organización sin fines de lucro OpenAI. Según esta estructura, se estima que OpenAI atrajo más de $ 20 mil millones en inversiones.
Sin embargo, hacia fines de 2024, Openai anunció que implementaría otra reestructuración significativa. “Una vez más, necesitamos recaudar más capital de lo que habíamos imaginado. Los inversores quieren respaldarnos, pero, a esta escala de capital, necesitan capital convencional y menos validez estructural”. Según una publicación de blog de diciembre de 2024 de la compañía, la reestructuración propuesta eliminaría la organización sin fines de lucro OpenAI de su posición de control dentro de la compañía. La organización sin fines de lucro Operai recibiría una participación minoritaria en la empresa con fines de lucro y apoyaría “iniciativas caritativas en sectores como la atención médica, la educación y la ciencia”. OpenAI con fines de lucro se convertiría en una Corporación de Beneficios Públicos con fines de lucro de Delaware (“PBC”), una estructura que permite a la empresa considerar el bien público en lugar de centrarse exclusivamente en maximizar las ganancias de los accionistas. En particular, un PBC típico de Delaware es responsable solo de su propia junta con respecto a cómo (o si) está sirviendo a un bien público.
En resumen, la estructura corporativa de OpenAI se encendería, con el padre sin fines de lucro que controla actualmente, relegado a ser una base corporativa típica controlada por la corporación con fines de lucro. Dependiendo de cuánto y qué tipo de compensación sin fines de lucro que OpenAi recibe en la reestructuración propuesta, TI podría Sea uno de los cimientos de subvenciones más recurrentes del país con el potencial de hacer mucho bien. Sin embargo, la reestructuración abandonaría el propósito de la organización sin fines de lucro OpenAi, ya que su propósito principal era controlar cómo OpenAi hizo su trabajo de desarrollo de IA.
Según la ley sin fines de lucro, una organización benéfica no puede cambiar su propósito general sin saltar a través de algunos aros legales, al menos no con respecto a los activos que ya estaban dedicados a ese propósito. Los aros legales implican que un tribunal autorice el cambio de propósito, con el fiscal general estatal pertinente presentado como una “parte necesaria” para proporcionar su punto de vista. Los Fiscales Generales con autoridad sobre OpenAi sin fines de lucro son el Fiscal General de Delaware, donde se incorpora sin fines de lucro OpenAI, y el Fiscal General de California, donde OpenAI sin fines de lucro lleva a cabo sus negocios y posee activos.
Al decidir si el cambio en el propósito debe ser autorizado, el Tribunal y los Fiscales Generales de Delaware y California deberían considerar la doctrina de “CY Pres”. Según la doctrina CY Pres, el propósito solo se puede cambiar si se ha vuelto ilegal, imposible, impracticable o derrochador para que la organización benéfica lleve a cabo sus propósitos: un obstáculo bastante alto. Si se justifica un cambio en el propósito, los activos de la organización benéfica deben dirigirse a fines de caridad que se aproximan razonablemente a los propósitos originales de la organización benéfica.
El propósito de la organización sin fines de lucro Openai ciertamente no se ha vuelto ilegal, imposible o derrochador. De hecho, con el desarrollo de AGI en el horizonte, muchos argumentan que el propósito de la organización sin fines de lucro OpenAi se ha vuelto cada vez más crítico. Sin embargo, podría La compañía argumenta que el propósito se ha vuelto “impracticable”: la gerencia de OpenAI afirma que la compañía no puede recaudar fondos para su búsqueda de AGI sin eliminar la organización sin fines de lucro OpenAi de su posición de control. Por otro lado, los expertos en IA que temen los riesgos existenciales del desarrollo sin restricciones de AGI argumentan que la organización sin fines de lucro OpenAi y sus subsidiarias pueden seguir AGI, pero a un ritmo reducido y más reflexivo, y que ese era exactamente el propósito de la estructura sin fines de lucro de OpenAI. En resumen, la impracticabilidad no se aplica, porque el propósito primordial sin fines de lucro OpenAI es garantizar que AGI beneficie a la humanidad, que no sea la primera en desarrollar AGI.
La posición de la compañía parece ser que la reestructuración propuesta es solo un cambio en el actividades De la compañía, no es un cambio en el propósito: que al usar la parte sin fines de lucro de OpenAI de las ganancias obtenidas por las operaciones con fines de lucro, la continua organización sin fines de lucro OpenAI seguirá beneficiando a la humanidad. Si bien este es un argumento plausible para las organizaciones sin fines de lucro con un propósito caritativo general, el propósito de la organización sin fines de lucro OpenAI está vinculado de manera única y muy específica a su control de las operaciones con fines de lucro OpenAI. La actividad principal sin fines de lucro OpenAI es supervisar el desarrollo de AGI por parte de la compañía para garantizar que beneficie a la humanidad. De hecho, la compañía afirma que si otra compañía está desarrollando AGI mejor que OpenAI, OpenAi sin fines de lucro apoyará a la otra compañía con sus recursos.
En abril de 2025, Openai completó otra ronda de financiación, esta vez por $ 40 mil millones a una valoración de $ 300 mil millones. En particular, esta ronda de fondos viene con condiciones: si la subsidiaria con fines de lucro de OpenAI no se reestructura en una entidad totalmente con fines de lucro a fines de 2025, se podría requerir que Operai devuelva $ 20 mil millones de la nueva financiación.
El propósito de la organización sin fines de lucro OpenAI es claro. La pregunta es si el propósito altruista sin fines de lucro de OpenAI para desarrollar AGI en beneficio de toda la humanidad, el propósito que atrajo a sus donantes fundadores y a sus brillantes científicos de IA a la compañía, puede sobrevivir a los enormes incentivos y la presión para permitir que la Compañía ahora sea valorada en $ 300 mil millones, para maximizar las ganancias sin restricciones, enriqueciendo a sus empleados y inversores, mientras que se deja a un lado de la Compañía de su control de su control de su control de su control de su control de su control de su control de su control.
Divulgación del autor: El autor no informa conflictos de intereses. Puede leer nuestra política de divulgación aquí.
Los artículos representan las opiniones de sus escritores, no necesariamente las de la Universidad de Chicago, la Escuela de Negocios Booth o su facultad.
Mira Murati es la charla de Silicon Valley.
Murati llegó a muchos titulares en 2023 y 2024 en medio de la agitación y la fuga de cerebros en OpenAi. Y a principios de 2025, ya está captando más atención por recaudar una nueva ronda masiva de fondos para su nueva startup de IA.
La joven de 36 años está construyendo Machines Lab, la secretaria startup de IA que lanzó a fines de 2024 después de salir de Openai, donde se desempeñó como directora de tecnología. Murati no ha revelado muchos detalles sobre lo que está desarrollando la startup, pero en una reciente publicación de blog, compartió que la compañía está desarrollando modelos de IA centrados en la colaboración humana y de IA.
Thinking Machines Lab está buscando $ 2 mil millones en fondos iniciales, informó Business Insider, que podría ser la ronda de semillas más grande de la historia. La ronda podría valorar la startup en más de $ 10 mil millones, dijeron dos fuentes a BI.
En enero de 2025, BI informó que la startup de Murati buscaba $ 1 mil millones en fondos iniciales con una valoración de $ 9 mil millones.
Un representante de Murati declinó hacer comentarios para esta historia.
Slaven Vlasic/Getty Images
Murati fue nombrada en la lista de la revista Time de las 100 personas más influyentes en la IA en septiembre de 2024. Ese mismo año, Dartmouth College, su alma mater, le otorgó un doctor honorario en ciencias por su trabajo democratizando la tecnología y que fue más seguro para que las personas usen.
Antes de fundar Thinking Machines Lab, Murati pasó seis años y medio en Operai y fue su CTO desde 2022 hasta 2024. Cuando Sam Altman fue expulsado brevemente como CEO de la startup de IA a fines de 2023, Murati intervino para liderar la compañía en forma interina. En OpenAI, Murati lideró el desarrollo de ChatGPT y el modelo de texto a imagen Dall-E.
Anteriormente en su carrera, Murati trabajó en Tesla y en la startup de realidad aumentada, Ultraleap.
Aquí hay un vistazo a la vida y la carrera de Murati hasta ahora.
La vida temprana de Mira Murati, educación
Ermira “Mira” Murati nació en Vlorë, una ciudad costera en el suroeste de Albania. Vivió allí hasta los 16 años, cuando ganó una beca académica para estudiar en Pearson College, un programa previo a la universidad de dos años en Victoria, Columbia Británica.
Murati participó en un programa de doble grado que permite a los estudiantes ganar dos grados de dos escuelas de artes liberales en cinco años. Obtuvo una Licenciatura en Artes de Colby College en Waterville, Maine, en 2011 y una licenciatura en ingeniería de la Thayer School of Engineering de Dartmouth College en Hanover, New Hampshire, en 2012.
Después de graduarse de la universidad, Murati internó en Goldman Sachs en Tokio y la compañía aeroespacial francesa Zodiac Aerospace. Luego pasó tres años en Tesla, donde fue gerente de productos que ayudó a desarrollar el automóvil Tesla Model X. Desde 2016-2018, Murati trabajó en la startup de realidad aumentada Leapmotion, donde trabajó para reemplazar los teclados de computadora con la tecnología. Leapmotion ahora se conoce como Ultraleap.
La carrera de Mira Murati en Operai
Murati originalmente se unió a Openai en 2018 como vicepresidente de IA aplicada y asociaciones. En diciembre de 2020, se convirtió en vicepresidenta senior de investigación, productos y asociaciones.
Fue promovida a ser CTO de la startup en mayo de 2022, liderando el trabajo de la compañía para desarrollar el generador de imágenes Dall-E, el generador de video Sora, el chatbot chatgpt y sus modelos subyacentes.
El 17 de noviembre de 2023, la junta de OpenAI sorprendió al mundo tecnológico al anunciar que Altman renunciaba como CEO y como miembro de la Junta, con vigencia de inmediato. La junta en una publicación de blog dijo que “ya no tiene confianza en su capacidad para continuar liderando OpenAi”, y agregó que Altman “no era constantemente sincero en sus comunicaciones”.
Murati fue nombrado CEO interino de Openi en su lugar, pero la posición no duró mucho: solo una semana después de que fue expulsado, Altman fue reinstalado para el primer puesto de Openi con nuevos miembros de la junta, y Murati dijo que ella apoyó el regreso de Altman.
Murati se ha hecho conocido por su enfoque más cauteloso para la IA y ha dicho que cree que debería estar regulado.
Ya en 2023, Murati reconoció que existen peligros asociados con la IA, particularmente cuando se trata de malos actores mal uso de la tecnología. En una entrevista, le dijo a la revista Time que no debería depender de OpenAi y otras compañías de IA para autorregularse y que los reguladores y los gobiernos deberían “definitivamente” involucrarse para garantizar que el uso de la IA esté alineado con los valores humanos.
Patrick T. Fallon/AFP a través de Getty Images
Después de su breve tiempo como CEO interino de OpenAI, Murati asumió un papel más orientado en la compañía. En mayo de 2024, ayudó a anunciar ChatGPT 4-O, el nuevo modelo insignia de la startup que es más rápido que su predecesor y puede razonar a través del texto, la voz y la visión.
Operai también debutó un chatbot personalizado en la Gala Met 2024, con Murati asistiendo al evento exclusivo.
Mientras intervino en la pérdida de empleo impulsada por la IA, Murati dijo que algunos trabajos creativos podrían desaparecer, “pero tal vez no deberían haber estado allí en primer lugar”. Sus comentarios enfurecieron a muchos, con un escritor que le dijo a BI que representaban “una declaración de guerra contra el trabajo creativo”.
Mira Murati y Laboratorio de máquinas de pensamiento
Murati partió de Openai en septiembre de 2024, un movimiento que sorprendió a muchas personas en el mundo tecnológico.
Desde que se fue, ha estado trabajando en silencio en su nueva startup, Thinking Machines Lab, que ha captado la atención de muchos en Silicon Valley. Si bien hasta ahora se sabe poco sobre la startup, es un laboratorio de investigación y productos con el objetivo de hacer que la IA sea más accesible.
La startup salió oficialmente del sigilo en febrero de 2025.
Ella ha reclutado una larga lista de ex empleados de Operai para Thinking Machines Lab. Ex-Meta y empleados antrópicos también se han unido.
Hasta ahora, los empleados de Thinking Machines Lab de OpenAI incluyen a John Schulman, quien fue co-lideró la creación de ChatGPT; Jonathan Lachman, anteriormente jefe de proyectos especiales en OpenAI; Barret Zoph, un cocreador de Chatgpt; y Alexander Kirillov, que trabajó estrechamente con Murati en el modo de voz de Chatgpt.
Múltiples empleados de Operai han dejado a la compañía para unirse a Thinking Machines Lab, incluidos dos cocreadores de ChatGPT, John Schulman y Barret Zoph.
Kimberly White/Getty Images para Wired
A principios de 2025, BI informó que Thinking Machines Lab estaba recaudando una ronda de $ 1 mil millones con una valoración de $ 9 mil millones. En abril de 2025, Bi informó que Murati duplicó su objetivo y ahora estaba tratando de recaudar una ronda de $ 2 mil millones, que sería la ronda de semillas más grande de la historia. Dos fuentes le dijeron a BI que la ronda podría valorar el laboratorio de máquinas de pensamiento en más de $ 10 mil millones.
Ayude a BI a mejorar nuestra cobertura de negocios, tecnología e innovación compartiendo un poco sobre su papel; nos ayudará a adaptar el contenido que más importe para personas como usted.
¿Cuál es tu título de trabajo?
(1 de 2)
¿Qué productos o servicios puede aprobar para la compra en su rol?
(2 de 2)
Al proporcionar esta información, usted acepta que Business Insider puede usar estos datos para mejorar la experiencia de su sitio y para la publicidad dirigida. Al continuar, acepta que acepte los términos de servicio y la política de privacidad.
Gracias por compartir ideas sobre su papel.
La vida personal de Mira Murati
Poco se sabe sobre la vida personal, la familia o las relaciones de Murati.
En el Festival de Cine de los Leones de Cannes en 2024, Murati compartió una anécdota humorística sobre la primera interacción de su madre con Chatgpt fue preguntarle al chatbot cuándo se casaría Murati.
Murati le dijo a la revista Time que la película de 1968 2001: una odisea espacial Avierte su imaginación, específicamente, las imágenes y la música de la película en la escena donde el transbordador espacial atraca.
La película sigue a los astronautas y una supercomputadora de IA mientras viajan al espacio para encontrar el origen de un artefacto misterioso. Mientras la tripulación viaja al planeta Júpiter, la computadora intenta matar a los astronautas.
Murati también le dijo a la revista que le gusta la canción Paranoid Android de Radiohead, así como el libro Duino Elegies, que es una colección de poemas de Rainer Maria Rilke.
Una fuerza impulsora para el trabajo de Murati es lograr AGI, o inteligencia general artificial, que es AI que imita las habilidades humanas. AGI podría adaptarse a una amplia gama de tareas, enseñarse nuevas habilidades y aplicar ese conocimiento a nuevas situaciones.
La búsqueda de este objetivo llevó a Murati de Tesla, a Leapmotion, a OpenAi, le dijo a Wired en una entrevista de 2023.
“Rápidamente creí que AGI sería la última y más importante tecnología importante que construimos, y que quería estar en el corazón”, dijo.
