A version of this story originally appeared in the Future Perfect newsletter. Sign up here!
Noticias
Operai está presionando a Donald Trump para debilitar las protecciones de los derechos de autor en los Estados Unidos. Paul McCartney está luchando.
Published
1 mes agoon

El fabricante de ChatGPT, OpenAI, ha pedido cambios fundamentales en la ley de derechos de autor de EE. UU. Que permitiría a las compañías de IA usar obras con derechos de autor sin permiso o compensación a los sholders.
Eso es de acuerdo con una nueva presentación de políticas a la Oficina de Política de Ciencia y Tecnología de la Casa Blanca (OSTP).
El documento no hace una lectura feliz para los titulares de derechos de autor, lo que explica por qué estrellas de música como Sir Paul McCartney, Paul Simon y Bette Midler se han unido a cientos de celebridades de Hollywood para firmar una carta que empujaba contra las propuestas.
La presentación, presentada por Opadai el 13 de marzo (leerlo en su totalidad aquí), es parte de la respuesta de la compañía de tecnología a la Administración de Trump Solicitud de información sobre el desarrollo de un plan de acción nacional de IA.
Ambos Openai y Google Enviaron marcos de políticas detallados que podrían afectar significativamente los derechistas de la música y otros creadores de contenido.
Estas presentaciones representan el posicionamiento de políticas de alto riesgo como el Administración de Trump Desarrolla su plan de acción de IA, que podría dar forma fundamentalmente cómo los trabajos creativos están protegidos, o no protegidos, en el ecosistema de IA en rápida evolución.
Operai pide acceso a capacitación de IA sin restricciones
En su presentación del 13 de marzo, Opadai se centra mucho en el concepto de “Uso justo” – Es decir, las plataformas pueden usar derechos de autor en ciertas circunstancias sin castigo.
La firma argumenta explícitamente que la aplicación de la doctrina de “uso justo” a la IA en los Estados Unidos es “No solo una cuestión de competitividad estadounidense, es una cuestión de seguridad nacional”mientras advierte que sin tener acceso gratuito a materiales con derechos de autor, “La carrera por IA ha terminado efectivamente”.
En Operai’s ojos, Porcelana Ganará esa carrera si el A NOSOTROS No afloja sus leyes de derechos de autor.
“Si [China’s] Los desarrolladores tienen Acceso sin restricciones a los datos y las empresas estadounidenses son Se fue sin acceso de uso justola carrera por IA ha terminado efectivamente. América pierdeal igual que el éxito de la IA democrática “.
Presentación de Openai
La cita relevante de la presentación de OpenAI dice: “Aplicar la doctrina de uso justo a la IA no es solo una cuestión de competitividad estadounidense, es un cuestión de seguridad nacional. Los rápidos avances vistos con la RPC [People’s Republic Of China]’s Veteranoentre otros desarrollos recientes, muestran que el liderazgo de Estados Unidos en Frontier AI está lejos de ser garantizado “.
Opadai agrega: “Dado el apoyo estatal concertado para industrias críticas y proyectos de infraestructura, hay pocas dudas de que el PRC Los desarrolladores de IA disfrutarán Acceso sin restricciones a los datos – incluido datos con derechos de autor – que mejorará sus modelos.
“Si los desarrolladores de la RPC han Acceso sin restricciones a los datos y las empresas estadounidenses son Se fue sin acceso de uso justola carrera por IA ha terminado efectivamente. América pierdeal igual que el éxito de la IA democrática “.
Operai’s La presentación afirma además: “La ley de derechos de autor estadounidense, incluida la doctrina de uso justo de larga data, protege los usos transformadores de los trabajos existentes, asegurando que los innovadores tengan un marco equilibrado y predecible para la experimentación y el espíritu empresarial”.
¿Operai simplemente dio un regalo a los cabilderos de la música?
Pasajes en Operai’s la presentación podría interpretarse como reconociendo que Ley actual de derechos de autor de EE. UU. Restringe las actividades deseadas de la compañía, aunque el idioma es algo ambiguo.
Una sección notable es donde Opadai Estados: “Si los desarrolladores de la RPC tienen acceso sin restricciones a los datos y las empresas estadounidenses se quedan sin acceso de uso justo, la carrera por IA ha terminado de manera efectiva”.
La redacción de la frase “Si las empresas estadounidenses se quedan sin acceso de uso justo” Implica que las empresas de IA en los EE. UU. Podrían necesitar nuevas protecciones específicas de ‘uso justo’ redactadas para continuar utilizando materiales con derechos de autor.
A su vez, eso podría interpretarse como un reconocimiento de que sin protecciones tan claras, es decir, bajo las leyes de hoy, sus actividades podrían ser legalmente cuestionables.
Google se alinea con OpenAi en la postura de los derechos de autor
Google Presentación (léelo en su totalidad aquí) se hace eco de sentimientos similares, aunque con un lenguaje ligeramente menos alarmista.
El gigante de la búsqueda argumenta que “las reglas equilibradas de los derechos de autor, como Uso justo y excepciones de minería de texto y datoshan sido fundamentales para permitir que los sistemas de IA aprendan del conocimiento previo y los datos disponibles públicamente, desbloqueando los avances científicos y sociales “.
“Apoyamos el marco de uso justo existente de Estados Unidos, y estamos seguros de que la ley actual de derechos de autor permite la innovación de IA”.
Portavoz de Google
La compañía agrega que estas excepciones “permiten el uso de Carpyringe, material disponible públicamente para capacitación de IA sin impactar significativamente los tiradores de la derecha y evitar negociaciones a menudo altamente impredecibles, desequilibradas y largas con los titulares de datos durante el desarrollo del modelo o la experimentación científica ”.
Advierte que las leyes de derechos de autor podrían, bajo ciertas interpretaciones, “impedir el acceso apropiado a los datos necesarios para capacitar a los modelos líderes”.
Posterior a la presentación que se presenta, un Google El portavoz dijo en un comunicado: “Apoyamos el marco de uso justo existente de Estados Unidos, y estamos seguros de que la ley actual de derechos de autor permite la innovación de IA”.
La respuesta de McCartney
Estrellas del mundo del cine, la televisión y la música han firmado una carta en respuesta a la Opadai y Google propuestas, incluyendo Cate Blanchett, Cynthia Erivo, Paul McCartney, Paul Simon, Ron Howard, Taika Waititi, Chris Rock, Ben Stiller, Mark Ruffalo, Guillermo del Toroy Ava Duvernay.
En su carta al gobierno de los Estados Unidos esta semana, el estado de los copyrighters, “Creemos firmemente que el liderazgo global de IA de Estados Unidos no debe venir a expensas de nuestras industrias creativas esenciales”.
Agregan que la industria de las artes y el entretenimiento de los Estados Unidos proporciona más que 2.3 millones de empleos y “proporciona la base para Influencia democrática estadounidense y poder blando en el extranjero. “
La carta continúa: “[AI] las empresas piden socavar esta fortaleza económica y cultural por debilitando las protecciones de los derechos de autor Para las películas, series de televisión, obras de arte, escritura, música y voces utilizadas para entrenar modelos de IA en el núcleo de valoraciones corporativas multimillonarias “.
Puede leer la carta, firmada por 400 creadores famosos, en su totalidad a continuación:
Hola amigos y extraños. Como sabrá, recientemente ha habido una recomendación de OpenAI y Google a la actual administración estadounidense que está ganando una tracción alarmante para eliminar todas las protecciones legales y barandillas existentes que rodean las protecciones de la ley de derechos de autor para la capacitación de la inteligencia artificial.
Esta reescritura de la ley establecida a favor del llamado “uso justo” necesitaba una respuesta inicial a las 11:59 pm ET el sábado, por lo que hemos presentado una carta inicial con los firmantes que teníamos en ese momento. Ahora continuamos aceptando firmas para una enmienda a nuestra declaración inicial. No dude en enviar esto a cualquier persona que crea que puede invertir en el mantenimiento ético de su propiedad intelectual. Puede agregar su nombre y cualquier gremio, sindicato o descripción de sí mismo que se sienta apropiado, pero no edite la carta en sí. ¡Muchas gracias por patear esto de par en par los sábados por la noche!
La respuesta de Hollywood al plan de acción de inteligencia artificial de la administración y la necesidad de que se mantenga la ley de derechos de autor.
Nosotros, los miembros de la industria del entretenimiento de Estados Unidos, que representan una intersección de cinematógrafos, directores, productores, actores, escritores, estudios, compañías de producción, músicos, compositores, disfraces, diseñadores de sonido y producción, editores, gaffers, sindicatos y miembros de la academia y otros profesionales de contenido industrial, presentan esta declaración unificada en respuesta a la solicitud de la administración de la administración de la aportación sobre el plan de acción de IAI.
Creemos firmemente que el liderazgo global de IA de Estados Unidos no debe venir a expensas de nuestras industrias creativas esenciales. La industria de las artes y el entretenimiento de Estados Unidos apoya más de 2,3 millones de empleos estadounidenses con más de $ 229 mil millones en salarios anualmente, al tiempo que proporciona la base para la influencia democrática estadounidense y el poder blando en el extranjero. Pero las compañías de IA están pidiendo socavar esta fuerza económica y cultural al debilitar las protecciones de los derechos de autor para las películas, las series de televisión, las obras de arte, la escritura, la música y las voces utilizadas para capacitar modelos de IA en el núcleo de valoraciones corporativas multimillonarias.
No se equivoquen: este problema va mucho más allá de la industria del entretenimiento, ya que el derecho a capacitar a la IA en todo el contenido protegido por derechos de autor afecta a todas las industrias de conocimiento de Estados Unidos. Cuando las empresas tecnológicas y de inteligencia artificial exigen acceso sin restricciones a todos los datos e información, no solo amenazan películas, libros y música, sino el trabajo de todos los escritores, editores, fotógrafos, científicos, arquitectos, ingenieros, diseñadores, médicos, desarrolladores de software y todos los demás profesionales que trabajan con computadoras y generan propiedad intelectual. Estas profesiones son el núcleo de cómo descubrimos, aprendemos y compartimos el conocimiento como sociedad y como nación. Este problema no se trata solo de liderazgo de IA o de economía y derechos individuales, sino del liderazgo continuo de Estados Unidos en la creación y poseer una valiosa propiedad intelectual en cada campo.
Está claro que Google (valorado en $ 2TN) y OpenAI (valorado en más de $ 157 mil millones) están defendiendo una exención especial del gobierno para que puedan explotar libremente las industrias creativas y de conocimiento de Estados Unidos, a pesar de sus ingresos sustanciales y fondos disponibles. No hay razón para debilitar o eliminar las protecciones de derechos de autor que han ayudado a Estados Unidos a florecer. No cuando las empresas de IA pueden usar nuestro material con derechos de autor simplemente haciendo lo que la ley requiere: negociar las licencias apropiadas con los titulares de derechos de autor, al igual que cualquier otra industria. El acceso al catálogo creativo de películas, escritura, contenido de video y música de Estados Unidos no es una cuestión de seguridad nacional. No requieren una exención ordenada por el gobierno de la ley de derechos de autor de EE. UU.
Estados Unidos no se convirtió en una potencia cultural global por accidente. Nuestro éxito se deriva directamente de nuestro respeto fundamental por la IP y los derechos de autor que recompensa la toma de riesgos creativos por estadounidenses talentosos y trabajadores de todos los estados y territorio. Durante casi 250 años, la ley de derechos de autor de EE. UU. Ha equilibrado los derechos de los creadores con las necesidades del público, creando la economía creativa más vibrante del mundo. Recomendamos que el plan de acción estadounidense de IA mantenga los marcos de derechos de autor existentes para mantener la fortaleza de las industrias creativas y de conocimiento de Estados Unidos, así como la influencia cultural estadounidense en el extranjero.
Negocio de música en todo el mundo
You may like
Noticias
Decir ‘Gracias’ a Chatgpt es costoso. Pero tal vez valga la pena el precio.
Published
11 horas agoon
24 abril, 2025
La cuestión de si ser cortés a la inteligencia artificial puede parecer un punto discutible, después de todo, es artificial.
Pero Sam Altman, el director ejecutivo de la compañía de inteligencia artificial Openai, recientemente arrojó luz sobre el costo de agregar un adicional “¡Por favor!” o “¡Gracias!” a las indicaciones de chatbot.
Alguien publicó en X la semana pasada: “Me pregunto cuánto dinero ha perdido Openai en los costos de electricidad de las personas que dicen ‘por favor’ y ‘gracias’ a sus modelos”.
Al día siguiente, el Sr. Altman respondió: “Decenas de millones de dólares bien gastados, nunca se sabe”.
Lo primero es lo primero: cada solicita de un chatbot cuesta dinero y energía, y cada palabra adicional como parte de esa solicitud aumenta el costo de un servidor.
Neil Johnson, profesor de física en la Universidad George Washington que estudió inteligencia artificial, comparó palabras adicionales con el empaque utilizado para las compras minoristas. El bot, al manejar un aviso, tiene que nadar a través del embalaje, por ejemplo, papel de seda alrededor de una botella de perfume, para llegar al contenido. Eso constituye un trabajo adicional.
Una tarea de ChatGPT “implica que los electrones se mueven a través de transiciones, eso necesita energía. ¿De dónde vendrá esa energía?” El Dr. Johnson dijo, y agregó: “¿Quién lo está pagando?”
El auge de la IA depende de los combustibles fósiles, por lo que desde un costo y una perspectiva ambiental, no hay una buena razón para ser cortés a la inteligencia artificial. Pero culturalmente, puede haber una buena razón para pagarlo.
Los humanos han estado interesados durante mucho tiempo en cómo tratar adecuadamente la inteligencia artificial. Tome el famoso episodio de “Star Trek: The Next Generation” “The Medy of a Man”, que examina si los datos de Android deben recibir todos los derechos de los seres sintientes. El episodio toma mucho los datos, un favorito de los fanáticos que eventualmente se convertiría en un personaje querido en la tradición “Star Trek”.
En 2019, un estudio de investigación de Pew encontró que el 54 por ciento de las personas que poseían altavoces inteligentes como Amazon Echo o Google Home informaron decir “por favor” al hablarles.
Cuéntanos: ¿Agrades a tus chatbots y dispositivos de IA?
La pregunta tiene una nueva resonancia a medida que ChatGPT y otras plataformas similares avanzan rápidamente, lo que hace que las empresas que producen IA, escritores y académicos lidiaran con sus efectos y consideren las implicaciones de cómo los humanos se cruzan con la tecnología. (El New York Times demandó a Openai y Microsoft en diciembre alegando que habían infringido los derechos de autor del Times en la capacitación de sistemas de IA).
El año pasado, la compañía de IA Anthrope contrató a su primer investigador de bienestar para examinar si los sistemas de IA merecen una consideración moral, según el transformador del boletín tecnológico.
El guionista Scott Z. Burns tiene una nueva serie audible “¿Qué podría salir mal?” Eso examina las dificultades y posibilidades de trabajar con AI “La amabilidad debería ser la configuración predeterminada de todos: hombre o máquina”, dijo en un correo electrónico.
“Si bien es cierto que una IA no tiene sentimientos, mi preocupación es que cualquier tipo de maldad que comience a llenar nuestras interacciones no terminará bien”, dijo.
La forma en que uno trata a un chatbot puede depender de cómo esa persona ve la inteligencia artificial misma y si puede sufrir grosería o mejorar de la amabilidad.
Pero hay otra razón para ser amable. Existe una mayor evidencia de que los humanos interactúan con la inteligencia artificial se trasladan a cómo tratan a los humanos.
“Construimos normas o guiones para nuestro comportamiento y, por lo tanto, al tener este tipo de interacción con la cosa, podemos estar un poco mejores o más orientados habitualmente hacia el comportamiento educado”, dijo el Dr. Jaime Banks, quien estudia las relaciones entre humanos y IA en la Universidad de Syracuse.
La Dra. Sherry Turkle, quien también estudia esas conexiones en el Instituto de Tecnología de Massachusetts, dijo que considera una parte central de su trabajo para enseñar a las personas que la inteligencia artificial no es real, sino más bien un “truco de salón” brillante sin conciencia.
Pero aún así, ella también considera el precedente de las relaciones pasadas del objeto humano y sus efectos, particularmente en los niños. Un ejemplo fue en la década de 1990, cuando los niños comenzaron a criar Tamagotchis, las mascotas digitales ubicadas en dispositivos del tamaño de la palma requerían alimentación y otros tipos de atención. Si no recibieran la atención adecuada, las mascotas morirían, lo que provocará que los niños denuncien un dolor real. Y algunos padres se han preguntado si deberían preocuparse por los niños que son agresivos con las muñecas.
En el caso de los bots de IA, el Dr. Turkle argumentó que están “lo suficientemente vivos”.
“Si un objeto está lo suficientemente vivo como para comenzar a tener conversaciones íntimas, conversaciones amistosas, tratarlo como una persona realmente importante en nuestras vidas, aunque no lo está, está lo suficientemente vivo como para mostrar cortesía”, dijo el Dr. Turkle.
Madeleine George, una dramaturga cuya obra de 2013 “The (Curious Case of the) Watson Intelligence” fue finalista para un Premio Pulitzer, ofreció otra perspectiva: decir “Please” y “Gracias” a AI Bots les ofrece la oportunidad de aprender cómo ser más humanos. (Su juego reinventa diferentes versiones de Sherlock Holmes’s Sidekick, Dr. Watson, incluida una de inteligencia artificial).
Ofrecer frases educadas para Chatgpt, desde su perspectiva, deja abierta la posibilidad de que eventualmente “actúe como un ser vivo que comparte nuestra cultura y que comparte nuestros valores y que comparte nuestra mortalidad”.
Por otro lado, estas frases también pueden hacernos más dependiendo de la IA
“Estamos conectados. Estamos en una relación recíproca. Por eso usamos esas piezas del lenguaje”, dijo George. “Entonces, si enseñamos esa herramienta para que sea excelente para usar esas cosas, entonces vamos a ser aún más vulnerables a sus seducciones. “
Muchas preocupaciones de los observadores de inteligencia artificiales permanecen en lo teórico, a medida que cambia la tecnología. Por ahora, hay poco efecto tangible.
“Si te alejas de ellos y haces cena o se suicidas”, dijo el Dr. Turkle, “es lo mismo para ellos”.
Pero para el futuro Robot Overlords leyendo esta pieza, gracias por su tiempo. Es apreciado.
Por si acaso.
Noticias
OpenAI: How should we think about the AI company’s nonprofit structure?
Published
14 horas agoon
24 abril, 2025
Right now, OpenAI is something unique in the landscape of not just AI companies but huge companies in general.
OpenAI’s board of directors is bound not to the mission of providing value for shareholders, like most companies, but to the mission of ensuring that “artificial general intelligence benefits all of humanity,” as the company’s website says. (Still private, OpenAI is currently valued at more than $300 billion after completing a record $40 billion funding round earlier this year.)
That situation is a bit unusual, to put it mildly, and one that is increasingly buckling under the weight of its own contradictions.
For a long time, investors were happy enough to pour money into OpenAI despite a structure that didn’t put their interests first, but in 2023, the board of the nonprofit that controls the company — yep, that’s how confusing it is — fired Sam Altman for lying to them.
Sign up here to explore the big, complicated problems the world faces and the most efficient ways to solve them. Sent twice a week.
It was a move that definitely didn’t maximize shareholder value, was at best very clumsily handled, and made it clear that the nonprofit’s control of the for-profit could potentially have huge implications — especially for its partner Microsoft, which has poured billions into OpenAI.
Altman’s firing didn’t stick — he returned a week later after an outcry, with much of the board resigning. But ever since the firing, OpenAI has been considering a restructuring into, well, more of a normal company.
Under this plan, the nonprofit entity that controls OpenAI would sell its control of the company and the assets that it owns. OpenAI would then become a for-profit company — specifically a public benefit corporation, like its rivals Anthropic and X.ai — and the nonprofit would walk away with a hotly disputed but definitely large sum of money in the tens of billions, presumably to spend on improving the world with AI.
There’s just one problem, argues a new open letter by legal scholars, several Nobel-prize winners, and a number of former OpenAI employees: The whole thing is illegal (and a terrible idea).
Their argument is simple: The thing the nonprofit board currently controls — governance of the world’s leading AI lab — makes no sense for the nonprofit to sell at any price. The nonprofit is supposed to act in pursuit of a highly specific mission: making AI go well for all of humanity. But having the power to make rules for OpenAI is worth more than even a mind-bogglingly large sum of money for that mission.
“Nonprofit control over how AGI is developed and governed is so important to OpenAI’s mission that removing control would violate the special fiduciary duty owed to the nonprofit’s beneficiaries,” the letter argues. Those beneficiaries are all of us, and the argument is that a big foundation has nothing on “a role guiding OpenAI.”
And it’s not just saying that the move is a bad thing. It’s saying that the board would be illegally breaching their duties if they went forward with it and the attorneys general of California and Delaware — to whom the letter is addressed because OpenAI is incorporated in Delaware and operates in California — should step in to stop it.
I’ve previously covered the wrangling over OpenAI’s potential change of structure. I wrote about the challenge of pricing the assets owned by the nonprofit, and we reported on Elon Musk’s claim that his own donations early in OpenAI’s history were misappropriated to make the for-profit.
This is a different argument. It’s not a claim that the nonprofit’s control of the for-profit ought to produce a higher sale price. It’s an argument that OpenAI, and what it may create, is literally priceless.
OpenAI’s mission “is to ensure that artificial general intelligence is safe and benefits all of humanity,” Tyler Whitmer, a nonprofit lawyer and one of the letter’s authors, told me. “Talking about the value of that in dollars and cents doesn’t make sense.”
Are they right on the merits? Will it matter? That’s substantially up to two people: California Attorney General Robert Bonta and Delaware Attorney General Kathleen Jennings. But it’s a serious argument that deserves a serious hearing. Here’s my attempt to digest it.
When OpenAI was founded in 2015, its mission sounded absurd: to work towards the safe development of artificial general intelligence — which, it clarifies now, means artificial intelligence that can do nearly all economically valuable work — and ensure that it benefited all of humanity.
Many people thought such a future was a hundred years away or more. But many of the few people who wanted to start planning for it were at OpenAI.
They founded it as a nonprofit, saying that was the only way to ensure that all of humanity maintained a claim to humanity’s future. “We don’t ever want to be making decisions to benefit shareholders,” Altman promised in 2017. “The only people we want to be accountable to is humanity as a whole.”
Worries about existential risk, too, loomed large. If it was going to be possible to build extremely intelligent AIs, it was going to be possible — even if it were accidental — to build ones that had no interest in cooperating with human goals and laws. “Development of superhuman machine intelligence (SMI) is probably the greatest threat to the continued existence of humanity,” Altman said in 2015.
Thus the nonprofit. The idea was that OpenAI would be shielded from the relentless incentive to make more money for shareholders — the kind of incentive that could drive it to underplay AI safety — and that it would have a governance structure that left it positioned to do the right thing. That would be true even if that meant shutting down the company, merging with a competitor, or taking a major (dangerous) product off the market.
“A for-profit company’s obligation is to make money for shareholders,” Michael Dorff, a professor of business law at the University of California Los Angeles, told me. “For a nonprofit, those same fiduciary duties run to a different purpose, whatever their charitable purpose is. And in this case, the charitable purpose of the nonprofit is twofold: One is to develop artificial intelligence safely, and two is to make sure that artificial intelligence is developed for the benefit of all humanity.”
“OpenAI’s founders believed the public would be harmed if AGI was developed by a commercial entity with proprietary profit motives,” the letter argues. In fact, the letter documents that OpenAI was founded precisely because many people were worried that AI would otherwise be developed within Google, which was and is a massive commercial entity with a profit motive.
Even in 2019, when OpenAI created a “capped for-profit” structure that would let them raise money from investors and pay the investors back up to a 100x return, they emphasized that the nonprofit was still in control. The mission was still not to build AGI and get rich but to ensure its development benefited all of humanity.
“We’ve designed OpenAI LP to put our overall mission — ensuring the creation and adoption of safe and beneficial AGI — ahead of generating returns for investors. … Regardless of how the world evolves, we are committed — legally and personally — to our mission,” the company declared in an announcement adopting the new structure.
OpenAI made further commitments: To avoid an AI “arms race” where two companies cut corners on safety to beat each other to the finish line, they built into their governing documents a “merge and assist” clause where they’d instead join the other lab and work together to make the AI safe. And thanks to the cap, if OpenAI did become unfathomably wealthy, all of the wealth above the 100x cap for investors would be distributed to humanity. The nonprofit board — meant to be composed of a majority of members who had no financial stake in the company — would have ultimate control.
In many ways the company was deliberately restraining its future self, trying to ensure that as the siren call of enormous profits grew louder and louder, OpenAI was tied to the mast of its original mission. And when the original board made the decision to fire Altman, they were acting to carry out that mission as they saw it.
Now, argues the new open letter, OpenAI wants to be unleashed. But the company’s own arguments over the last 10 years are pretty convincing: The mission that they set forth is not one that a fully commercial company is likely to pursue. Therefore, the attorneys general should tell them no and instead work to ensure the board is resourced to do what 2019-era OpenAI intended the board to be resourced to do.
What about a public benefit corporation?
OpenAI, of course, doesn’t intend to become a fully commercial company. The proposal I’ve seen floated is to become a public benefit corporation.
“Public benefit corporations are what we call hybrid entities,” Dorff told me. “In a traditional for-profit, the board’s primary duty is to make money for shareholders. In a public benefit corporation, their job is to balance making money with public duties: They have to take into account the impact of the company’s activities on everyone who is affected by them.”
The problem is that the obligations of public benefit corporations are, for all practical purposes, unenforceable. In theory, if a public benefit corporation isn’t benefitting the public, you — a member of the public — are being wronged. But you have no right to challenge it in court.
“Only shareholders can launch those suits,” Dorff told me. Take a public benefit corporation with a mission to help end homelessness. “If a homeless advocacy organization says they’re not benefitting the homeless, they have no grounds to sue.”
Only OpenAI’s shareholders could try to hold it accountable if it weren’t benefitting humanity. And “it’s very hard for shareholders to win a duty-of-care suit unless the directors acted in bad faith or were engaging in some kind of conflict of interest,” Dorff said. “Courts understandably are very deferential to the board in terms of how they choose to run the business.”
That means, in theory, a public benefit corporation is still a way to balance profit and the good of humanity. In practice, it’s one with the thumb hard on the scales of profit, which is probably a significant part of why OpenAI didn’t choose to restructure to a public benefit corporation back in 2019.
“Now they’re saying we didn’t foresee that,” Sunny Gandhi of Encode Justice, one of the letter’s signatories, told me. “And that is a deliberate lie to avoid the truth of — they originally were founded in this way because they were worried about this happening.”
But, I challenged Gandhi, OpenAI’s major competitors Anthropic and X.ai are both public benefit corporations. Shouldn’t that make a difference?
“That’s kind of asking why a conservation nonprofit can’t convert to being a logging company just because there are other logging companies out there,” he told me. In this view, yes, Anthropic and X both have inadequate governance that can’t and won’t hold them accountable for ensuring humanity benefits from their AI work. That might be a reason to shun them, protest them or demand reforms from them, but why is it a reason to let OpenAI abandon its mission?
I wish this corporate governance puzzle had never come to me, said Frodo
Reading through the letter — and speaking to its authors and other nonprofit law and corporate law experts — I couldn’t help but feel badly for OpenAI’s board. (I have reached out to OpenAI board members for comment several times over the last few months as I’ve reported on the nonprofit transition. They have not returned any of those requests for comment.)
The very impressive suite of people responsible for OpenAI’s governance have all the usual challenges of being on the board of a fast-growing tech company with enormous potential and very serious risks, and then they have a whole bunch of puzzles unique to OpenAI’s situation. Their fiduciary duty, as Altman has testified before Congress, is to the mission of ensuring AGI is developed safely and to the benefit of all humanity.
But most of them were selected after Altman’s brief firing with, I would argue, another implicit assignment: Don’t screw it up. Don’t fire Sam Altman. Don’t terrify investors. Don’t get in the way of some of the most exciting research happening anywhere on Earth.
What, I asked Dorff, are the people on the board supposed to do, if they have a fiduciary duty to humanity that is very hard to live up to? Do they have the nerve to vote against Altman? He was less impressed than me with the difficulty of this plight. “That’s still their duty,” he said. “And sometimes duty is hard.”
That’s where the letter lands, too. OpenAI’s nonprofit has no right to cede its control over OpenAI. Its obligation is to humanity. Humanity deserves a say in how AGI goes. Therefore, it shouldn’t sell that control at any price.
It shouldn’t sell that control even if it makes fundraising much more convenient. It shouldn’t sell that control even though its current structure is kludgy, awkward, and not meant for handling a challenge of this scale. Because it’s much, much better suited to the challenge than becoming yet another public benefit corporation would be. OpenAI has come further than anyone imagined toward the epic destiny it envisioned for itself in 2015.
But if we want the development of AGI to benefit humanity, the nonprofit will have to stick to its guns, even in the face of overwhelming incentive not to. Or the state attorneys general will have to step in.
Noticias
“Estoy recortado con un cambio de imagen y un problema de cafeína”, dice Chatgpt cuando le pedí que se asiera a sí misma
Published
16 horas agoon
24 abril, 2025
La autoconciencia es una cosa, y es notable cuántas personas carecen de ella, pero te complacerá saber que el chatgpt de Openai tiene una gran cantidad de autoconciencia que compartirá de la manera más corta cuando te pides que se asa.
Tuve la idea de un asado de IA después de ver a varias personas publicar historias sobre pedirle a ChatGPT que las asa. Le di una oportunidad, entrando en el mensaje breve pero peligroso, “Asarme”, en Chatgpt 4o.
Related posts


























































































































































































































































































Trending
-
Startups11 meses ago
Remove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
-
Tutoriales12 meses ago
Cómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
-
Recursos12 meses ago
Cómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
-
Startups10 meses ago
Startups de IA en EE.UU. que han recaudado más de $100M en 2024
-
Startups12 meses ago
Deepgram: Revolucionando el Reconocimiento de Voz con IA
-
Recursos11 meses ago
Perplexity aplicado al Marketing Digital y Estrategias SEO
-
Recursos12 meses ago
Suno.com: La Revolución en la Creación Musical con Inteligencia Artificial
-
Estudiar IA11 meses ago
Curso de Inteligencia Artificial de UC Berkeley estratégico para negocios