Noticias
Next Step Forward In Human-AI Collaboration Showcased Via OpenAI’s ChatGPT Canvas Add-In
Upping the ante on human-AI collaboration is happening right now as evidenced by latest OpenAI … [+]
In today’s column, I examine the latest advancements in human-AI collaboration and explain how these amazing capabilities will materially impact your everyday use of generative AI and large language models (LLMs). To illustrate these advancements, I highlight the newly widely released OpenAI ChatGPT specialized add-in known as Canvas which has garnered a great deal of media attention, deservedly so.
A key takeaway is that if you haven’t heard about, seen, or used these innovative AI-based collaboration tools, you are in for quite a surprise. In some mind-bending respects, this might cause you to rethink your use of AI and gain a fresh perspective on what generative AI can achieve.
The bottom line is that it isn’t about what AI can do for you, but what you and AI can do together.
Let’s talk about it.
This analysis of an innovative AI breakthrough is part of my ongoing Forbes column coverage on the latest in AI including identifying and explaining various impactful AI complexities (see the link here). For my coverage of the top-of-the-line ChatGPT o1 model and its advanced functionality, see the link here and the link here.
The Grand Act Of Collaboration
I’d like to start with the nature of human-to-human collaboration, after which we’ll shift to human-AI facets entailing collaboration.
When you collaborate with a fellow human, the overall notion is that you intend to work together to accomplish some kind of task or endeavor. For example, suppose you’ve drafted a memo at work and a co-worker has offered to review the draft with you. They are a handy second pair of eyes. The co-worker might spot some portions of your memo that could use rewording. Maybe the co-worker will identify missing content that ought to be added. Etc.
One means to collaborate on the review of the memo would be to go back and forth via email such that you email a first draft to them, the co-worker edits it and returns the revised draft to you, and so on. This series of cycles via email is bound to be somewhat sluggish and not the easiest or preferred way to do things. In a sense, it is very hard to have a proverbial “meeting of the minds” when you are emailing successive drafts to each other.
You’ve undoubtedly undertaken that kind of awkward and frustrating activity and realized by the school of hard knocks that it isn’t especially streamlined.
Sad face.
There Is A Better Way To Collaborate
What would be a better form of collaboration?
Ideally, you’d like to do the review in real-time and allow each of you to immediately showcase on a referent draft the precise changes or issues you have with the writing. There would be one document that both of you have direct access to. Either one of you can highlight or point out passages that might require modification. Changes can be made quickly and visually evident to each of you. All eyes are seeing the same thing.
Voila, your collaboration becomes a true semblance of collaboration.
There are three main factors about this:
- (1) Communication. You want to make communication as frictionless as possible and as immediate as possible.
- (2) Coordination. You want to ensure that coordination during the process is smooth and aids the effort rather than getting in the way of things.
- (3) Task. You want to keep the task that is at hand as evident or at front and center as feasible to ensure that both of you are seeing the same things at the same time.
Happy face.
Conventional Generative AI And Collaboration
Shifting gears, let’s dive into the kind of human-AI collaboration that you experience in conventional generative AI. You will see in a moment how the above precepts come into play in an AI context. Hang in there.
Here’s a dialogue that you might typically have with any of the major generative AI apps.
- My entered prompt: “Here is a memo that I’ve drafted, and I want you to carefully read it. I aim to get your feedback and possibly have you suggest or even make changes to the draft. We are to do this together. Don’t just summarily make changes. I want this to be collaborative.”
- Generative AI response: “I understand. I’ve reviewed the draft. The second line in the first paragraph is rough to read and I recommend it be improved. In the third paragraph, the last several lines do not seem to fit with the topic at hand. Are you sure that those lines belong in the memo?”
- My entered prompt: “I’m looking at the second line of the first paragraph and I think it reads really well. What about that line bothers you? In terms of my third paragraph, those several lines that you are criticizing are completely sensible to me, and if you look at the fifth paragraph of the memo, I think it will be sensible to you too. Please take that into account.”
That’s a rather common interaction when conversing with generative AI on a matter such as figuring out some possible edits for a drafted piece of content.
I have a question for you about the above dialogue.
Does the dialogue seem particularly conducive to acting collaboratively?
On the one hand, you could say that the generative AI is doing a useful job of offering insights into the draft. However, the person interacting with the AI must go back and forth about which line and which wording is at issue. Trying to proceed in this way is arduous and likely exasperating.
There must be a better way to accomplish this.
Newer Form Of Human-AI Collaboration
Suppose that we redid the interface that is involved in this human-AI collaboration.
Rather than a Q&A dialogue that is a sequence of back-and-forth iterations about something that is out of view, let’s open a second view or window that sits adjacent to the prevailing interaction. This second view will showcase the drafted memo. Thus, the person can see the draft and the AI can highlight which lines and which words are being discussed.
Furthermore, the view of the draft can be highlighted by the human, doing so to emphasize to the AI what portions the person wants the generative AI to focus on. Nice.
Let’s up the ante and allow the human and the AI to make changes directly on the draft memo. Either one can do so, freely, immediately, and with the attention of the other. The draft at this juncture is being displayed in the second view and persistently stays there as the dialogue between the human and the AI takes place.
Changes are immediately displayed. If the human makes a change, it is apparent what change was made because it is directly in the text, rather than cumbersomely describing the change that the user was thinking of making. Likewise, the AI can make a change in the draft, visually so, and the user sees exactly what change the AI was mentioning.
I hope that you can sufficiently envision what this new setup for human-AI collaboration looks like.
The premise is that whatever body of text that you and the AI are conversing about can be displayed in a second view, during which it is actively available for changes by either party. No longer do you need to waste time and effort trying to convey to the generative AI what you want to change, nor does the AI need to indirectly describe what the AI suggests being changed.
It is one editable view that is commonly shared by both.
Boom, drop the mic.
When Human-AI Collaborations Improves At Scale
I realize that the idea of having a shared editable view for human-AI interaction seems at an initial consideration to be an obvious addition for generative AI. Some cynics are bound to exhort that this isn’t worth much of a hullabaloo.
Well, first of all, haters are going to hate. Secondly, yes, the approach of having a shared editable view is something that has been worked on in AI labs, but there hasn’t been that big of a commercial widespread availability of this kind of structure. Doing this at scale is a game changer.
When I say at scale, imagine that millions upon millions of people might end up using this type of human-AI interface.
How so?
OpenAI has now made available on a widespread basis their relatively new add-in known as Canvas and it works seamlessly with the widely and wildly popular ChatGPT. There are reportedly over 300 million weekly active users of ChatGPT. At this juncture, they will soon have or might already have Canvas available to them due to this expanded release (note that Canvas was available on a limited or beta basis for the last few months).
Canvas provides the second-view capability that I’ve been describing.
It Is Here And Now And In The Future Too
Your dialogue with ChatGPT sits to the left and the second view sits to the right.
The dialogue proceeds and meanwhile, the second view is jointly able to be explored and edited. Can you visualize in your mind’s eye what this looks like? I realize this might be hard to envisage in your head. Consider visiting the official OpenAI web page that shows how Canvas works or search on any reputable social media site for videos posted by people who have been making use of Canvas.
An interesting question is how many people will opt to use Canvas.
Some users of ChatGPT might not grasp what Canvas is or can do, therefore they won’t invoke it. Others might know that Canvas is there, but for various reasons don’t want to lean into it. This is one of those new pieces of functionality that will likely take time for people to get accustomed to using.
My prediction is that eventually, the use of a second-view approach will be commonplace for most generative AI apps. Users will expect it. Rather than the feature being a novelty, it will be a must-have piece of functionality. Indeed, other AI makers already have such capabilities in the works and like anything else in this highly competitive AI marketplace, every AI vendor will have to stay at the leading edge or fade into oblivion.
Expect too that variations and advancements in this type of capability are going to rapidly emerge. What kinds of amplifications? If two views are good, maybe allowing for three views is even better. Perhaps four views, five views, or as many as you like (some number of n-views). There will be a Darwinian process of variations proffered, some of which people will actively relish, and others that they won’t, ultimately winnowing to what people, by and large, want to have available.
Intriguing Questions Of Sensibility
There are fascinating behavioral ramifications. Allow me a moment to examine some aspects that maybe don’t immediately come to mind on this capability. Get ready to think outside the box.
Who should initiate the use of a shared editable view?
Your first thought might be that of course the human decides whether to engage the capability. Humans are supposed to be in charge of AI. Period, end of story.
Hold on for a moment.
Suppose a person using generative AI doesn’t perchance realize they could benefit by using a second-view collaborative feature. Maybe the idea of doing so doesn’t pop into their head. Or perhaps they are unfamiliar with the feature and don’t realize how it can help.
We might allow the generative AI to automatically initiate the second view. It goes like this. A user is carrying on a normal dialogue with AI. At some point, the person indicates they need to write a quick message to tell someone that foul weather is expected in their area. Based on that comment, the generative AI could discern that the user intends to write a message, which is a suitable circumstance for invoking the second-view capability.
Voila, the AI does so.
In the case of OpenAI’s Canvas, the AI researchers wrestled with this kind of automatic invoking of the capability. They have established their AI to do so but realize that users might get irked. How so? If the invoking happens too much, a user might become steamed and feel like the AI is overplaying its hand. A gentle touch is needed for the AI to discern how often to take such actions. This is one of those parameter-setting aspects.
Another Sensibility Puzzler
Here’s another puzzler.
Suppose the generative AI examines a draft that is jointly being worked on with a user and computationally determines that the draft needs an utter overhaul. The draft as it sits currently is a mess and contains fragmented sentences, misspells, and otherwise is a piece of writing travesty.
Should the AI take the bull by the horns and summarily rewrite the entire draft?
You’ve certainly experienced this same aspect in real-life-based human-to-human collaborations. The person you are collaborating with announces in a loud voice that your draft is a pile of junk. They then grab it from you and proceed to rewrite the whole thing. You sit there, perhaps in mild shock, watching the other person opt to redo your hard work.
Admittedly, sometimes you are perfectly fine with the other person taking charge. One issue is that if this is supposed to be a learning experience, such as writing something for a class at school, numerous AI ethical questions arise, see my coverage at the link here.
OpenAI researchers did some handwringing on the same issue related to Canvas. How far should the AI go in doing a rewrite? Should the AI proceed on this or only if the user requests it? Even if the user requests the action, will it be the proper thing to do such that the AI has now essentially written the content rather than the human?
This is a heady matter that society in general is going to need to figure out, including whether new AI laws are needed to deal with these human-AI ethical dilemmas, see my discussion at the link here.
Coding Of Software Is In This Same Realm
Changing to another angle on this, let’s brainstorm on how else a second-view capability could be utilized.
For those who write software, they probably already use some form of code editing tool that assists in composing and testing code. In that sense, they are familiar with a second-view approach. Few of those second-view capabilities do much in terms of actively devising and testing the code, and not often in a highly collaborative way (notice to trolls, yes, some tools will do so – I’m not saying that this doesn’t exist).
OpenAI has set up Canvas to enable software coding, which is in addition to performing collaborations on text composition such as writing memos, stories, essays, narratives, poems, and so on. The software side includes being able to run your code and having the AI examine testing results to then give suggestions on where bugs might be or otherwise make the code better.
An allied topic I’ve covered in other postings is whether we are headed toward the demise of software engineers as a profession, whereby AI does all needed coding from A to Z. The AI comes up with the code, tests it, and rolls it out. Away goes the job of human efforts of writing code and developing systems. Should you be worried if you are a programmer? See my analysis at the link here.
Human-AI Collaboration Is A Moving Target
We are just in the early days of human-AI collaboration as it pertains to the use of generative AI and LLMs.
Imagine that you are using generative AI and have an article that you are writing. The article is to contain text, various figures, graphics, suitable images, and maybe have audio and video attached too. The use of a second-view or shall we say n-view is going to accommodate all modes or mediums. The AI isn’t going to only help with the text composition. All the components will be shown in some number of allied views, and you and the AI will work hand-in-hand to compose, edit, refine, and finalize it. For the latest on text-to-video, see my discussion at the link here.
The entire kit-and-kaboodle.
This seems quite exciting. And it is. Meanwhile, we need to ask hard questions about authorship, copyrights and Intellectual Property (IP) rights, plagiarism, and other bleaker sides of these AI advances.
We must keep from going over our skis, as they say these days.
A final remark for now.
Charles Darwin famously made this assertion about collaboration: “In the long history of humankind (and animal-kind, too) those who learned to collaborate and improvise most effectively have prevailed.” This suggests that we are smart to pursue human-AI collaboration. That is going to be our future, and there’s no turning back the clock.
Hopefully, we will be smart enough to keep human-AI collaboration in proper check and avert the dreaded existential risks that lurk within that weighty proposition. Should we collaboratively discuss this with AI, or might that be a bridge too far?
Time will tell.
Noticias
Implementación y evaluación de un modelo de enseñanza de pasantía quirúrgica optimizado utilizando ChatGPT | Educación Médica BMC
Los avances tecnológicos están haciendo avanzar significativamente la educación médica. Actualmente, el desarrollo del plan de estudios médico enfatiza la mejora de los métodos de enseñanza a través de la simulación médica, la discusión de la literatura y la investigación. Existe una creciente defensa de la integración de la inteligencia artificial y las pautas clínicas en la enseñanza para cultivar mejor el razonamiento clínico y las habilidades de pensamiento lógico de los estudiantes.
Múltiples estudios han demostrado los beneficios potenciales de ChatGPT en la educación médica. Los chatbots como ChatGPT pueden ser una herramienta poderosa para mejorar la alfabetización sanitaria, especialmente entre estudiantes y jóvenes estudiantes. [6]. En primer lugar, ChatGPT ofrece acceso rápido e inmediato a amplia información médica, lo que ayuda a los estudiantes de medicina novatos a analizar datos médicos complejos. [7]. En segundo lugar, al crear escenarios y estudios de casos, ChatGPT ayuda a los estudiantes a perfeccionar y mejorar sus habilidades de planificación de diagnóstico y tratamiento, mejorando así sus capacidades de razonamiento clínico y su preparación para situaciones clínicas del mundo real. [8]. En tercer lugar, ChatGPT puede respaldar las tareas académicas respondiendo preguntas y redactando resúmenes. Su capacidad para crear esquemas y revisiones de la literatura puede agilizar la investigación médica. Además, también facilita el resumen de publicaciones relevantes y destaca hallazgos importantes, lo que ayuda a los investigadores médicos a navegar por la gran cantidad de material disponible en línea. [9]. Finalmente, ChatGPT permite el aprendizaje personalizado para los estudiantes al actuar como tutor o asistente virtual, ayudándolos con las tareas y fomentando experiencias de aprendizaje interactivas. [10].
En este estudio, ChatGPT se utilizó en cuatro funciones clave en las fases de educación médica previa, en clase y posterior a la clase. Durante la fase de preparación previa a la clase, los estudiantes pudieron consultar ChatGPT sobre cualquier problema que encontraron, lo que facilitó una comprensión inicial de conceptos, terminología y casos médicos fundamentales. En un estudio, se pudo generar una serie de imágenes a partir de texto descriptivo utilizando un modelo de aprendizaje profundo basado en redes generativas adversarias. La herramienta se utiliza en el proceso narrativo visual para facilitar el aprendizaje mejorado por la tecnología y mejorar las habilidades de razonamiento lógico. [11]. Los modelos de aprendizaje profundo basados en redes generativas adversarias desempeñan un papel clave en la simulación de varios tipos de entornos de aprendizaje y ayudan a desarrollar habilidades prácticas en modelos de asistentes de enseñanza virtuales. Los resultados experimentales muestran que este modelo mejora el efecto de aprendizaje de los estudiantes y mejora su motivación y capacidad de aprendizaje. [12]. En el aula, se empleó ChatGPT para simular las interacciones con los pacientes, proporcionando una plataforma para que los estudiantes practiquen habilidades de diagnóstico y comunicación en un entorno seguro y controlado. En sus interacciones con ChatGPT, los estudiantes son libres de practicar habilidades de diagnóstico y comunicación sin los riesgos que podría representar un paciente real. Un diagnóstico falso o una falta de comunicación no tiene un impacto real en el paciente, lo que permite a los estudiantes aprender mediante prueba y error. ChatGPT está disponible y los estudiantes pueden practicar a su propio ritmo y necesidades de aprendizaje, sin depender de un tiempo y lugar específicos. Esta flexibilidad hace que el aprendizaje sea más eficiente y conveniente. ChatGPT puede simular una variedad de escenarios clínicos y características del paciente para brindar una experiencia interactiva diversa. Los estudiantes están expuestos a diferentes condiciones y antecedentes de pacientes, mejorando así su capacidad para afrontar situaciones complejas. Después de clase, los estudiantes pueden interactuar con ChatGPT individualmente o en grupos de estudio, discutiendo preguntas de práctica proporcionadas por la herramienta, abordando preguntas difíciles o desafiantes y explorando el material desde varias perspectivas. A lo largo del proceso interactivo, los estudiantes evaluaron continuamente su comprensión del material, identificaron sus debilidades y ajustaron sus estrategias de aprendizaje y áreas de enfoque de manera oportuna para enfocarse en áreas específicas para revisión y refuerzo, asegurando que se mantuvieran en el camino correcto. [13]. De manera similar, los instructores podrían utilizar ChatGPT para recopilar recursos didácticos y estudios de casos relevantes durante la fase de preparación de la lección. Al aprovechar ChatGPT, podrían mejorar la participación de los estudiantes en el aula y utilizar la herramienta después de clase para recopilar y analizar los comentarios de los estudiantes sobre el proceso de enseñanza. Además, los estudiantes podrían utilizar ChatGPT para resolver rápidamente cualquier confusión relacionada con el conocimiento profesional. Con la capacitación del modelo ChatGPT, los estudiantes de medicina y los médicos pueden mejorar su razonamiento clínico y sus habilidades de toma de decisiones, mejorando así el desempeño del análisis y diagnóstico de casos. Además, ChatGPT proporciona a los estudiantes de medicina una experiencia de aprendizaje personalizada y eficiente a través de conversaciones simuladas, tutorías inteligentes y preguntas y respuestas automatizadas, profundizando así la comprensión de los conocimientos médicos de los estudiantes. [14].
Los resultados de este estudio indican que las puntuaciones teóricas de los grupos de estudio fueron significativamente más altas que las de los grupos de control, lo que refleja mejores resultados de aprendizaje. No se observaron diferencias significativas en las puntuaciones entre los dos grupos de estudio ni entre los dos grupos de control. Esto sugiere que la aplicación de ChatGPT en los grupos de estudio resultó en una comprensión y dominio superiores del conocimiento teórico en comparación con los métodos de enseñanza tradicionales utilizados en los grupos de control.
Los resultados de satisfacción docente de este estudio indican que los estudiantes de los grupos de estudio que utilizaron ChatGPT informaron puntuaciones de satisfacción total significativamente más altas, así como mejores calificaciones en la organización del curso y los métodos de enseñanza, en comparación con los grupos de control. Las diferencias en la satisfacción con el contenido del curso y los instructores fueron relativamente menores, lo que sugiere que el uso de ChatGPT como ayuda didáctica, a través de su novedoso y atractivo formato interactivo de preguntas y respuestas, su fuerte interactividad y su enfoque estructurado, parece mejorar la participación de los estudiantes. y participación en el aprendizaje. Esto indica que ChatGPT puede fomentar eficazmente un mayor interés y promover resultados educativos. La diferencia más notable entre los métodos de enseñanza radica en la ejecución en el aula; La capacidad de ChatGPT para simular varios escenarios y realizar análisis de casos, combinada con el acceso a recursos didácticos adicionales, mejora significativamente las habilidades de aplicación clínica de los estudiantes de medicina.
La evaluación del estudio sobre el cumplimiento del aprendizaje abarcó cuatro aspectos. Los hallazgos indican que no hubo diferencias significativas entre los grupos en cuanto al establecimiento de planes de aprendizaje. Sin embargo, para los otros tres aspectos (preparación autónoma previa a la clase y revisión posterior a la clase, participación en la enseñanza en el aula y búsqueda de retroalimentación y asistencia), los grupos de estudio exhibieron calificaciones significativamente más altas en comparación con los grupos de control. En muchos estudios y análisis estadísticos, una “puntuación más alta” suele considerarse un resultado positivo, lo que significa que el grupo de estudio obtuvo mejores resultados en algo. Los indicadores de evaluación de este estudio son todos positivos y se puede considerar que una “puntuación más alta” indica un mejor desempeño del grupo de investigación, lo que es un resultado positivo. Esto sugiere que la incorporación de ChatGPT como ayuda didáctica mejora el cumplimiento del aprendizaje de los estudiantes al promover el aprendizaje activo, fomentar el aprendizaje basado en la investigación y mejorar su interés y capacidad para el aprendizaje autónomo.
Si bien las mejoras en el cumplimiento son evidentes, la profundización continua de la comprensión antes, durante y después de la clase también contribuye a mejorar el pensamiento lógico y las habilidades analíticas. En particular, el estudio encontró una tasa relativamente baja de preguntas y solicitudes de ayuda de los estudiantes, durante y después de clase. Las diferencias observadas entre los grupos de estudio y control pueden atribuirse a la capacidad de ChatGPT para ayudar a los estudiantes a superar la timidez y no juzgar los errores. La herramienta de inteligencia artificial ayuda a los estudiantes a superar las dudas, permitiéndoles hacer preguntas de forma libre y repetida sin temor a ser juzgados o interacciones negativas. Al generar materiales de aprendizaje basados en el estado de aprendizaje y las necesidades de cada estudiante, ChatGPT les permite adoptar un enfoque más autónomo del aprendizaje y tener una experiencia educativa adaptada a sus preferencias. Estas interacciones facilitan la aclaración oportuna, una comprensión más profunda y el dominio del material.
ChatGPT también puede adaptar planes y materiales de aprendizaje individualizados para cada estudiante para adaptarse a los diferentes estilos y habilidades de aprendizaje dentro del aula. Este enfoque personalizado fomenta un circuito de retroalimentación positiva, mejorando las capacidades de aprendizaje de los estudiantes.
La aplicación de ChatGPT en la educación médica sigue siendo un tema de considerable debate. Si bien ChatGPT ofrece funcionalidades innovadoras y ventajas potenciales, también plantea varias preocupaciones éticas y prácticas, el potencial de uso indebido, particularmente en los ámbitos de la educación y el mundo académico. [15]. Como chatbot, ChatGPT carece de la capacidad de pensar críticamente como un ser humano, lo que limita su capacidad para interpretar y analizar información médica más allá de sus algoritmos programados. No posee el juicio ni el discernimiento necesarios para los aspectos éticos o legales de la práctica médica y puede plantear riesgos relacionados con violaciones de datos y privacidad. [16, 17].
El auge de herramientas de inteligencia artificial como ChatGPT ha llevado a la deshonestidad académica, con informes de estudiantes que utilizan la tecnología para hacer trampa en sus trabajos de ensayo. [18]. Algunas investigaciones sugieren que ChatGPT puede no ser un recurso confiable para problemas complejos que requieren habilidades y conocimientos avanzados. [19]. Además, los académicos han estado preocupados por la confiabilidad de ChatGPT como fuente creíble de información. [20]. Según muchos educadores, ChatGPT puede ser utilizado fácilmente para hacer trampa por parte de estudiantes que toman cursos de comunicación y filosofía, pero es fácil de identificar. Una preocupación creciente es que los estudiantes eventualmente perderán la capacidad de generar ideas originales y no podrán presentar argumentos adecuados para demostrar un punto. [21]. La accesibilidad tecnológica es un desafío. El uso eficaz de ChatGPT depende de la conectividad de la red y la disponibilidad del dispositivo, lo que puede resultar problemático en diferentes regiones y entre poblaciones estudiantiles específicas. Se deben desarrollar políticas para utilizar ChatGPT en diferentes entornos técnicos. [22]. Una preocupación es la posible devaluación del aprendizaje cooperativo en la educación médica, particularmente en enfoques tradicionales como ABP, CBL y TBL. La colaboración y el trabajo en equipo son cruciales en estos enfoques, y ChatGPT puede reducir involuntariamente la importancia de las interacciones entre humanos. Mantener un equilibrio entre la tecnología y las relaciones es esencial para un aprendizaje eficaz. Si bien ChatGPT mejora el ABP mediante instrucción personalizada, los educadores deben enfatizar la importancia duradera del aprendizaje basado en el paciente y el trabajo en equipo. A pesar de las capacidades de simulación y los conocimientos teóricos de ChatGPT, no puede reemplazar la experiencia práctica obtenida a través de interacciones en el mundo real, especialmente en la educación médica. Reconocer las limitaciones de los modelos es esencial para evitar una dependencia excesiva del aprendizaje por simulación. Integrar perfectamente ChatGPT en los planes de estudio existentes es un desafío que requiere que los educadores inviertan tiempo en diseñar e integrar componentes impulsados por IA que se alineen con los objetivos generales de aprendizaje. [23]. Dadas estas consideraciones, es esencial utilizar ChatGPT con prudencia como herramienta auxiliar de aprendizaje, complementando en lugar de reemplazar los métodos educativos y las técnicas de investigación tradicionales, y siendo consciente de las limitaciones de ChatGPT.
Un doble enfrentamiento (Elon Musk versus OpenAI y Musk versus la senadora Elizabeth Warren (demócrata por Massachusetts)) pone de relieve cuestiones cruciales sobre la combinación de propósitos organizacionales y el equilibrio del poder público y privado.
Musk está demandando a OpenAI, que él cofundó, alegando que su reorganización de una entidad sin fines de lucro a una con fines de lucro traiciona su misión original de garantizar que la IA beneficie a la humanidad.
Mientras tanto, Warren ha expresado su preocupación por la posible superposición de roles de Musk como empresario tecnológico (que resulta ser propietario de la mayoría de X.AI Corp., un competidor de OpenAI) y futuro funcionario gubernamental. Warren instó al presidente electo Donald Trump en una carta del 16 de diciembre a aplicar estrictamente un escrutinio de conflictos de intereses a Musk.
La forma en que se desarrollen estas dos confrontaciones dará forma a nuestro futuro tecnológico.
‘Franken-Gorgon’ de OpenAI
La demanda de Musk apunta a la matriz sin fines de lucro, OpenAI Inc., y esencialmente a todos los demás involucrados en la creación de una subsidiaria con ganancias limitadas, OpenAI LP. El llamado modelo híbrido permitió a los inversores de la filial obtener un retorno de la inversión de hasta 100 veces. Cualquier beneficio restante fluyó hacia la matriz. Musk sostiene que este cambio prioriza las ganancias sobre el bien público, convirtiendo a OpenAI en lo que él llama un Frankenstein.
Musk modificó su denuncia en noviembre para incluir acusaciones de que OpenAI Inc. se estaba reorganizando para convertirse en una corporación con fines de lucro en toda regla. En palabras de Musk (o de sus abogados), OpenAI pasó “de una organización benéfica exenta de impuestos a una gorgona con fines de lucro y que paraliza el mercado por valor de 157 mil millones de dólares, y en sólo ocho años”.
Dado que no existe una ley anti-Franken-Gorgon, las afirmaciones de Musk son una mezcla de supuestas violaciones de la ley antimonopolio, la ley de fideicomisos caritativos, la ley de agencia, fraude e incluso extorsión. Aunque Musk cita las promesas que le hizo Altman, no plantea un reclamo por incumplimiento de contrato.
OpenAI respondió el 13 de diciembre que el modelo de beneficio limitado es una solución innovadora que le permite competir con otras empresas de tecnología sin dejar de ser fiel a su misión. También argumentó que Musk carece de legitimación activa para demandar.
El modelo OpenAI plantea dudas sobre la transparencia y la gobernanza. ¿Puede servir a dos amos (su misión y sus inversores) sin comprometer a uno por el otro? Nadie ha descubierto cómo hacer que este tipo de teoría de las partes interesadas funcione en la práctica. Un objetivo a menudo es consumido por el otro, razón por la cual no existe una forma legal convencional de estructurar una llamada entidad híbrida.
Confusión del modelo híbrido
El modelo híbrido de OpenAI se hace eco de la reciente aparición de corporaciones de beneficio público, que están diseñadas para perseguir tanto ganancias como fines públicos. A diferencia de las corporaciones tradicionales, las PBC están obligadas por ley a considerar el impacto de sus decisiones en la sociedad y el medio ambiente, no sólo en los accionistas.
Esta estructura proporciona un modelo potencial para que organizaciones como OpenAI alineen la innovación con la responsabilidad. “Potencial” es la palabra clave aquí, porque la ley del PBC no contempla rendimientos máximos sobre la inversión.
Si bien el modelo de beneficio limitado es innovador, subraya la necesidad de marcos legales más claros para regir las entidades híbridas. Los formuladores de políticas deberían explorar la posibilidad de adaptar los principios del PBC para abordar los desafíos únicos que plantean la IA y otras industrias de alto riesgo. Quizás algún día los modelos de beneficio limitado puedan convertirse en una forma estándar.
Dilema de doble rol
Warren ha cuestionado públicamente si el doble papel de Musk como empresario privado de IA y copresidente del propuesto Departamento de Eficiencia Gubernamental crearía conflictos de intereses. Ha pedido estándares éticos más estrictos, particularmente dada la influencia de Musk sobre las políticas que afectan directamente sus empresas. Básicamente, ella respondió a su queja de que OpenAI no es ético devolviéndole la acusación.
Pero que los multimillonarios asesoren o participen en el gobierno no es un fenómeno nuevo. Desde la defensa de políticas impulsadas por la filantropía de Andrew Carnegie en el siglo XIX hasta el papel de Warren Buffett en el asesoramiento de políticas financieras durante la crisis económica de 2008, los líderes empresariales ricos a menudo han dado forma a las políticas públicas. La participación de Musk es parte de una larga tradición de aprovechar la experiencia del sector privado para la gobernanza pública.
Dicho esto, hay mucho en juego en la era de la IA. Como asesor gubernamental y empresario con intereses creados en el desarrollo de la IA, Musk debe afrontar este doble papel con cuidado. La transparencia y la rendición de cuentas son esenciales para mantener la confianza pública, especialmente cuando los límites entre la influencia privada y la responsabilidad pública se vuelven borrosos.
Debido a que Musk se está moviendo hacia lo que equivale a una casa de cristal de la atención de los medios, parece advertir Warren, tal vez no debería tirar piedras.
El futuro de la gobernanza de la IA
La disputa entre Musk y OpenAI es más que una batalla legal: es un caso de prueba de cómo gobernamos las organizaciones impulsadas por una misión en la era de la IA.
Los modelos híbridos, como la estructura Franken-Gorgon de OpenAI, desafían las leyes corporativas y sin fines de lucro existentes, lo que refuerza la necesidad de juntas directivas fuertes e independientes, actualizaciones regulatorias y una conducta ética superior a la junta. Las entidades híbridas necesitan tales juntas para garantizar que la misión siga siendo la prioridad.
La matriz sin fines de lucro de OpenAI ha enfrentado críticas por no brindar una supervisión suficiente de su subsidiaria con fines de lucro, lo que destaca la necesidad de estructuras de gobernanza más claras. En la medida en que los miembros de la junta directiva de la empresa sean beneficiarios financieros de los esfuerzos con fines de lucro, se encuentran en una posición sesgada al tomar decisiones sobre la misión sin fines de lucro.
Los formuladores de políticas deben reconocer que las leyes actuales no fueron diseñadas para híbridos. Adaptar los principios del PBC o crear marcos específicos para modelos híbridos podría proporcionar la claridad y la responsabilidad necesarias en la industria de la IA.
La confianza es clave. La transparencia es fundamental. Organizaciones como OpenAI deben comunicar claramente sus objetivos y estructuras para mantener la confianza con los donantes, los inversores y el público. Sin transparencia, los híbridos corren el riesgo de erosionar la confianza de la que dependen para operar con eficacia.
A medida que evoluciona el panorama de la IA, las decisiones que tomemos ahora guiarán no solo el futuro de la tecnología sino también los valores que sustentan su desarrollo. La historia de OpenAI es un microcosmos de estos desafíos: un recordatorio de que equilibrar las ganancias y el propósito tiene que ver tanto con la gobernanza como con la visión.
El caso es Musk v. Altman, ND Cal., No. 4:24-cv-04722, respuesta a la moción de orden judicial preliminar de los demandantes 13/12/24.
Este artículo no refleja necesariamente la opinión de Bloomberg Industry Group, Inc., el editor de Bloomberg Law y Bloomberg Tax, ni de sus propietarios.
Información del autor
Anat Alon-Beck es profesora asociada de derecho en la Facultad de Derecho de la Universidad Case Western Reserve.
Seth Oranburg es profesor de la Facultad de Derecho de la Universidad de New Hampshire y director del Programa de Organizaciones, Negocios y Mercados del Instituto Liberal Clásico de la Universidad de Nueva York.
Escríbanos: Pautas para el autor
SAN FRANCISCO – Los padres de un ex investigador de OpenAI conocido por recientemente denunciar las prácticas comerciales de la compañía están cuestionando las circunstancias de la muerte de su hijo el mes pasado.
En una entrevista esta semana, la madre y el padre de Suchir Balaji expresaron confusión y conmoción por su repentino fallecimiento, expresando dudas de que su hijo pudiera haberse suicidado, según lo determinado por el médico forense del condado.
La familia contrató a un experto para realizar una autopsia independiente, pero aún no ha publicado los hallazgos del informe.
“Exigimos una investigación exhaustiva; ese es nuestro llamado”, dijo la madre de Balaji, Poornima Ramarao.
La policía de San Francisco encontró a Balaji muerto en su apartamento de Lower Haight el 26 de noviembre, menos de una semana después de cumplir 26 años.
La Oficina del Médico Forense de San Francisco dijo más tarde a esta agencia de noticias que su muerte fue considerada un suicidio, aunque aún no se ha publicado el informe final de la autopsia mientras la oficina completa las pruebas toxicológicas. A principios de este mes, funcionarios de la policía de San Francisco dijeron que “actualmente no hay evidencia de juego sucio”.
La muerte de Balaji conmocionó a todo Silicon Valley y a la industria de la inteligencia artificial.
Obtuvo atención nacional a finales de octubre cuando acusó a su antiguo empleador, OpenAI, de violar la ley federal de derechos de autor al desviar datos de Internet para entrenar su exitoso chatbot, ChatGPT.
Sus preocupaciones respaldaron las acusaciones difundidas en los últimos años por autores, guionistas y programadores informáticos que dicen que OpenAI robó su contenido sin permiso, en violación de las leyes de “uso justo” de Estados Unidos que rigen cómo las personas pueden utilizar el trabajo publicado anteriormente.
Las empresas de medios han estado entre las que demandaron a la empresa, incluido The Mercury News y siete de sus periódicos afiliados y, por separado, The New York Times.
En una entrevista con The New York Times publicada en octubre de 2024, Balaji describió su decisión de dejar la empresa de inteligencia artificial generativa en agosto y sugirió que sus prácticas de recopilación de datos “no son un modelo sostenible para el ecosistema de Internet en su conjunto”.
“Si crees en lo que yo creo, simplemente tienes que dejar la empresa”, dijo al periódico.
El 18 de noviembre, Balaji había sido nombrado en documentos judiciales como alguien que tenía “documentos únicos y relevantes” que respaldarían el caso contra OpenAI. Él estuvo entre al menos 12 personas, muchas de ellas ex empleados o empleados actuales de OpenAI, que fueron mencionadas por el periódico en documentos judiciales por tener material útil para su caso.
Su muerte, una semana después, dejó a los padres de Balaji atónitos.
En una entrevista en su casa del condado de Alameda esta semana, su madre dijo que su único hijo “fue un ser humano increíble, desde la infancia”.
“Nadie cree que él pueda hacer eso”, dijo Ramarao sobre su suicidio.
OpenAI no respondió de inmediato a una solicitud de comentarios, pero en un comunicado a Business Insider dijo que estaba “devastado” al enterarse de la muerte de Balaji y dijo que habían estado en contacto con sus padres “para ofrecerles todo nuestro apoyo durante este momento difícil”.
“Nuestra prioridad es seguir haciendo todo lo posible para ayudarles”, decía el comunicado de la empresa. “Nos dimos cuenta de sus preocupaciones por primera vez cuando The New York Times publicó sus comentarios y no tenemos constancia de ninguna interacción posterior con él.
“Respetamos su derecho y el de otros a compartir opiniones libremente”, añade el comunicado. “Nuestros corazones están con los seres queridos de Suchir y extendemos nuestro más sentido pésame a todos los que lamentan su pérdida”.
Nacido en Florida y criado en el Área de la Bahía, Balaji fue un prodigio desde temprana edad, dijo su madre a esta agencia de noticias. Pronunció su nombre a los 3 meses; a los 18 meses me pedía “que encendiera una lámpara para animarme” y podía reconocer palabras a los 20 meses, dijo.
Balaji parecía tener una habilidad especial para la tecnología, las matemáticas y la informática, llevándose a casa trofeos y ganando renombre, incluso en la Olimpiada de Computación de los Estados Unidos de América de 2016.
En 2020, comenzó a trabajar para OpenAI y consideró admirable el entonces compromiso de la compañía de operar como una organización sin fines de lucro, dijo su madre. Su opinión sobre la empresa se agrió en 2022 mientras le asignaban la tarea de recopilar datos de Internet para el programa GPT-4 de la empresa, informó el New York Times. El programa analizó texto de casi todo Internet para entrenar su programa de inteligencia artificial, informó el medio.
Ramarao dijo que no estaba al tanto de la decisión de su hijo de hacer públicas sus preocupaciones sobre OpenAI hasta que el periódico publicó su entrevista. Si bien ella inmediatamente sintió ansiedad por su decisión, llegando incluso a implorarle que hablara con un abogado de derechos de autor, Ramarao también expresó orgullo por la valentía de su hijo.
“No dejaba de asegurarme: ‘Mamá, no estoy haciendo nada malo, ve a ver el artículo’. Sólo digo que, en mi opinión, no hay nada malo en ello”, dijo Ramarao, una ex empleada de Microsoft que trabajó en su programa de computación en la nube Azure. “Lo apoyé. No lo critiqué. Le dije: ‘Estoy orgulloso de ti, porque tienes tus propias opiniones y sabes lo que está bien y lo que está mal’. Era muy ético”.
Después de dejar la empresa, Balaji decidió crear una organización sin fines de lucro, centrada en los campos del aprendizaje automático y las neurociencias, dijo Ramarao. Ya había hablado con al menos un capitalista de riesgo para obtener financiación inicial, dijo.
“Les pregunto: ‘¿Cómo vas a manejar tu vida?’ “Dijo Ramarao. Recordó cómo su hijo intentó repetidamente disipar cualquier preocupación sobre sus finanzas, sugiriendo que “el dinero no es importante para mí; quiero ofrecer un servicio a la humanidad”.
Balaji también parecía tener una agenda ocupada. Cumplió 26 años durante un viaje de mochilero a las Islas Catalina con varios amigos de la escuela secundaria. Este tipo de viajes eran para él algo habitual: en abril viajó con varios amigos a la Patagonia y América del Sur.
Balaji habló por última vez con sus padres el 22 de noviembre, una llamada telefónica de 10 minutos que se centró en su reciente viaje y que terminó hablando de cenar.
“Estaba muy feliz”, dijo Ramarao. “Se lo pasó genial. Pasó uno de los mejores momentos de su vida”.
Ramarao recuerda haber llamado a su hijo poco después del mediodía del 23 de noviembre, pero dijo que sonó una vez y saltó el correo de voz. Pensando que él estaba ocupado con amigos, no intentó visitar su departamento hasta el 25 de noviembre, cuando llamó pero no obtuvo respuesta. Dijo que llamó a las autoridades esa noche, pero supuestamente un centro de despacho de la policía le dijo que poco se podía hacer ese día. Ella hizo un seguimiento el 26 de noviembre y la policía de San Francisco encontró más tarde el cuerpo de Balaji dentro de su apartamento.
Ramarao dijo que no le informaron de la muerte de su hijo hasta que apareció una camilla frente al apartamento de Balaji. No se le permitió entrar hasta el día siguiente.
“Nunca podré olvidar esa tragedia”, dijo Ramarao. “Se me rompió el corazón”.
Ramarao cuestionó la investigación de las autoridades sobre la muerte de su hijo, afirmando que la policía de San Francisco cerró su caso y lo entregó a la oficina del médico forense del condado una hora después de descubrir el cuerpo de Balaji.
Ramarao dijo que desde entonces ella y su marido encargaron una segunda autopsia del cuerpo de Balaji. Ella se negó a revelar cualquier documento de ese examen. Su abogado, Phil Kearney, se negó a comentar sobre los resultados de la autopsia independiente de la familia.
La semana pasada, el portavoz de la policía de San Francisco, Evan Sernoffsky, remitió las preguntas sobre el caso a la oficina del médico forense. David Serrano Sewell, director ejecutivo de la Oficina del Médico Forense Jefe, declinó hacer comentarios.
Sentada en el sofá de su sala, Ramarao sacudió la cabeza y expresó su frustración por los esfuerzos de investigación de las autoridades hasta el momento.
“Como padres afligidos, tenemos derecho a saber qué le pasó a nuestro hijo”, dijo Ramarao. “Estaba tan feliz. Fue muy valiente”.
Si usted o alguien que conoce está luchando contra sentimientos de depresión o pensamientos suicidas, 988 Suicide & Crisis Lifeline ofrece apoyo, información y recursos de ayuda gratuitos las 24 horas. Llame o envíe un mensaje de texto a Lifeline al 988, o visite el sitio web 988lifeline.org, donde está disponible el chat.
Publicado originalmente:
-
Startups7 meses agoRemove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
-
Recursos8 meses agoCómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
-
Recursos8 meses agoSuno.com: La Revolución en la Creación Musical con Inteligencia Artificial
-
Recursos7 meses agoPerplexity aplicado al Marketing Digital y Estrategias SEO
-
Estudiar IA7 meses agoCurso de Inteligencia Artificial de UC Berkeley estratégico para negocios
-
Tutoriales8 meses agoCómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
-
Eventos8 meses agoLa nueva era de la inteligencia artificial por el Washington Post – Mayo 2024
-
Noticias6 meses agoDos periodistas octogenarios deman a ChatGPT por robar su trabajo
