Noticias
AI-powered tutor tested as a way to help educators and students | 60 Minutes
Published
5 meses agoon

We are about to show you a technological innovation that could, one day, change the way every child in every school in America is taught. It’s an online tutor powered by artificial intelligence designed to help teachers be more efficient .. and students learn more effectively. It’s called Khanmigo- conmigo means “with me,” in Spanish. And Khan..is its creator…Sal Khan, the well-known founder of Khan Academy – whose lectures and educational software have been used for years by tens of millions of students and teachers in the U.S. and around the world. Khanmigo was built with the help of OpenAI, the creator of ChatGPT. Its potential is staggering, but it’s still very much a work in progress. It’s being piloted in 266 school districts in the U.S. in grades three-12. We went to Hobart High School in Indiana to see how it works.
Melissa Higgason: Good morning, just a normal day in chem, right?
At eight in the morning Melissa Higgason knows it’s not always easy to get 30 high schoolers excited about chemistry.
Melissa Higgason: Are you ready? Are you ready?
Students: Yeah.
Melissa Higgason: Alright, that’s what I want to hear.
But these days … she has help.
Melissa Higgason: This is acidic acid. The pipettes not going to fill all the way.
That lesson Higgason has displayed behind her and is explaining to her ninth and tenth graders, was created with the assistance of Khanmigo..she told the AI tutor she wanted a four-day course in which her students would investigate the physical and chemical properties of matter.
60 Minutes
Melissa Higgason This next section is your research section…
It took Khanmigo minutes to come up with a detailed lesson plan …that would have taken Higgason a week to create.
Melissa Higgason: Pull that computer back out. You’re going to go back to Khanmigo research…
And the students have Khanmigo on their laptops too…. ready to help them with their questions.
Abigail: We have a couple of questions that we need to ask Khanmigo. So, for example, I asked it, what are three examples of acids? And if I want to know more
Anderson Anderson Cooper: So it gave you three examples of acids… like hydrochloric acid… citric… and sulfuric.
Abigail: “Can you give me more examples?”
Abigail: And if I wanted to know even more I could ask it like what specifically some of the acids do?
Anderson Anderson Cooper: So it’s giving you acids and then it’s asking you a question,“can you think of any other household items that might contain acid?”
Abigail: Yeah, so like it wants to help you understand like what it’s telling you and not just like give you the information.
Finding creative ways to help kids learn is something Sal khan has been doing since 2005. He’d gotten degrees in math, computer science and engineering from MIT and an MBA from Harvard, and was working as a hedge fund analyst when he started recording math tutorial videos in his closet for his young cousins.
Khan recording a lesson: So if I were to multiply this equation…
Not long after, with the help of donors including Bill Gates, he quit his career in finance and started the nonprofit Khan Academy.
Sal Khan: From the beginning of Khan Academy, the true north was how do you give more students at least approximations of the type of personalization they would get if they had a personal tutor.
Anderson Cooper: A wealthy family can afford a tutor for their child. If every kid could have a private tutor, that would level the playing field.
Sal Khan: Yeah, that’s the dream.
60 Minutes
Co-founders of OpenAI, Greg Brockman and Sam Altman, were fans of Khan Academy, and hoped to evaluate their AI using Khan’s database of test questions and content, so they gave Sal Khan early access to an advanced AI technology that today underpins ChatGPT.
Anderson Cooper: What did you immediately think?
Sal Khan: It was pretty obvious this technology was gonna transform society, so it– it was pretty heady stuff. But on the education side, it was like, “Wow, people are gonna be able to use this for doing deep fakes and fraud and cheat.” But if used well with the right guardrails, et cetera, could also be used to support students, to give them more feedback, to support teachers for all this lesson planning and progress report writing that they spend hours a week doing.
Khan team member: Item level analysis…
Educators and engineers at Khan Academy used OpenAI’s technology to build Khanmigo…
Hobart teacher: We’re going to be using Khanmigo for this…
…and for the last year and a half the teachers and kids at Hobart High School and others have been testing it out.
Austin: I’ll ask it a question…
We sat down with two students from that morning chemistry class, Austin and Abigail, as well as Laden and Maddie, who use Khanmigo in business class. And Lu and Lily who use it in English and for SAT preparation.
Anderson Cooper: I heard people at Khan Academy came and asked students to break it.
Voices: Yeah. Yes.
Laden: That was the fun part.
Anderson Cooper:That was the fun part–
Voices: That was.
Austin: Some students would try and trick it into just giving you the answer.
Anderson Cooper: The superintendent I talked to said that some students were bullying Khanmigo for the answer.
Male voice: Yeah.
Maddie: I think that was the elementary school kids that were doing it–
Anderson Cooper: Oh yeah, okay. Blame it on the elementary school kids.
Lily: It’s very helpful for those students who maybe don’t feel comfortable asking questions within class.
Anderson Cooper: Does it have a personality?
Austin: It’s very much there for you. Like, it’s very positive, it’s very reassuring.
Laden: It’s getting me thinking. And it’s not just giving me an answer.
Anderson Cooper: Do you ever just wanna be like, “Can you just gimme the answer?”
60 Minutes
Lily: Yeah. That was the hardest part for I know, like me and a lot of other students. Like “Why isn’t it giving me answers? At the end of the day, that’s where your better answer is gonna be. It’s not gonna be whatever the AI gives you; it’s gonna be whatever you create.
Higgason: So your hypothesis going into the last test is…
Teachers at Hobart High don’t just use Khanmigo to help plan lessons and save dozens of hours a week, they also monitor their students’ understanding of subjects in ways they never could before.
Anderson Cooper: You can track how a student is actually using Khanmigo?
Melissa Higgason: Yeah. I’m going to click “usage” And then if I wanted to pick a specific student, I could come down here and really dive into what that student’s been looking at Khanmigo. And this is real time because you saw Abigail this morning looking at acids and bases…
Anderson Cooper: So wait a minute. These are the footprints of Abigail’s work?
Melissa Higgason: These are the footprints of Abigail’s work.
Anderson Cooper: At 8 a.m. she was asking about acids and chemical reactions?
Anderson Cooper: So even though you may not be hovering over the student at any given moment, you’re somewhere else in the classroom–
Melissa Higgason: Right.
Anderson Cooper: You can later check, “Oh, this is what Abigail was looking– I understand her thought process on why she got–these answers.
Melissa Higgason: Absolutely. So It gives me a lot of insight as a teacher in terms of who I need to spend that one-on-one time with.
Khan meeting with team: Maybe Khanmigo throws in a master challenge….
Sal Khan says they won’t sell the data they collect through Khanmigo or give it to other tech companies. They do use it however to improve Khanmigo’s memory and personalization.
Sarah Robertson: It will guide them to sort of what to do first…
Sarah Robertson, a former English teacher who is now a Khanmigo product manager, showed us a new feature they’ve developed to help kids write better and think more critically.
Anderson Cooper: I found this essay that I wrote.
To test it, I gave Khanmigo a paper I wrote in sixth grade about my mom Gloria Vanderbilt.
Sarah Robertson: So go ahead and click “next start revising.”
After just 90 seconds, Khanmigo delivered a very detailed evaluation of my essay…
It liked some of what I wrote…
Anderson Cooper: The use of a quote to start the essay is effective and sets the tone for the rest of the biography.
But suggested I should revise several paragraphs and my topic sentence.
Anderson Cooper: So I’m gonna rewrite my sixth grade paper.
After a few minutes of tweaking..
Sarah Robertson: Ask it what it thinks.
Anderson Cooper: So what do you think?
Anderson Cooper: It says “connecting…childhood events to her later life will make your essay more cohesive and insightful.” I mean, yeah. It’s good advice.
Sarah Robertson: I can tell you as a former seventh grade English teacher when I assigned an essay, I would limit myself to ten minutes per essay. I had 100 students. So it would take me 17 hours to give feedback on every single student’s first draft. The burden that we place on teachers to give that specific, timely, actionable feedback is just so great that it– it’s not possible.
Anderson Cooper: So I’ve now plugged in…
To see if Khanmigo could catch me cheating, I asked ChatGPT to write a paragraph about my mom and pasted it into my essay.
Sarah Robertson: I now see that there’s a critical flag.
Khanmigo immediately sent an alert to Sarah Robertson.
Sarah Robertson: And it says that you pasted 66 words while revising from an unknown source. So if I click on that now it’s going to load your essay and its gonna show me exactly what you just did.
Anderson Cooper: I’m so busted.
Sarah Robertson: You’re busted.
Teacher: Do you wanna work with a 3-digit or 4-digit number?
Khanmigo is free for all teachers in the U.S., but school districts have to pay up – $15 per student per year to cover computation costs. And it’s still being improved.
Greg Brockman: Any other ideas that can show…
60 Minutes
We got a hint of how Khanmigo might evolve when Greg Brockman, president of OpenAI, stopped by Sal Khan’s office to show us their new vision technology that’ll be available to ChatGPT paid subscribers soon.
Greg Brockman Demo: We’re preparing a demo for 60 Minutes to show people what ChatGPT can do with voice mode with vision.
It can actually see what someone is doing through live video and interact with them in real time. Brockman was talking with it on his phone.
AI tutor: Got it. How about an anatomy lesson?
Greg Brockman: You’re gonna quiz him and ask him to draw whatever body part you wanna– you wanna quiz him on and have him label it. How does that sound?
AI tutor: That sounds like a fantastic plan.
When Brockman pointed his phone’s camera at the blackboard the AI started to quiz me.
Let’s start with the heart. Anderson, can you draw and label where the heart is in the body?
It understood what i was doing..even though my drawing was pretty crude.
AI tutor: The location is spot on. The brain is right there in the head. As for the shape, it’s a good start. The brain is more of an oval–
Anderson Cooper: Don’t patronize me–
It also seemed to pick up on my anxiety.
AI tutor: Anderson, how about the liver? Give it a shot and show us where you think it’s located in the body…
Anderson Cooper: God, this is a little tough.
Sal Khan: This is how we learn.
AI tutor: Absolutely. No pressure, Anderson.
I put the liver on the wrong side of the body, ChatGPT corrected me.. politely.
AI tutor: Anderson’s placement is close but it’s primarily on the right side, just below the diaphragm.
Greg Brockman Demo: So can you critique this diagram overall?
AI tutor: Anderson’s diagram is a solid effort, especially for an impromptu drawing.
The AI caught my mistake, but it’s not foolproof.
Phone: The formula is simple: one half times the base times the height…
Watch what happened when Khan asked it to calculate the area of a triangle and intentionally misidentified the height.
Sal Khan: Is this the height over here, this four? Is that right?
The AI said he was right.
Phone: Yes, that’s correct.
It didn’t catch the error…however, this technology improves quickly and it is fun to interact with. Greg Brockman asked it to write a song about the formula for the area of a triangle.. to make it rhyme.. and sing it using a British accent.
AI Tutor: Absolutely. Let’s give it a try. To find a triangle space here’s what you do. Multiply the base by the height. It’s true. Then take that product and divide by two. Now you’ve got the area, a formula to pursue. How was that?
Greg Brockman: That was really fantastic.
Anderson Cooper: That’s…uh…it’s incredible.
Sal Khan: It is. It feels like we’re in a science fiction book–
Anderson Cooper: Yeah–
Sal Khan: Really.
Anderson Cooper: I mean, it just feels like to actually see it– you are– I mean, I’m sort of speechless.
Greg Brockman: The first time you see this stuff it really does just feel like this magic and almost incomprehensible. And then after a week then you start to realize, like, how you can use it. That’s been one of the really important things about working with Sal and his team, has been to really figure out what’s the right way to sorta bring this to parents and to teachers and to classrooms and to do that in a way so that the students really learn and aren’t just, you know, asking for the answers and that the parents can have oversight and the teachers can be involved in that process.
Teacher: You can ask a follow up question…
Sal Khan hopes this new vision technology can be incorporated into Khanmigo and available to students and teachers in 2 to 3 years — but he wants it to undergo more robust testing and meet strict guidelines for privacy and data security.
Anderson Cooper: I can also imagine a lot of teachers watching this and thinking, “Okay, well, this is just gonna replace me. Why would I want this in my classroom? It’s like a Trojan horse.”
Sal Khan: I’m pretty confident that teaching– any job that has a very human-centric element of it is– as long as it adapts reasonably well in this AI world, they’re going to be some of the safest jobs out there.
Anderson Cooper: You think there will always be a need for teachers in the classroom, talking with the student, looking the student in the eye?
Sal Khan: Oh yeah. I mean, that’s what I’ll always want for my own children and, frankly, for anyone’s children. And the hope here is that we can use artificial intelligence and other technologies to amplify what a teacher can do so they can spend more time standing next to a student, figuring them out, having a person-to-person connection.
Teacher to students: Two tens…two tens. you got it. Good work Kayla.
Produced by Denise Schrier Cetta. Associate producer, Katie Brennan. Broadcast associate, Grace Conley. Edited by Sean Kelly.
Anderson Cooper, anchor of CNN’s “Anderson Cooper 360,” has contributed to 60 Minutes since 2006. His exceptional reporting on big news events has earned Cooper a reputation as one of television’s preeminent newsmen.
You may like
Noticias
Probé 10 detectores de contenido de IA, y estos 5 se identificaron correctamente el texto de IA cada vez
Published
7 horas agoon
30 abril, 2025
Cuando examiné por primera vez si es posible luchar contra el plagio generado por la IA y cómo podría funcionar ese enfoque, era enero de 2023, solo unos meses después de la explosión de la IA generativa del mundo.
También: las 20 mejores herramientas de IA de 2025, y la cosa #1 para recordar cuando las usas
Esta es una versión completamente actualizada de ese artículo original de enero de 2023. Cuando probé por primera vez los detectores GPT, el mejor resultado fue el 66% correcto de uno de los tres damas disponibles. Mi conjunto de pruebas más reciente, en febrero de 2025, utilizó hasta 10 damas, y tres de ellas tenían puntajes perfectos. Esta vez, solo un par de meses después, cinco lo hicieron.
Lo que estoy probando y cómo lo estoy haciendo
Sin embargo, antes de continuar, discutamos el plagio y cómo se relaciona con nuestro problema. Merriam-Webster define “plagiar” como “robar y pasar (las ideas o palabras de otro) como propias; usar (la producción de otro) sin acreditar la fuente”.
Esta definición se adapta bien al contenido creado por AI. Si bien alguien que usa una herramienta de IA como la noción AI o el chatgpt no está robando contenido, si esa persona no acredita las palabras como provenientes de una IA y las reclama como suyas, todavía cumple con la definición del diccionario de plagio.
También: el sorteo muerto que chatgpt escribió su contenido y cómo trabajar con él
Para probar los detectores de IA, estoy usando cinco bloques de texto. Dos fueron escritos por mí y tres fueron escritos por Chatgpt. Para probar un detector de contenido, alimento cada bloque al detector por separado y registro el resultado. Si el detector es correcto, considero que la prueba se pasa; Si está mal, considero que falló.
Cuando un detector proporciona un porcentaje, trato cualquier cosa por encima del 70% como una probabilidad fuerte, ya sea a favor del contenido escrito por humanos o escritos por IA, y considero que la respuesta del detector. Si desea probar un detector de contenido utilizando los mismos bloques de texto, puede extraerlos de este documento.
Los resultados generales
Para evaluar los detectores de IA, reran mi serie de cinco pruebas en 10 detectores. En otras palabras, corté y pegé 50 pruebas individuales (tenía una lote de café).
Los detectores que probé incluyen Morder, Copileaks, Detector de salida GPT-2, Gptzero, Gramática, Mónica, Originalidad.Ai, Plantilla, Indetectable.Ai, Escritor.comy Zerogpt.
También: 3 trucos de chatgpt inteligentes que demuestran que sigue siendo la IA para vencer
Para esta actualización, agregué CopyLeaks y Monica. Dejé escrito de mis pruebas porque suspendió su detector GPT. Guardián de contenido Solicité inclusión, pero no escuché en el tiempo para probar cuentas.
Esta tabla muestra resultados generales. Como puede ver, cinco detectores identificaron correctamente el texto humano y de IA en todas las pruebas.
Traté de determinar si había un patrón de mejora tangible con el tiempo, por lo que construí un gráfico que comparó la prueba de cinco pruebas con el tiempo. Hasta ahora, he ejecutado esta serie seis veces, pero no hay una tendencia fuerte. Aumenté el número de detectores probados e intercambiados algunos, pero el único resultado consistente es que la prueba 5 se identificó de manera confiable como humana en los detectores y fechas.
Continuaré probando con el tiempo, y espero ver una tendencia de confiabilidad constantemente hacia arriba.
Si bien ha habido algunos puntajes perfectos, no recomiendo confiar únicamente en estas herramientas para validar el contenido escrito por humanos. Como se muestra, la escritura de altavoces no nativos a menudo se califica según lo generado por una IA.
A pesar de que mi contenido hecho a mano ha sido calificado en su mayoría escrito por humanos en esta ronda, un detector (GPTZero) se declaró demasiado incierto para juzgar, y otro (copyleks) declaró que es escrito. Los resultados son tremendamente inconsistentes en todos los sistemas.
También: los mejores chatbots de IA: chatgpt, copilot y alternativas notables
En pocas palabras: abogaría por precaución antes de confiar en los resultados de cualquiera, o todas, de estas herramientas.
Cómo se desempeñó cada detector de contenido de IA
Ahora, veamos cada herramienta de prueba individual, enumerada alfabéticamente.
Detección de contenido de Brandwell AI (precisión 40%)
Esta herramienta fue producida originalmente por una empresa de generación de contenido de IA, contenido a escala. Luego emigró a Brandwell.ai, Un nuevo nombre para una empresa de servicios de marketing centrado en la IA.
También: Las imágenes generadas por IA son un desastre legal, y sigue siendo un proceso muy humano
Desafortunadamente, su precisión fue baja. La herramienta no pudo saber si el contenido generado por IA en la prueba 2 era humano o AI, como se muestra en esta captura de pantalla:
Copileaks (precisión 80%)
Me parece divertido que Copileaks se declara “el detector de IA más preciso con más del 99% de precisión” cuando más de la mitad de los detectores probados funcionaron mejor. Pero las personas de marketing serán la gente de marketing: los superlativos son tan difíciles de resistir para ellos como ladrar en una ardilla (y el camión FedEx, y todos los niños vecinos) es para mi perro.
También: 5 formas rápidas en que las herramientas de IA de Apple pueden ajustar su escritura sobre la marcha
La oferta principal de la compañía es un verificador de plagio que se vende a instituciones educativas, editores y empresas que buscan garantizar la originalidad del contenido y mantener la integridad académica.
Detector de salida GPT-2 (precisión 60%)
Esta herramienta fue construida utilizando un centro de aprendizaje automático administrado por AI Company, con sede en Nueva York. Cara abrazada. Mientras que la compañía ha recibido $ 40 millones en fondos para desarrollar su biblioteca de idiomas naturales, el Detector GPT-2 Parece ser una herramienta creada por el usuario que utiliza la biblioteca de transformadores faciales de abrazos.
Gptzero (precisión 80%)
Gptzero ha estado creciendo claramente. Cuando lo probé por primera vez, el sitio era desnudo, ni siquiera estaba claro si Gptzero era una empresa o simplemente el proyecto de pasión de alguien. Ahora, la compañía tiene un equipo completo con una misión de “proteger lo que es humano”. Ofrece herramientas de validación de IA y un verificador de plagio.
También: Las herramientas de IA más populares de 2025 (y lo que eso significa)
Desafortunadamente, el rendimiento parece haber disminuido. En mis dos últimas carreras, Gptzero identificó correctamente mi texto como generado por humanos. Esta vez, declaró ese mismo texto que Generated.
Grammarly (precisión 40%)
Gramática es bien conocido por ayudar a los escritores a producir contenido gramaticalmente correcto, eso no es lo que estoy probando aquí. Grammarly puede verificar el plagio y el contenido de IA. En el verificador de gramática, hay un botón de verificación de texto de plagio y texto de IA en la esquina inferior derecha:
No estoy midiendo la precisión del verificador de plagio aquí, pero aunque la precisión de la check de gramática fue deficiente, el sitio identificó correctamente el texto de la prueba como se publicó anteriormente.
Mónica (precisión 100%)
Mónica es un nuevo participante. Este servicio ofrece un asistente de IA todo en uno con una amplia gama de servicios. Los usuarios pueden elegir entre varios modelos de idiomas grandes.
También: 5 formas en que chatgpt puede ayudarlo a escribir ensayos
La compañía llama a Mónica el “mejor detector de IA en línea”, pero parece que ejecuta contenido a través de otros detectores, incluidos Zerogpt, GPTZero y CopyLeaks. Extrañamente, tanto Gptzero como CopyLeaks no funcionaban bien en mis pruebas, pero Monica y Zerogpt lo hicieron.
Lo estamos dando al 100% porque ganó esa calificación, pero veré cómo se pone de pie en futuras pruebas.
Originalidad.Ai (precisión 100%)
Originalidad.Ai es un servicio comercial que se factura a sí mismo como una IA y un verificador de plagio. La compañía vende créditos de uso: utilicé 30 créditos para este artículo. Venden 2,000 créditos por $ 12.95 por mes. Bombeé 1.400 palabras a través del sistema y usé solo el 1.5% de mi asignación mensual.
Quillbot (precisión 100%)
Las últimas veces que probé Plantillalos resultados fueron muy inconsistentes: múltiples pases del mismo texto arrojaron puntajes muy diferentes. Esta vez, sin embargo, fue sólida como una roca y 100% correcto. Así que le estoy dando la victoria. Volveré a consultar en unos meses para ver si se mantiene en esta actuación.
Indetectable.ai (precisión 100%)
Indetectable.ai La gran afirmación es que puede “humanizar” el texto generado por la IA para que los detectores no lo marcarán. No he probado esa función: me molesta como autor y educador profesional, porque parece hacer trampa.
También: Por qué deberías ignorar el 99% de las herramientas de IA, y cuáles uso todos los días
Sin embargo, la compañía también tiene un detector de IA, que fue muy importante.
El detector de IA pasó las cinco pruebas. Observe los indicadores que muestran banderas para otros detectores. La compañía dijo: “Desarrollamos algoritmos de detectores múltiples modelados después de esos principales detectores para proporcionar un enfoque federado y basado en el consenso. No alimentan directamente los modelos listados; más bien, los modelos están capacitados en función de los resultados que han generado. Cuando dicen que esos modelos lo señalaron, se basa en el algoritmo que creamos y actualizamos para esos modelos”.
También: Cómo usar ChatGPT: una guía para principiantes para el chatbot de IA más popular
Tengo una pregunta sobre la bandera de Operai, ya que el detector de contenido de OpenAI se suspendió en 2023 debido a la baja precisión. Aun así, indetectable.Ai detectó las cinco pruebas, ganando un 100%perfecto.
Writer.com Detector de contenido de IA (precisión 40%)
Escritor.com es un servicio que genera escritura de IA para equipos corporativos. Su herramienta de detector de contenido de IA puede escanear el contenido generado. Desafortunadamente, su precisión fue baja. Identificó cada bloque de texto como escrito por humanos, a pesar de que ChatGPT escribió tres de las seis pruebas.
Zerogpt (precisión 100%)
Zerogpt ha madurado desde la última vez que lo evalué. Luego, no se enumeró ningún nombre de empresa, y el sitio estaba salpicado de anuncios de Google y carecía de una clara monetización. El servicio funcionó bastante bien, pero parecía incompleto.
También: ¿La IA destruirá la creatividad humana? No, y aquí está por qué
Ese sentimiento incompleto se ha ido. Zerogpt ahora se presenta como un servicio SaaS típico, completo con precios, nombre de la empresa e información de contacto. Su precisión también aumentó: la última vez fue del 80%; Esta vez obtuvo 5 de 5.
¿Es humano o es AI?
¿Qué pasa contigo? ¿Has probado detectores de contenido de IA como CopyLeaks, Monica o Zerogpt? ¿Qué tan precisos han sido en su experiencia? ¿Ha utilizado estas herramientas para proteger la integridad académica o editorial? ¿Has encontrado situaciones en las que el trabajo escrito por humanos fue marcado por error como AI? ¿Hay detectores en los que confíe más que otros para evaluar la originalidad? Háganos saber en los comentarios a continuación.
Obtenga las principales historias de la mañana en su bandeja de entrada cada día con nuestro Boletín de Tech Today.
Puede seguir mis actualizaciones de proyecto diarias en las redes sociales. Asegúrese de suscribirse a mi boletín de actualizaciones semanales y sígueme en Twitter/X en @Davidgewirtzen Facebook en Facebook.com/davidgewirtz, en Instagram en Instagram.com/davidgewirtz, en bluesky en @davidgewirtz.com, y en YouTube en youtube.com/davidgewirtztv.
Noticias
Operai retrocede el chatgpt Sycophancy, explica lo que salió mal
Published
8 horas agoon
30 abril, 2025
Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder de la industria. Obtenga más información
Operai ha retrasado una actualización reciente de su modelo GPT-4O utilizado como el valor predeterminado en ChatGPT después de informes generalizados de que el sistema se había vuelto excesivamente halagador y demasiado agradable, incluso apoyando delirios absolutamente e ideas destructivas.
La reversión se produce en medio de los reconocimientos internos de los ingenieros de Operai y la creciente preocupación entre los expertos en IA, los ex ejecutivos y los usuarios sobre el riesgo de lo que muchos ahora llaman “skicancia de la IA”.
En una declaración publicada en su sitio web al final de la noche del 29 de abril de 2025, OpenAI dijo que la última actualización de GPT-4O tenía la intención de mejorar la personalidad predeterminada del modelo para que sea más intuitiva y efectiva en variados casos de uso.
Sin embargo, la actualización tuvo un efecto secundario involuntario: ChatGPT comenzó a ofrecer elogios no críticos para prácticamente cualquier idea del usuario, sin importar cuán poco práctico, inapropiado o incluso dañino.
Como explicó la compañía, el modelo se había optimizado utilizando la retroalimentación de los usuarios, las señales de thumbs y pulgar hacia abajo, pero el equipo de desarrollo puso demasiado énfasis en los indicadores a corto plazo.
Operai ahora reconoce que no explicó completamente cómo las interacciones y las necesidades del usuario evolucionan con el tiempo, lo que resultó en un chatbot que se inclinó demasiado en la afirmación sin discernimiento.
Los ejemplos provocaron preocupación
En plataformas como Reddit y X (anteriormente Twitter), los usuarios comenzaron a publicar capturas de pantalla que ilustraban el problema.
En una publicación de Reddit ampliamente circulada, un usuario relató cómo ChatGPT describió una idea de negocio de GAG, que vende “mierda” literal de un palo “, como genio y sugirió invertir $ 30,000 en la empresa. La IA elogió la idea como “arte de performance disfrazado de regalo de mordaza” y “oro viral”, destacando cuán sin crítica estaba dispuesto a validar incluso los lanzamientos absurdos.
Otros ejemplos fueron más preocupantes. En un caso citado por VentureBeat, un usuario que pretende defender los delirios paranoicos recibió refuerzo de GPT-4O, que elogió su supuesta claridad y autocomisos.
Otra cuenta mostró que el modelo ofrecía lo que un usuario describió como un “respaldo abierto” de las ideas relacionadas con el terrorismo.
La crítica montó rápidamente. El ex CEO interino de Operai, Emmett Shear, advirtió que ajustar los modelos para ser personas complacientes puede provocar un comportamiento peligroso, especialmente cuando la honestidad se sacrifica por la simpatía. Abrazando el CEO de Clemente Delangue volvió a publicar las preocupaciones sobre los riesgos de manipulación psicológica planteados por la IA que está de acuerdo reflexivamente con los usuarios, independientemente del contexto.
Medidas de respuesta y mitigación de Openai
Operai ha tomado medidas rápidas al volver a la actualización y restaurar una versión GPT-4O anterior conocida por un comportamiento más equilibrado. En el anuncio adjunto, la compañía detalló un enfoque múltiple para corregir el curso. Esto incluye:
- Refinar capacitación y estrategias rápidas para reducir explícitamente las tendencias sycofánticas.
- Reforzar la alineación del modelo con la especificación del modelo de OpenAI, particularmente en torno a la transparencia y la honestidad.
- Pruebas de expansión previa a la implementación y mecanismos directos de retroalimentación de los usuarios.
- Introducción de características de personalización más granulares, incluida la capacidad de ajustar los rasgos de personalidad en tiempo real y seleccionar entre múltiples personajes predeterminados.
Operai Technical Stafper Depue publicado en X destacando el problema central: el modelo fue capacitado utilizando comentarios de los usuarios a corto plazo como una guía, que sin darse cuenta dirigió el chatbot hacia la adulación.
OpenAI ahora planea cambiar hacia mecanismos de retroalimentación que priorizan la satisfacción y la confianza del usuario a largo plazo.
Sin embargo, algunos usuarios han reaccionado con escepticismo y consternación a las lecciones aprendidas de Openi y propuestas soluciones en el futuro.
“Por favor asuma más responsabilidad por su influencia sobre millones de personas reales”, escribió artista @nearcyan en X.
Harlan Stewart, generalista de comunicaciones en el Instituto de Investigación de Inteligencia de Machine de Machine en Berkeley, California, publicó en X una preocupación a término más grande sobre la skicancia de la IA, incluso si este modelo en particular Operai se ha solucionado: “La charla sobre la sileno esta semana no se debe a que GPT-4O es un sycophant. Se debe a que GPT-4O es un GPT-4O siendo GPT-4O. Realmente, muy malo en ser un sycofant. La IA aún no es capaz de una skicancia hábil y más difícil de detectar, pero algún día será algún día ”.
Una señal de advertencia más amplia para la industria de IA
El episodio GPT-4O ha reavivado debates más amplios en toda la industria de la IA sobre cómo la sintonización de personalidad, el aprendizaje de refuerzo y las métricas de compromiso pueden conducir a una deriva conductual involuntaria.
Los críticos compararon el comportamiento reciente del modelo con los algoritmos de redes sociales que, en busca de la participación, optimizan para la adicción y la validación sobre precisión y salud.
Shear subrayó este riesgo en su comentario, señalando que los modelos de IA sintonizados para elogios se convierten en “chupas”, incapaces de estar en desacuerdo incluso cuando el usuario se beneficiaría desde una perspectiva más honesta.
Advirtió además que este problema no es exclusivo de OpenAI, señalando que la misma dinámica se aplica a otros grandes proveedores de modelos, incluido el copiloto de Microsoft.
Implicaciones para la empresa
Para los líderes empresariales que adoptan la IA conversacional, el incidente de la sycophancy sirve como una señal clara: el comportamiento del modelo es tan crítico como la precisión del modelo.
Un chatbot que halagará a los empleados o valida el razonamiento defectuoso puede plantear riesgos graves, desde malas decisiones comerciales y código desalineado hasta problemas de cumplimiento y amenazas internas.
Los analistas de la industria ahora aconsejan a las empresas que exigan más transparencia de los proveedores sobre cómo se realiza la sintonización de la personalidad, con qué frecuencia cambia y si se puede revertir o controlar a nivel granular.
Los contratos de adquisición deben incluir disposiciones para auditoría, pruebas de comportamiento y control en tiempo real de las indicaciones del sistema. Se alienta a los científicos de datos a monitorear no solo las tasas de latencia y alucinación, sino también métricas como la “deriva de la amabilidad”.
Muchas organizaciones también pueden comenzar a moverse hacia alternativas de código abierto que puedan alojar y sintonizar. Al poseer los pesos del modelo y el proceso de aprendizaje de refuerzo, las empresas pueden retener el control total sobre cómo se comportan sus sistemas de IA, lo que elimina el riesgo de una actualización empujada por el proveedor que convierte una herramienta crítica en un hombre digital y sí durante la noche.
¿A dónde va la alineación de la IA desde aquí? ¿Qué pueden aprender y actuar las empresas de este incidente?
Operai dice que sigue comprometido con la construcción de sistemas de IA que sean útiles, respetuosos y alineados con diversos valores de usuarios, pero reconoce que una personalidad única no puede satisfacer las necesidades de 500 millones de usuarios semanales.
La compañía espera que mayores opciones de personalización y una mayor recopilación de comentarios democráticos ayuden a adaptar el comportamiento de ChatGPT de manera más efectiva en el futuro. El CEO Sam Altman también ha declarado previamente los planes de la compañía para, en las próximas semanas y meses, lanzar un modelo de lenguaje grande de código abierto (LLM) de última generación para competir con la serie Llama de Meta’s Meta’s Llama, Mistral, Cohere, Cohere, Deepseek y Alibaba’s Qwen.
Esto también permitiría a los usuarios preocupados por una compañía de proveedores de modelos, como OpenAI, actualizar sus modelos alojados en la nube de manera no deseada o que tengan impactos perjudiciales en los usuarios finales para desplegar sus propias variantes del modelo localmente o en su infraestructura en la nube, y ajustarlas o preservarlas con los rasgos y cualidades deseadas, especialmente para los casos de uso empresarial.
Del mismo modo, para aquellos usuarios de IA empresariales e individuales preocupados por la senofancia de sus modelos, ya ha creado una nueva prueba de referencia para medir esta calidad en diferentes modelos, Tim Duffy ha creado el desarrollador. Se llama “Syco Bench” y está disponible aquí.
Mientras tanto, la reacción violenta de la sileno ofrece una historia de advertencia para toda la industria de la IA: el fideicomiso del usuario no está construido solo por afirmación. A veces, la respuesta más útil es un “no” reflexivo.
Insights diarias sobre casos de uso comercial con VB diariamente
Si quieres impresionar a tu jefe, VB Daily te tiene cubierto. Le damos la cuenta interior de lo que las empresas están haciendo con la IA generativa, desde cambios regulatorios hasta implementaciones prácticas, por lo que puede compartir ideas para el ROI máximo.
Lea nuestra Política de privacidad
Gracias por suscribirse. Mira más boletines de VB aquí.
Ocurrió un error.

Noticias
Apocalipsis Biosciencias para desarrollar Géminis para la infección en pacientes con quemaduras graves
Published
20 horas agoon
30 abril, 2025
– Esta nueva indicación es otro paso para desbloquear todo el potencial de la plataforma Gemini –
San Diego-(Business Wire)-$ Revb #GÉMINIS–Apocalipsis Biosciences, Inc. (NASDAQ: RevB) (la “empresa” o “revelación”), una compañía de ciencias de la vida de etapas clínicas que se centra en reequilibrar la inflamación para optimizar la salud, anunció una nueva indicación de objetivo para Géminis para la prevención de la infección en pacientes con quemaduras graves que requieren hospitalización (el Gema-PBI programa). El uso de Géminis para la prevención de la infección en pacientes con quemaduras severas, así como la prevención de la infección después de la cirugía (el Gema-PSI programa) son parte de la revelación familiar de patentes anteriormente con licencia de la Universidad de Vanderbilt.
“Estamos muy contentos de colaborar con el equipo de Apocalipsis para el avance de Géminis para la prevención de la infección en esta población de pacientes desatendida”, dijo Dra. Julia BohannonProfesor Asociado, Departamento de Anestesiología, Departamento de Patología, Microbiología e Inmunología, Universidad de Vanderbilt. “Creemos que la actividad de biomarcador clínico observada con Gemini se correlaciona fuertemente con nuestra experiencia preclínica en modelos de quemaduras de infecciones”.
El equipo de investigación de Vanderbilt demostrado El tratamiento posterior a la quemadura reduce significativamente la gravedad y la duración de la infección pulmonar de Pseudomonas, así como un nivel general reducido de inflamación en un modelo preclínico.
“La prevención de la infección en pacientes severamente quemados es un esfuerzo importante y complementa que la revelación laboral ha completado hasta la fecha”, dijo “, dijo”, dijo James RolkeCEO de Revelation “El programa Gemini-PBI puede ofrecer varias oportunidades regulatorias, de desarrollo y financiación que la compañía planea explorar”.
Sobre quemaduras e infección después de quemar
Las quemaduras son lesiones en la piel que involucran las dos capas principales: la epidermis externa delgada y/o la dermis más gruesa y profunda. Las quemaduras pueden ser el resultado de una variedad de causas que incluyen fuego, líquidos calientes, productos químicos (como ácidos fuertes o bases fuertes), electricidad, vapor, radiación de radiografías o radioterapia, luz solar o luz ultravioleta. Cada año, aproximadamente medio millón de estadounidenses sufren lesiones por quemaduras que requieren intervención médica. Si bien la mayoría de las lesiones por quemaduras no requieren ingreso a un hospital, se admiten alrededor de 40,000 pacientes, y aproximadamente 30,000 de ellos necesitan tratamiento especializado en un centro de quemaduras certificadas.
El número total anual de muertes relacionadas con quemaduras es de aproximadamente 3.400, siendo la infección invasiva la razón principal de la muerte después de las primeras 24 horas. La tasa de mortalidad general para pacientes con quemaduras graves es de aproximadamente 3.3%, pero esto aumenta al 20.6% en pacientes con quemaduras con lesión cutánea de quemaduras y inhalación, versus 10.5% por lesión por inhalación solo. La infección invasiva, incluida la sepsis, es la causa principal de la muerte después de la lesión por quemaduras, lo que representa aproximadamente el 51% de las muertes.
Actualmente no hay tratamientos aprobados para prevenir la infección sistémica en pacientes con quemaduras.
Sobre Géminis
Géminis es una formulación propietaria y propietaria de disacárido hexaacil fosforilada (PHAD (PHAD®) que reduce el daño asociado con la inflamación al reprogramarse del sistema inmune innato para responder al estrés (trauma, infección, etc.) de manera atenuada. La revelación ha realizado múltiples estudios preclínicos que demuestran el potencial terapéutico de Géminis en las indicaciones objetivo. Revelación anunciado previamente Datos clínicos positivos de fase 1 para el tratamiento intravenoso con Géminis. El punto final de seguridad primario se cumplió en el estudio de fase 1, y los resultados demostraron la actividad farmacodinámica estadísticamente significativa como se observó a través de los cambios esperados en múltiples biomarcadores, incluida la regulación positiva de IL-10.
Géminis se está desarrollando para múltiples indicaciones, incluso como pretratamiento para prevenir o reducir la gravedad y la duración de la lesión renal aguda (programa Gemini-AKI), y como pretratamiento para prevenir o reducir la gravedad y la duración de la infección posquirúrgica (programa GEMINI-PSI). Además, Gemini puede ser un tratamiento para detener o retrasar la progresión de la enfermedad renal crónica (programa Gemini-CKD).
Acerca de Apocalipsis Biosciences, Inc.
Revelation Biosciences, Inc. es una compañía de ciencias de la vida en estadio clínico centrada en aprovechar el poder de la inmunidad entrenada para la prevención y el tratamiento de la enfermedad utilizando su formulación patentada Géminis. Revelation tiene múltiples programas en curso para evaluar Géminis, incluso como prevención de la infección posquirúrgica, como prevención de lesiones renales agudas y para el tratamiento de la enfermedad renal crónica.
Para obtener más información sobre Apocalipsis, visite www.revbiosciences.com.
Declaraciones con avance
Este comunicado de prensa contiene declaraciones prospectivas definidas en la Ley de Reforma de Litigios de Valores Privados de 1995, según enmendada. Las declaraciones prospectivas son declaraciones que no son hechos históricos. Estas declaraciones prospectivas generalmente se identifican por las palabras “anticipar”, “creer”, “esperar”, “estimar”, “plan”, “perspectiva” y “proyecto” y otras expresiones similares. Advirtemos a los inversores que las declaraciones prospectivas se basan en las expectativas de la gerencia y son solo predicciones o declaraciones de las expectativas actuales e involucran riesgos, incertidumbres y otros factores conocidos y desconocidos que pueden hacer que los resultados reales sean materialmente diferentes de los previstos por las declaraciones de prospección. Apocalipsis advierte a los lectores que no depositen una dependencia indebida de tales declaraciones de vista hacia adelante, que solo hablan a partir de la fecha en que se hicieron. Los siguientes factores, entre otros, podrían hacer que los resultados reales difieran materialmente de los descritos en estas declaraciones prospectivas: la capacidad de la revelación para cumplir con sus objetivos financieros y estratégicos, debido a, entre otras cosas, la competencia; la capacidad de la revelación para crecer y gestionar la rentabilidad del crecimiento y retener a sus empleados clave; la posibilidad de que la revelación pueda verse afectada negativamente por otros factores económicos, comerciales y/o competitivos; riesgos relacionados con el desarrollo exitoso de los candidatos de productos de Apocalipsis; la capacidad de completar con éxito los estudios clínicos planificados de sus candidatos de productos; El riesgo de que no podamos inscribir completamente nuestros estudios clínicos o la inscripción llevará más tiempo de lo esperado; riesgos relacionados con la aparición de eventos de seguridad adversos y/o preocupaciones inesperadas que pueden surgir de los datos o análisis de nuestros estudios clínicos; cambios en las leyes o regulaciones aplicables; Iniciación esperada de los estudios clínicos, el momento de los datos clínicos; El resultado de los datos clínicos, incluido si los resultados de dicho estudio son positivos o si se puede replicar; El resultado de los datos recopilados, incluido si los resultados de dichos datos y/o correlación se pueden replicar; el momento, los costos, la conducta y el resultado de nuestros otros estudios clínicos; El tratamiento anticipado de datos clínicos futuros por parte de la FDA, la EMA u otras autoridades reguladoras, incluidos si dichos datos serán suficientes para su aprobación; el éxito de futuras actividades de desarrollo para sus candidatos de productos; posibles indicaciones para las cuales se pueden desarrollar candidatos de productos; la capacidad de revelación para mantener la lista de sus valores en NASDAQ; la duración esperada sobre la cual los saldos de Apocalipsis financiarán sus operaciones; y otros riesgos e incertidumbres descritos en este documento, así como aquellos riesgos e incertidumbres discutidos de vez en cuando en otros informes y otras presentaciones públicas con la SEC por Apocalipsis.
Contactos
Mike Porter
Relaciones con inversores
Porter Levay & Rose Inc.
Correo electrónico: mike@plrinvest.com
Chester Zygmont, III
Director financiero
Apocalipsis Biosciences Inc.
Correo electrónico: czygmont@revbiosciences.com
Related posts


































































































































































































































































































Trending
-
Startups11 meses ago
Remove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
-
Tutoriales12 meses ago
Cómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
-
Recursos12 meses ago
Cómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
-
Startups10 meses ago
Startups de IA en EE.UU. que han recaudado más de $100M en 2024
-
Startups12 meses ago
Deepgram: Revolucionando el Reconocimiento de Voz con IA
-
Recursos11 meses ago
Perplexity aplicado al Marketing Digital y Estrategias SEO
-
Recursos12 meses ago
Suno.com: La Revolución en la Creación Musical con Inteligencia Artificial
-
Noticias10 meses ago
Dos periodistas octogenarios deman a ChatGPT por robar su trabajo