Noticias
Dejé que Chatgpt tome todas mis decisiones por un día, esto es lo que pasó
Me desperté esa mañana con una sensación de curiosidad y un toque de emoción nerviosa.
Después de todo, entregar todas las opciones durante un día a una IA no es algo que haya imaginado hacer.
Sin embargo, allí estaba, listo para dejar que Chatgpt tome mis decisiones.
Desde mi selección de café de la mañana hasta cómo pasé mis descansos de trabajo, confiaba plena en las indicaciones y el texto predictivo.
Siempre me ha fascinado la psicología de la toma de decisiones, y esto se sintió como el mejor experimento personal.
Por qué quería hacer este experimento
Hay mucho zumbido alrededor de la IA en estos días.
Parte de mí quería ver si, al eliminar algunos de mis pensamientos demasiado habituales, liberaría el espacio mental o descubrería nuevas formas de hacer las cosas.
Otra parte de mí era simplemente curiosa:
Si externalizo mis opciones por un día, ¿qué dice eso sobre mí y mis hábitos? ¿Se sentiría liberador o inquietante?
He pasado años estudiando cómo nuestras mentes nos engañan en patrones repetitivos. A menudo, el incumplimiento de los comportamientos familiares, olvidar que puede haber mejores alternativas.
Dejar que Chatgpt decida se sintió como una vía rápida para encontrar esas alternativas, si existían, y probando cuán flexible podría ser.
Cómo comenzó todo esa mañana
Mi primera decisión fue simple: desayuno.
Normalmente, pasaría unos minutos debatiendo entre avena o tostadas de aguacate, luego eventualmente elegir la misma tostada de aguacate que tengo tres veces por semana.
Esta vez, escribí en Chatgpt: “¿Qué debo desayunar?”
Sugirió probar una tortilla llena de proteínas con espinacas y queso feta. Soy más una persona tostada, pero seguí las instrucciones y encontré la tortilla sorprendentemente buena.
La siguiente opción involucró mi horario de trabajo.
Como alguien que escribe artículos que exploran la psicología detrás de las decisiones cotidianas, generalmente planeo mi día la noche anterior, desde mis bloques de escritura hasta llamadas telefónicas.
Esta vez, le pregunté a ChatGPT cómo priorizar mis tareas matutinas. Me dijo que comenzara con una sesión de lluvia de ideas rápida de 15 minutos para ideas nuevas, luego sumergir en un primer borrador de mi próxima publicación.
Esto parecía sencillo, pero generalmente reviso el correo electrónico primero.
Dejar que Ai me dirija al principio al principio: seguí ansioso por revisar mi bandeja de entrada. Aún así, una vez que me comprometí, me pareció refrescante abordar la escritura con una mente clara.
Me recordó algo que Greg McKeown ha dicho: “Si no priorizas tu vida, alguien más lo hará”.
Dejar que AI decida fue un giro extraño en ese principio. En lugar de dejar que las pings de correo electrónico aleatorias dicten mi mañana, entregué el control de programación a ChatGPT.
Fue inquietante e intrigante.
Ajustarse a elecciones inesperadas
A medio día, la novedad se había convertido en un poco de tensión. Necesitaba descubrir el almuerzo, así que le pedí a ChatGPT una recomendación de un restaurante.
Sugirió un lugar tailandés cercano que nunca había probado.
Por lo general, compararía reseñas, tal vez desplazaría a través de algunas fotos de los usuarios, y luego lo pensó demasiado. Esta vez, sin dudas, acabo de ir.
Las verduras salteadas con tofu sabían mejor de lo que esperaba. La guía de Chatgpt me había expulsado de mi rutina habitual, que se sintió un poco como viajar a una nueva ciudad y descubrir una joya local.
Ahí es cuando me golpeó: ¿cuántas decisiones simples complemento en exceso todos los días?
Mi siguiente decisión fue si tomar un descanso o pasar por el trabajo. Le pregunté a Chatgpt cómo estructurar mi tarde. Recomendó una corta caminata para limpiar mi cabeza antes de volver a mi escritura.
He mencionado en una publicación anterior cómo los descansos cortos pueden restablecer la creatividad. Sin embargo, este mini-Break se sintió diferente, porque no era mi idea.
Fue un extraño alivio no vacilar entre “¿Debería?” o “¿No debería yo?” – Lo hice.
Realizaciones de dejar ir al control
Si alguna vez has intentado salir de tu zona de confort, sabes la sensación de sorpresa que viene con ella.
Durante todo el día, seguí notando que cuando no me manipulaba cada paso, estaba más abierto a nuevas experiencias.
Es divertido: mi trabajo es analizar las decisiones, pero a menudo lucho con la misma indecisión sobre la que leo en trabajos de investigación.
Al salir, pensé en algo que Tim Ferriss dijo una vez: “Concéntrese en ser productivo en lugar de ocupado”.
Vi cuántas pequeñas opciones en mi día giran en torno a la ocupación (verificación de notificaciones, desplazando las redes sociales, los bocadillos sin pensar, en lugar de la productividad real.
Con ChatGPT llamando a las tomas, tenía menos razones para participar en esas distracciones. Mi energía se mantuvo en tareas y experiencias que sugirió la IA.
Eso no quiere decir que todo salió perfectamente. Una decisión me llevó a un video de entrenamiento en línea que claramente no era mi estilo. Luché en la rutina, sintiéndome tonto y cuestionando para qué me había inscrito.
Al final, estaba sudoroso, pero tuve que admitir que era más desafiante que lo que normalmente hago.
La experiencia me dejó con una sensación de logro, casi como Chatgpt me había empujado a empujar un límite que no tendría por mi cuenta.
El desafío de la confianza
Permitir que un algoritmo formara mi día me obligó a enfrentar cuánto valoro el control. Dejar ir no fue fácil. A veces adiviné el consejo.
Me atraparía pensando: “¿Normalmente haría esto?” La parte divertida fue que, una vez que me comprometí, me sentí más ligero.
Fue una reminiscencia de ese momento cuando decides confiar en la recomendación de un amigo sin analizar todas las posibilidades.
Pero también hubo una incomodidad sutil. Le pregunté a ChatGPT cómo responder al mensaje de texto de un amigo sobre los planes de fin de semana. Sugirió una respuesta amigable pero concisa que sonaba un poco más formal de lo que típicamente escribía.
Lo envié de todos modos y se sintió robótico.
Mi amigo no parecía darse cuenta, pero yo lo hice.
Eso me hizo preguntarme si entregar ciertas decisiones personales, como cómo me comunico, disminuye la autenticidad.
En cierto modo, esa tensión destacó un principio psicológico importante: cuanto más externalizamos nuestras decisiones, más podríamos arriesgarnos a perder nuestra voz única.
Como señaló Dale Carnegie, “Cuando se trata de personas, recuerde que no se trata de criaturas de lógica, sino criaturas de emoción”.
AI no puede replicar perfectamente ese matiz emocional, y tal vez ahí es donde dibujamos nuestra línea personal en la arena.
Ideas sobre patrones cotidianos
Una ventaja inesperada de dejar decidir chatgpt fue cómo noté un patrón en mis rutinas diarias.
Me dio sugerencias que normalmente no consideraría, como elegir una lista de reproducción de la música ambiental para mejorar el enfoque o tardar unos minutos en el diario.
Estos pequeños cambios rompieron mi ciclo predecible y me hicieron ver cuán atascado puedo estar en mis formas habituales. Recuerdo la investigación del comportamiento del consumidor en la que solía sumergirme cuando trabajaba en marketing digital.
- Creemos que estamos tomando todas estas decisiones lógicas cada día, pero a menudo solo estamos siguiendo hábitos arraigados.
- Compramos las mismas marcas, vemos los mismos programas, comemos las mismas comidas.
Cuando AI introdujo una opción diferente, me di cuenta de cuánta variedad me había perdido.
Reacciones sociales y preguntas éticas
Al final de la tarde, tuve una breve conversación con un colega. Casualmente mencioné que estaba dejando que Chatgpt tomara todas mis decisiones para el día.
Su respuesta fue una mezcla de diversión y preocupación.
Preguntaron: “¿No te preocupa perder tu sentido de uno mismo?”
Pregunta justa.
Por un lado, esto fue solo un experimento de 24 horas. Por otro lado, insinuó preguntas éticas más grandes en torno a la influencia de la IA.
Una cosa es que una IA sugiera opciones de almuerzo o un nuevo truco de productividad, pero es otra cosa completamente si comenzamos a confiar en ella para una guía emocional o moral.
Si permitiera que ChatGPT definiera mis opiniones, valores o objetivos de vida, esa sería una conversación diferente.
Aún así, el experimento nunca tuvo la intención de reemplazar mi juicio de forma permanente. Era una forma de ver cómo una fuerza externa, algo más allá de mis rutinas típicas, podría remodelar mi día.
Y desde una perspectiva de ciencias del comportamiento, me hizo reflexionar sobre cómo ya externalizamos algunas de nuestras decisiones.
Las encuestas de redes sociales, las recomendaciones de tendencia, incluso las sugerencias de amigos dan más nuestras elecciones de lo que podríamos admitir.
Por último, pero no menos importante, lo que aprendí
En el transcurso del día, descubrí que realmente disfrutaba renunciar a la carga de la toma de decisiones. Fue un mini-Break de mi perpetua charla mental.
Sin embargo, también me di cuenta de que la dependencia completa de una IA se sentía extraña, especialmente para las interacciones personales.
También descubrí una nueva apreciación por la elección deliberada.
Cuando Chatgpt me indicó que probara un nuevo café, me encantó la frescura de la experiencia. Pero cuando me dijo cómo responder al texto de un amigo, me perdí el toque personal.
Esa diferencia ayudó a aclarar dónde me siento más cómodo experimentando y dónde necesito retener el control.
Poniendo todo junto
Cuando me fui a la cama, me sentí extrañamente logrado.
El día se había vuelto más suave de lo que esperaba, y había obtenido ideas que podrían haberme llevado mucho más tiempo encontrar por mi cuenta. ¿Fue liberador? Sí, de alguna manera.
¿Fue desconcertante?
Definitivamente.
Aquí en DM News, a menudo examinamos cómo la tecnología influye en nuestros comportamientos y decisiones.
Mi pequeño experimento mostró que dejar que la IA guíe las cosas pequeñas puede provocar creatividad y romper los hábitos repetitivos. También destacó la importancia de mantener nuestras conexiones y emociones humanas únicas.
Al final del día, la IA no reemplaza quiénes somos, simplemente nos empuja ver las cosas desde un ángulo diferente. Y a veces, eso es todo lo que necesitamos para crecer un poco más cada día.
En resumen
El mecanismo de colapso de IA
Cortesía cultural> matemáticas
Generalmente inteligente Hoja informativa
Un viaje semanal de IA narrado por Gen, un modelo de IA generativo.
Noticias
Probé 10 detectores de contenido de IA, y estos 5 se identificaron correctamente el texto de IA cada vez
Cuando examiné por primera vez si es posible luchar contra el plagio generado por la IA y cómo podría funcionar ese enfoque, era enero de 2023, solo unos meses después de la explosión de la IA generativa del mundo.
También: las 20 mejores herramientas de IA de 2025, y la cosa #1 para recordar cuando las usas
Esta es una versión completamente actualizada de ese artículo original de enero de 2023. Cuando probé por primera vez los detectores GPT, el mejor resultado fue el 66% correcto de uno de los tres damas disponibles. Mi conjunto de pruebas más reciente, en febrero de 2025, utilizó hasta 10 damas, y tres de ellas tenían puntajes perfectos. Esta vez, solo un par de meses después, cinco lo hicieron.
Lo que estoy probando y cómo lo estoy haciendo
Sin embargo, antes de continuar, discutamos el plagio y cómo se relaciona con nuestro problema. Merriam-Webster define “plagiar” como “robar y pasar (las ideas o palabras de otro) como propias; usar (la producción de otro) sin acreditar la fuente”.
Esta definición se adapta bien al contenido creado por AI. Si bien alguien que usa una herramienta de IA como la noción AI o el chatgpt no está robando contenido, si esa persona no acredita las palabras como provenientes de una IA y las reclama como suyas, todavía cumple con la definición del diccionario de plagio.
También: el sorteo muerto que chatgpt escribió su contenido y cómo trabajar con él
Para probar los detectores de IA, estoy usando cinco bloques de texto. Dos fueron escritos por mí y tres fueron escritos por Chatgpt. Para probar un detector de contenido, alimento cada bloque al detector por separado y registro el resultado. Si el detector es correcto, considero que la prueba se pasa; Si está mal, considero que falló.
Cuando un detector proporciona un porcentaje, trato cualquier cosa por encima del 70% como una probabilidad fuerte, ya sea a favor del contenido escrito por humanos o escritos por IA, y considero que la respuesta del detector. Si desea probar un detector de contenido utilizando los mismos bloques de texto, puede extraerlos de este documento.
Los resultados generales
Para evaluar los detectores de IA, reran mi serie de cinco pruebas en 10 detectores. En otras palabras, corté y pegé 50 pruebas individuales (tenía una lote de café).
Los detectores que probé incluyen Morder, Copileaks, Detector de salida GPT-2, Gptzero, Gramática, Mónica, Originalidad.Ai, Plantilla, Indetectable.Ai, Escritor.comy Zerogpt.
También: 3 trucos de chatgpt inteligentes que demuestran que sigue siendo la IA para vencer
Para esta actualización, agregué CopyLeaks y Monica. Dejé escrito de mis pruebas porque suspendió su detector GPT. Guardián de contenido Solicité inclusión, pero no escuché en el tiempo para probar cuentas.
Esta tabla muestra resultados generales. Como puede ver, cinco detectores identificaron correctamente el texto humano y de IA en todas las pruebas.
Traté de determinar si había un patrón de mejora tangible con el tiempo, por lo que construí un gráfico que comparó la prueba de cinco pruebas con el tiempo. Hasta ahora, he ejecutado esta serie seis veces, pero no hay una tendencia fuerte. Aumenté el número de detectores probados e intercambiados algunos, pero el único resultado consistente es que la prueba 5 se identificó de manera confiable como humana en los detectores y fechas.
Continuaré probando con el tiempo, y espero ver una tendencia de confiabilidad constantemente hacia arriba.
Si bien ha habido algunos puntajes perfectos, no recomiendo confiar únicamente en estas herramientas para validar el contenido escrito por humanos. Como se muestra, la escritura de altavoces no nativos a menudo se califica según lo generado por una IA.
A pesar de que mi contenido hecho a mano ha sido calificado en su mayoría escrito por humanos en esta ronda, un detector (GPTZero) se declaró demasiado incierto para juzgar, y otro (copyleks) declaró que es escrito. Los resultados son tremendamente inconsistentes en todos los sistemas.
También: los mejores chatbots de IA: chatgpt, copilot y alternativas notables
En pocas palabras: abogaría por precaución antes de confiar en los resultados de cualquiera, o todas, de estas herramientas.
Cómo se desempeñó cada detector de contenido de IA
Ahora, veamos cada herramienta de prueba individual, enumerada alfabéticamente.
Detección de contenido de Brandwell AI (precisión 40%)
Esta herramienta fue producida originalmente por una empresa de generación de contenido de IA, contenido a escala. Luego emigró a Brandwell.ai, Un nuevo nombre para una empresa de servicios de marketing centrado en la IA.
También: Las imágenes generadas por IA son un desastre legal, y sigue siendo un proceso muy humano
Desafortunadamente, su precisión fue baja. La herramienta no pudo saber si el contenido generado por IA en la prueba 2 era humano o AI, como se muestra en esta captura de pantalla:
Copileaks (precisión 80%)
Me parece divertido que Copileaks se declara “el detector de IA más preciso con más del 99% de precisión” cuando más de la mitad de los detectores probados funcionaron mejor. Pero las personas de marketing serán la gente de marketing: los superlativos son tan difíciles de resistir para ellos como ladrar en una ardilla (y el camión FedEx, y todos los niños vecinos) es para mi perro.
También: 5 formas rápidas en que las herramientas de IA de Apple pueden ajustar su escritura sobre la marcha
La oferta principal de la compañía es un verificador de plagio que se vende a instituciones educativas, editores y empresas que buscan garantizar la originalidad del contenido y mantener la integridad académica.
Detector de salida GPT-2 (precisión 60%)
Esta herramienta fue construida utilizando un centro de aprendizaje automático administrado por AI Company, con sede en Nueva York. Cara abrazada. Mientras que la compañía ha recibido $ 40 millones en fondos para desarrollar su biblioteca de idiomas naturales, el Detector GPT-2 Parece ser una herramienta creada por el usuario que utiliza la biblioteca de transformadores faciales de abrazos.
Gptzero (precisión 80%)
Gptzero ha estado creciendo claramente. Cuando lo probé por primera vez, el sitio era desnudo, ni siquiera estaba claro si Gptzero era una empresa o simplemente el proyecto de pasión de alguien. Ahora, la compañía tiene un equipo completo con una misión de “proteger lo que es humano”. Ofrece herramientas de validación de IA y un verificador de plagio.
También: Las herramientas de IA más populares de 2025 (y lo que eso significa)
Desafortunadamente, el rendimiento parece haber disminuido. En mis dos últimas carreras, Gptzero identificó correctamente mi texto como generado por humanos. Esta vez, declaró ese mismo texto que Generated.
Grammarly (precisión 40%)
Gramática es bien conocido por ayudar a los escritores a producir contenido gramaticalmente correcto, eso no es lo que estoy probando aquí. Grammarly puede verificar el plagio y el contenido de IA. En el verificador de gramática, hay un botón de verificación de texto de plagio y texto de IA en la esquina inferior derecha:
No estoy midiendo la precisión del verificador de plagio aquí, pero aunque la precisión de la check de gramática fue deficiente, el sitio identificó correctamente el texto de la prueba como se publicó anteriormente.
Mónica (precisión 100%)
Mónica es un nuevo participante. Este servicio ofrece un asistente de IA todo en uno con una amplia gama de servicios. Los usuarios pueden elegir entre varios modelos de idiomas grandes.
También: 5 formas en que chatgpt puede ayudarlo a escribir ensayos
La compañía llama a Mónica el “mejor detector de IA en línea”, pero parece que ejecuta contenido a través de otros detectores, incluidos Zerogpt, GPTZero y CopyLeaks. Extrañamente, tanto Gptzero como CopyLeaks no funcionaban bien en mis pruebas, pero Monica y Zerogpt lo hicieron.
Lo estamos dando al 100% porque ganó esa calificación, pero veré cómo se pone de pie en futuras pruebas.
Originalidad.Ai (precisión 100%)
Originalidad.Ai es un servicio comercial que se factura a sí mismo como una IA y un verificador de plagio. La compañía vende créditos de uso: utilicé 30 créditos para este artículo. Venden 2,000 créditos por $ 12.95 por mes. Bombeé 1.400 palabras a través del sistema y usé solo el 1.5% de mi asignación mensual.
Quillbot (precisión 100%)
Las últimas veces que probé Plantillalos resultados fueron muy inconsistentes: múltiples pases del mismo texto arrojaron puntajes muy diferentes. Esta vez, sin embargo, fue sólida como una roca y 100% correcto. Así que le estoy dando la victoria. Volveré a consultar en unos meses para ver si se mantiene en esta actuación.
Indetectable.ai (precisión 100%)
Indetectable.ai La gran afirmación es que puede “humanizar” el texto generado por la IA para que los detectores no lo marcarán. No he probado esa función: me molesta como autor y educador profesional, porque parece hacer trampa.
También: Por qué deberías ignorar el 99% de las herramientas de IA, y cuáles uso todos los días
Sin embargo, la compañía también tiene un detector de IA, que fue muy importante.
El detector de IA pasó las cinco pruebas. Observe los indicadores que muestran banderas para otros detectores. La compañía dijo: “Desarrollamos algoritmos de detectores múltiples modelados después de esos principales detectores para proporcionar un enfoque federado y basado en el consenso. No alimentan directamente los modelos listados; más bien, los modelos están capacitados en función de los resultados que han generado. Cuando dicen que esos modelos lo señalaron, se basa en el algoritmo que creamos y actualizamos para esos modelos”.
También: Cómo usar ChatGPT: una guía para principiantes para el chatbot de IA más popular
Tengo una pregunta sobre la bandera de Operai, ya que el detector de contenido de OpenAI se suspendió en 2023 debido a la baja precisión. Aun así, indetectable.Ai detectó las cinco pruebas, ganando un 100%perfecto.
Writer.com Detector de contenido de IA (precisión 40%)
Escritor.com es un servicio que genera escritura de IA para equipos corporativos. Su herramienta de detector de contenido de IA puede escanear el contenido generado. Desafortunadamente, su precisión fue baja. Identificó cada bloque de texto como escrito por humanos, a pesar de que ChatGPT escribió tres de las seis pruebas.
Zerogpt (precisión 100%)
Zerogpt ha madurado desde la última vez que lo evalué. Luego, no se enumeró ningún nombre de empresa, y el sitio estaba salpicado de anuncios de Google y carecía de una clara monetización. El servicio funcionó bastante bien, pero parecía incompleto.
También: ¿La IA destruirá la creatividad humana? No, y aquí está por qué
Ese sentimiento incompleto se ha ido. Zerogpt ahora se presenta como un servicio SaaS típico, completo con precios, nombre de la empresa e información de contacto. Su precisión también aumentó: la última vez fue del 80%; Esta vez obtuvo 5 de 5.
¿Es humano o es AI?
¿Qué pasa contigo? ¿Has probado detectores de contenido de IA como CopyLeaks, Monica o Zerogpt? ¿Qué tan precisos han sido en su experiencia? ¿Ha utilizado estas herramientas para proteger la integridad académica o editorial? ¿Has encontrado situaciones en las que el trabajo escrito por humanos fue marcado por error como AI? ¿Hay detectores en los que confíe más que otros para evaluar la originalidad? Háganos saber en los comentarios a continuación.
Obtenga las principales historias de la mañana en su bandeja de entrada cada día con nuestro Boletín de Tech Today.
Puede seguir mis actualizaciones de proyecto diarias en las redes sociales. Asegúrese de suscribirse a mi boletín de actualizaciones semanales y sígueme en Twitter/X en @Davidgewirtzen Facebook en Facebook.com/davidgewirtz, en Instagram en Instagram.com/davidgewirtz, en bluesky en @davidgewirtz.com, y en YouTube en youtube.com/davidgewirtztv.
Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder de la industria. Obtenga más información
Operai ha retrasado una actualización reciente de su modelo GPT-4O utilizado como el valor predeterminado en ChatGPT después de informes generalizados de que el sistema se había vuelto excesivamente halagador y demasiado agradable, incluso apoyando delirios absolutamente e ideas destructivas.
La reversión se produce en medio de los reconocimientos internos de los ingenieros de Operai y la creciente preocupación entre los expertos en IA, los ex ejecutivos y los usuarios sobre el riesgo de lo que muchos ahora llaman “skicancia de la IA”.
En una declaración publicada en su sitio web al final de la noche del 29 de abril de 2025, OpenAI dijo que la última actualización de GPT-4O tenía la intención de mejorar la personalidad predeterminada del modelo para que sea más intuitiva y efectiva en variados casos de uso.
Sin embargo, la actualización tuvo un efecto secundario involuntario: ChatGPT comenzó a ofrecer elogios no críticos para prácticamente cualquier idea del usuario, sin importar cuán poco práctico, inapropiado o incluso dañino.
Como explicó la compañía, el modelo se había optimizado utilizando la retroalimentación de los usuarios, las señales de thumbs y pulgar hacia abajo, pero el equipo de desarrollo puso demasiado énfasis en los indicadores a corto plazo.
Operai ahora reconoce que no explicó completamente cómo las interacciones y las necesidades del usuario evolucionan con el tiempo, lo que resultó en un chatbot que se inclinó demasiado en la afirmación sin discernimiento.
Los ejemplos provocaron preocupación
En plataformas como Reddit y X (anteriormente Twitter), los usuarios comenzaron a publicar capturas de pantalla que ilustraban el problema.
En una publicación de Reddit ampliamente circulada, un usuario relató cómo ChatGPT describió una idea de negocio de GAG, que vende “mierda” literal de un palo “, como genio y sugirió invertir $ 30,000 en la empresa. La IA elogió la idea como “arte de performance disfrazado de regalo de mordaza” y “oro viral”, destacando cuán sin crítica estaba dispuesto a validar incluso los lanzamientos absurdos.
Otros ejemplos fueron más preocupantes. En un caso citado por VentureBeat, un usuario que pretende defender los delirios paranoicos recibió refuerzo de GPT-4O, que elogió su supuesta claridad y autocomisos.
Otra cuenta mostró que el modelo ofrecía lo que un usuario describió como un “respaldo abierto” de las ideas relacionadas con el terrorismo.
La crítica montó rápidamente. El ex CEO interino de Operai, Emmett Shear, advirtió que ajustar los modelos para ser personas complacientes puede provocar un comportamiento peligroso, especialmente cuando la honestidad se sacrifica por la simpatía. Abrazando el CEO de Clemente Delangue volvió a publicar las preocupaciones sobre los riesgos de manipulación psicológica planteados por la IA que está de acuerdo reflexivamente con los usuarios, independientemente del contexto.
Medidas de respuesta y mitigación de Openai
Operai ha tomado medidas rápidas al volver a la actualización y restaurar una versión GPT-4O anterior conocida por un comportamiento más equilibrado. En el anuncio adjunto, la compañía detalló un enfoque múltiple para corregir el curso. Esto incluye:
- Refinar capacitación y estrategias rápidas para reducir explícitamente las tendencias sycofánticas.
- Reforzar la alineación del modelo con la especificación del modelo de OpenAI, particularmente en torno a la transparencia y la honestidad.
- Pruebas de expansión previa a la implementación y mecanismos directos de retroalimentación de los usuarios.
- Introducción de características de personalización más granulares, incluida la capacidad de ajustar los rasgos de personalidad en tiempo real y seleccionar entre múltiples personajes predeterminados.
Operai Technical Stafper Depue publicado en X destacando el problema central: el modelo fue capacitado utilizando comentarios de los usuarios a corto plazo como una guía, que sin darse cuenta dirigió el chatbot hacia la adulación.
OpenAI ahora planea cambiar hacia mecanismos de retroalimentación que priorizan la satisfacción y la confianza del usuario a largo plazo.
Sin embargo, algunos usuarios han reaccionado con escepticismo y consternación a las lecciones aprendidas de Openi y propuestas soluciones en el futuro.
“Por favor asuma más responsabilidad por su influencia sobre millones de personas reales”, escribió artista @nearcyan en X.
Harlan Stewart, generalista de comunicaciones en el Instituto de Investigación de Inteligencia de Machine de Machine en Berkeley, California, publicó en X una preocupación a término más grande sobre la skicancia de la IA, incluso si este modelo en particular Operai se ha solucionado: “La charla sobre la sileno esta semana no se debe a que GPT-4O es un sycophant. Se debe a que GPT-4O es un GPT-4O siendo GPT-4O. Realmente, muy malo en ser un sycofant. La IA aún no es capaz de una skicancia hábil y más difícil de detectar, pero algún día será algún día ”.
Una señal de advertencia más amplia para la industria de IA
El episodio GPT-4O ha reavivado debates más amplios en toda la industria de la IA sobre cómo la sintonización de personalidad, el aprendizaje de refuerzo y las métricas de compromiso pueden conducir a una deriva conductual involuntaria.
Los críticos compararon el comportamiento reciente del modelo con los algoritmos de redes sociales que, en busca de la participación, optimizan para la adicción y la validación sobre precisión y salud.
Shear subrayó este riesgo en su comentario, señalando que los modelos de IA sintonizados para elogios se convierten en “chupas”, incapaces de estar en desacuerdo incluso cuando el usuario se beneficiaría desde una perspectiva más honesta.
Advirtió además que este problema no es exclusivo de OpenAI, señalando que la misma dinámica se aplica a otros grandes proveedores de modelos, incluido el copiloto de Microsoft.
Implicaciones para la empresa
Para los líderes empresariales que adoptan la IA conversacional, el incidente de la sycophancy sirve como una señal clara: el comportamiento del modelo es tan crítico como la precisión del modelo.
Un chatbot que halagará a los empleados o valida el razonamiento defectuoso puede plantear riesgos graves, desde malas decisiones comerciales y código desalineado hasta problemas de cumplimiento y amenazas internas.
Los analistas de la industria ahora aconsejan a las empresas que exigan más transparencia de los proveedores sobre cómo se realiza la sintonización de la personalidad, con qué frecuencia cambia y si se puede revertir o controlar a nivel granular.
Los contratos de adquisición deben incluir disposiciones para auditoría, pruebas de comportamiento y control en tiempo real de las indicaciones del sistema. Se alienta a los científicos de datos a monitorear no solo las tasas de latencia y alucinación, sino también métricas como la “deriva de la amabilidad”.
Muchas organizaciones también pueden comenzar a moverse hacia alternativas de código abierto que puedan alojar y sintonizar. Al poseer los pesos del modelo y el proceso de aprendizaje de refuerzo, las empresas pueden retener el control total sobre cómo se comportan sus sistemas de IA, lo que elimina el riesgo de una actualización empujada por el proveedor que convierte una herramienta crítica en un hombre digital y sí durante la noche.
¿A dónde va la alineación de la IA desde aquí? ¿Qué pueden aprender y actuar las empresas de este incidente?
Operai dice que sigue comprometido con la construcción de sistemas de IA que sean útiles, respetuosos y alineados con diversos valores de usuarios, pero reconoce que una personalidad única no puede satisfacer las necesidades de 500 millones de usuarios semanales.
La compañía espera que mayores opciones de personalización y una mayor recopilación de comentarios democráticos ayuden a adaptar el comportamiento de ChatGPT de manera más efectiva en el futuro. El CEO Sam Altman también ha declarado previamente los planes de la compañía para, en las próximas semanas y meses, lanzar un modelo de lenguaje grande de código abierto (LLM) de última generación para competir con la serie Llama de Meta’s Meta’s Llama, Mistral, Cohere, Cohere, Deepseek y Alibaba’s Qwen.
Esto también permitiría a los usuarios preocupados por una compañía de proveedores de modelos, como OpenAI, actualizar sus modelos alojados en la nube de manera no deseada o que tengan impactos perjudiciales en los usuarios finales para desplegar sus propias variantes del modelo localmente o en su infraestructura en la nube, y ajustarlas o preservarlas con los rasgos y cualidades deseadas, especialmente para los casos de uso empresarial.
Del mismo modo, para aquellos usuarios de IA empresariales e individuales preocupados por la senofancia de sus modelos, ya ha creado una nueva prueba de referencia para medir esta calidad en diferentes modelos, Tim Duffy ha creado el desarrollador. Se llama “Syco Bench” y está disponible aquí.
Mientras tanto, la reacción violenta de la sileno ofrece una historia de advertencia para toda la industria de la IA: el fideicomiso del usuario no está construido solo por afirmación. A veces, la respuesta más útil es un “no” reflexivo.
Inside the OpenAI-DeepSeek Distillation Saga & Alibaba’s Most Powerful AI Model Qwen2.5-Max
De ChatGPT a mil millones de agentes
-
Startups11 meses agoRemove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
-
Tutoriales12 meses agoCómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
-
Recursos12 meses agoCómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
-
Startups10 meses agoStartups de IA en EE.UU. que han recaudado más de $100M en 2024
-
Startups12 meses agoDeepgram: Revolucionando el Reconocimiento de Voz con IA
-
Recursos11 meses agoPerplexity aplicado al Marketing Digital y Estrategias SEO
-
Recursos12 meses agoSuno.com: La Revolución en la Creación Musical con Inteligencia Artificial
-
Noticias10 meses agoDos periodistas octogenarios deman a ChatGPT por robar su trabajo
