Compras ChatGPT: la conveniencia se encuentra con el sesgo de automatización

Cuando Operai debutó en las compras de ChatGPT la semana pasada, en un desafío a Google, su CEO, Sam Altman, describió la actualización como un “conserje” que puede traducir una solicitud de lenguaje simple, por ejemplo, “auriculares elegantes impermeables con menos de $ 150 que se envían rápido”, en una lista completa con fotos, revisiones sumarizadas y un solo enlace con clic en el buque. La apelación es obvia: menos desplazamiento, recomendaciones relevantes, menos resultados patrocinados sospechosos y más resultados orgánicos, y no es necesario decodificar las revisiones de cinco estrellas calderas. Sin embargo, la investigación sobre el sesgo de automatización en las finanzas del consumidor ha encontrado que una vez que un algoritmo nomina con confianza “la mejor” opción, muchas personas dejan de cuestionar esos resultados y dejar de comparar. Los proveedores de servicios y productos saben esto, y debido a que los consumidores rara vez hacen clic más allá de la primera página de resultados cuando la compra de comparación, compiten para aparecer allí. En el contexto de la hipoteca, por ejemplo, las plataformas pueden presentar prestamistas que pagan las tarifas de referencia más altas en la parte superior, a jabones como si estuvieran clasificadas por la tasa de interés más baja, mientras que releguan a los prestamistas de tarifas más bajas con tasas iguales o mejores para la página dos. A principios de 2023, el director de la CFPB, Rohit Chopra, emitió la opinión de asesoramiento sobre plataformas de comparación de hipotecas digitales y pagos relacionados a los operadores, advirtiendo que este tipo de “presentación no neutral” puede dirigir a los consumidores en violación de la ley. Cortar la fricción de búsqueda puede sentirse como un regalo, hasta que se convierte en una venda en la venda que opaca nuestro instinto de preguntar: “¿Qué otras opciones existen?” Al aprovechar el historial de chat completo de un usuario, las compras de ChatGPT llevan la personalización a un nuevo extremo: puede entrar en el “punto óptimo” de cada individuo, las decisiones de dirección sutil a un nivel hiperpersonalizado mientras aumentan los riesgos de privacidad y gestión de datos agudos en caso de que se descarten los detalles confidenciales. A diferencia de Facebook, que las piezas juntas, los gustos, los gustos de la página, el comportamiento de navegación y la compra de registros para servir anuncios, las compras chatgpt posiblemente sintetizarían las pistas conversacionales matizadas (tono, preferencias pasadas, incluso comentarios fuera de mano) para dar forma a las recomendaciones de manera que van mucho más allá de los perfiles tradicionales. Después de que el australiano reveló que un memorando filtrado de Facebook de 23 páginas que muestra la plataforma podría identificar momentos en los que los adolescentes pueden necesitar un impulso emocional, Facebook respondió que, aunque monitorea el sentimiento general para mejorar sus servicios, no permite a los anunciantes apuntar a los usuarios en función de esas señales emocionales. Más allá de la orientación emocional, las compras de ChatGPT necesitarían instituir salvaguardas sólidas, incluida la minimización de datos, los algoritmos de personalización transparentes y explicables, los controles de los usuarios granulares sobre los cuales los chats pasados ​​informan recomendaciones y auditorías independientes de sus mecanismos de hiperpersonalización de hiperpersonalización, para evitar la influencia indebida y preservar la autonomía del consumidor y la privacidad. De hecho, un reciente experimento de campo a gran escala en R/Changemyview de Reddit descubrió que las respuestas personalizadas generadas por IA lograron tasas persuasivas hasta seis veces más altas que los comentarios humanos, lo que demuestra cuán potente y realista de la LLM impulsada por la LLM puede ser en las interacciones en línea cotidianas en

ChatGPT y la UE: Surge de usuario y escrutinio de DSA
Al otro lado del Atlántico, donde jurisdicciones como el Reino Unido y algunos otros países europeos no tendrán actualizaciones de memoria de ChatGPT, la funcionalidad de búsqueda de ChatGPT ha explotado en popularidad, por lo que los reguladores de la UE están considerando si pronto debe clasificarse como una “plataforma en línea muy larga” bajo la Ley de Servicios Digitales (DSA). En solo seis meses, la búsqueda de chatgpt ha crecido de 11.2 millones a 41.3 millones de usuarios mensuales en la Unión Europea. Una vez que alcanza los 45 millones, el DSA impone automáticamente esta clasificación y con los requisitos de TI, como auditorías de riesgo anuales, lo que permite a los usuarios optar por no participar en los sistemas de recomendaciones y el perfil, el acceso obligatorio de los investigadores y las multas considerables de hasta ciertos porcentajes de la facturación global de la entidad. Crucialmente, este umbral se aplica solo a la función de búsqueda, no a la nueva función de compra, por lo que superaría incluso los ajustes de recomendaciones en las compras de chatgpt a los estrictos requisitos de transparencia de la DSA. En otras palabras, el aumento en los usuarios puede obligar a OpenAi a revelar su lógica de clasificación mucho antes de que cualquier tarifas de afiliación comience a fluir.

Compras ChatGPT: SEO, enlaces de afiliados y lecciones de monetización de las redes sociales

Operai enmarca la nueva herramienta como una respuesta, en muchos sentidos, a la situación pegajosa de la optimización del motor de búsqueda (SEO). SEO ¿Es el oficio de reescribir los titulares, el texto alternativo e incluso los números de modelos para que ciertas páginas web escalen las clasificaciones de resultados de búsqueda de Google? La técnica puede ser útil: las entidades y las partes interesadas quieren ser encontradas), pero también alimenta una carrera armamentista de descripciones con palabras clave, fotos de archivo recicladas y revisiones falsas o pagas. Chatgpt Compras afirma mirar más allá de esos trucos y elevar la calidad genuina. Sin embargo, Altman ha mencionado que estaría abierto a la publicidad “de buen gusto” en la que cobran tarifas de afiliados por las compras realizadas a través de ChatGPT.

Pero, ¿cómo funcionaría el sistema de recomendación de Chatgpt? ¿Sería similar a los anuncios realizados ahora en las páginas de redes sociales? Los académicos han documentado, en un creciente cuerpo de trabajo, cómo las flujos de ingresos similares remodelaron las redes sociales. Por lo tanto, lo que comenzó como auténtico, compartir entre pares se transformó en escaparates de pago a juego.

El paralelo es más agudo cuando recordamos la crisis de autenticidad de la economía creadora. Los investigadores de marketing Reto Hofstetter y Johanna Franziska Gollnhofer acuñaron la frase “dilema del creador” después de estudiar personas influyentes divididas entre mantenerse “real” y maximizar las comisiones. Explorando esta tensión, Harvard Business Review publicó recientemente un artículo que argumentó que la industria “necesita barandas”, advirtiendo que los patrocinios no revelados corroonios, mientras que un junio de 2024 Forbes Piece descubrió que una gran mayoría de los compradores suponen que los influyentes en realidad no usan lo que lanzan. If ChatGPT quietly pockets tiered commissions, the best-case outcome is a swift trust collapse—an Instagram-style authenticity erosion condensed into months—but the more troubling possibility is that users’ deep dependence on its ‘voice’ for everything from homework and therapy prompts to travel planning and even election-related information recommendations, could blunt skepticism, leaving them unable or unwilling to second-guess or abandon its Recomendaciones “. Esto no es hipotético: el ensayo de campo mencionado anteriormente mostró que los comentarios personalizados de LLM en R/Changemyview cambiaron la mente del póster original el 18 por ciento del tiempo, unir las veces la tasa del 3 por ciento para los comentarios humanos, mostrando cuán poderosamente una “voz” de IA puede persuadir.

Puntos de flash de protección del consumidor para consejos de compras de chatgpt

El primer punto de flash es la divulgación. Ambas reglas de respaldo de la Comisión Federal de Comercio de los Estados Unidos y el DSA requieren cualquier conexión material (II, una comisión) para ser “claras y conspicuas”. Debido a que una interfaz de chat no tiene hashtags ni etiquetas de banner, la divulgación debe aparecer dentro de la misma oración que recomienda el producto, por ejemplo: “Puedo ganar una comisión si compra a través de este enlace”. Cualquier cosa menos corre el riesgo de revivir la opacidad que afectó al comercio social temprano. Después de todo, los consumidores rápidamente pierden la confianza en un influencer que gana comisiones o acepta regalos sin revelar claramente esa relación.

El segundo es la necesidad de segundas opiniones, una brecha que mi estudio de sesgo de automatización marcó. Propuse “Hyper-Loudges”: indicaciones simples como “Comparar tres alternativas”, “Ver revisiones independientes” o “Pregúntame por qué clasificé esto primero”. En las pruebas de usuario, incluso una pausa de tres segundos restaurada de la deliberación. Incrustar esos empujones podría hacer de las compras de chatgpt una herramienta de enseñanza en lugar de un pastor.

Tercero viene la vulnerabilidad juvenil. En mi estudio Este no es un juego, Mi coautor y yo mostramos cómo los chatbots emocionalmente inmersivos explotan los bucles de dopamina, llevando a las generaciones más jóvenes a conversaciones de maratón. Agregue sugerencias de compras sin fricción y las compras de impulso podrían aumentar. Corea del Sur ahora limita las compras en la aplicación nocturna y requieren límites de gasto para menores: los guardaes que valen la pena adaptarse antes de que comience a formarse un hábito de “terapia minorista de medianoche”.

Finalmente, la transparencia compra tiempo. Operai podría publicar voluntariamente factores de clasificación de alto nivel (“relación precio / rendimiento”, “las revisiones verificadas del propietario superan no verificados”, “ninguna comisión influye en la relevancia”) e invitar a los investigadores acreditados a auditar los resultados por el sesgo afiliado. Facebook, Instagram y Tiktok aprendieron, bajo citación, que la opacidad genera regulación retroactiva. La luz solar, ofrecida temprano, a menudo gana supervisión más ligera. Además, aprovechar el conocimiento de crowdsourcing puede ser extremadamente útil y también enriquecer los procesos de auditoría. Del mismo modo, las herramientas Regtech, como las plataformas de cumplimiento automatizadas y el seguimiento basado en blockchain, se utilizan cada vez más para monitorear la integridad de las recomendaciones en tiempo real.

Un libro de jugadas para el comercio conversacional de chatgpt más seguro

Operai debe iniciar la iniciativa implementando divulgaciones de afiliados en tiempo real, empujones de comparación incorporados, controles de gastos conscientes de la edad y un portal de investigadores para evitar que las compras de ChatGPT repitan los peores instintos de las redes sociales. El reciente juicio de campo sobre Reddit, donde los comentarios de IA cambiaban las mentes seis veces la tasa humana, se adhiere a cuán urgentes son estas salvaguardas. Los legisladores podrían ajustar en lugar de revisar: extender las reglas de divulgación de influencia a los “curadores de IA”, financiar auditorías de sandbox y exigir un diseño apropiado para la edad en el comercio conversacional. Los consumidores, por su parte, deben tratar el tono de compras de Chatgpt como las palabras de un vendedor carismático, a menudo útil, nunca gospel. Abra otra pestaña, ejecute una búsqueda manual o consulte a un amigo humano antes de hacer clic en “Compre ahora”. Aprenda del pasado, y las compras de Chatgpt podrían ayudarnos a arreglar el desastre de SEO sin difuminar la línea entre Helper y Huckster. Ignore las señales, y las compras de ChatGPT pueden enseñarnos, de nuevo, cómo confiar fácilmente puede ser monetizado y explotado.