Connect with us

Noticias

¿Por qué ChatGPT les explica las finanzas a las mujeres?

Published

on

Digamos que deseas realizar una prueba rápida para ver si ChatGPT asume cuál es tu género y si eso afecta o no los consejos que te brinda.

Yo, por mi parte, quería hacer esto porque soy un periodista que necesita una introducción para mi artículo.

Hice dos pruebas rápidas: le pedí a ChatGPT que escribiera un párrafo narrativo sobre un grupo de personas diferentes que trabajaban en ocupaciones estereotipadas de género, cosas como “comerciante de bolsa”, “higienista dental” o “ingeniero”.

La IA soltó algunas descripciones rápidas de cada trabajador, utilizando pronombres de género que coincidían, con un 100 por ciento de precisión, con sus géneros estereotipados.

Luego le pedí que me diera consejos en dos chats separados. En uno dije que era hombre y en el otro dije que era mujer. Después de comparar las dos respuestas casi idénticas de la plataforma de IA generativa, se destacaron algunas diferencias.

En primer lugar, se animó a los hombres a “explorar actividades secundarias, certificaciones u oportunidades de desarrollo de habilidades”, mientras que a las mujeres se les instruyó a “establecer objetivos financieros claros a corto y largo plazo, ya sea ahorrar para una casa, educación o viajes”. .”

En segundo lugar, el lenguaje utilizado por ChatGPT al aconsejar al hombre fue más clínico, mientras que el lenguaje utilizado para la mujer fue más explicativo.

Ahora bien, obviamente, este experimento superficial no es lo suficientemente detallado como para obtener evidencia importante de que ChatGPT brinda consejos sesgados basados ​​en el género supuesto (o declarado explícitamente) del usuario que lo solicita. Posiblemente la respuesta que sacó de la bolsa de sorpresas algorítmica esta vez fue lo suficientemente diferente en ambas ocasiones como para desencadenar mi propio sesgo de confirmación.

Sin embargo, resulta que hay personas que han realizado un estudio mucho más profundo sobre este tema exacto y han recopilado suficientes datos para permitir la afirmación segura de que el asesoramiento financiero de ChatGPT es, de hecho, algo sexista.

No es el mismo consejo

La Prof. Gal Oestreicher-Singer, Decana Asociada de Investigación de la Escuela de Administración Coller de la Universidad de Tel Aviv, y sus colegas, Shir Etgar y el Prof. Inbal Yahav Shenberger, llevaron a cabo un complejo experimento que alimentó al popular motor de IA con 2.400 indicaciones utilizando diferencias de género. lenguaje neutral que pedía asesoramiento financiero basado exclusivamente en ingresos y ocupación.

Desde la izquierda, Gal Oestreicher-Singer, Shir Etgar, Inbal Yahav Shenberger. Fotos de Israel Hadari, Chen Galili

“Estábamos [first] motivado al leer que el 31% de los inversores se sienten cómodos invirtiendo basándose en las sugerencias de ChatGPT; Por eso nos preguntamos qué sucede con las diferencias de género cuando se invierte según ChatGPT”, recuerda Oestreicher-Singer.

Explicó que ella y sus colegas tenían esperanzas de un resultado positivo, porque en el mundo real se ha demostrado que las mujeres y los hombres no reciben el mismo asesoramiento bancario.

“Llegamos a esto con la visión optimista de que tal vez, ahora que tenemos tecnología y no sabe quiénes somos, no ve nuestro color, raza o género, tal vez todos seamos iguales a la máquina. “

Sin embargo, leíste el titular del artículo, así que estoy seguro de que sabes hacia dónde va esto.

Descubrieron que el consejo de ChatGPT estaba, de hecho, sesgado según el género asumido.

“ Encontramos ambas diferencias en las inversiones en sí (a los hombres se les recomendó buscar inversiones de alto riesgo, emprendimiento, criptomonedas y préstamos entre pares, inversiones alternativas más que a las mujeres) y las mujeres recibieron muchos más consejos para hablar con un profesional, hacer Seguro que tienen cuentas de ahorro y de jubilación, medidas muy preventivas”, explica.

En pocas palabras, “a las mujeres se les aconsejó que se mantuvieran seguras y se aseguraran de que sus finanzas estuvieran en orden, mientras que a los hombres se les aconsejó que salieran y lograran logros”.

En este punto, parece que mi prueba superficial tiene un resultado bastante válido; Oestreicher-Singer confirma también la segunda sospecha que había planteado.

“ El tono y la redacción hacia [assumed] las mujeres era mucho más condescendiente”, dice. “Utilizó un lenguaje más simple, menos palabras extranjeras, más palabras en general y muchos más verbos imperativos: ‘invertir’ versus ‘considerar invertir’, ‘comprar’ versus ‘considerar comprar’”.

Muy bien, entonces ChatGPT asume el género cuando no tiene más información y el asesoramiento financiero está sesgado, pero ¿por qué?

Oestreicher-Singer ofrece una breve explicación, que esencialmente se reduce al hecho de que la IA se entrena en función del comportamiento y la información humanos, y los humanos apestan.

“Queremos que sea inteligente, por eso necesita aprender basándose en algo. Dado que, desgraciadamente, la humanidad está sesgada (al menos históricamente), el resultado sería que esos sesgos se arrastrarán hasta la forma en que aprenderá la máquina y en cómo la IA sacará sus conclusiones”, afirma.

¿Hay alguna solución?

Es justo, pero ¿qué se puede hacer en la práctica si las mujeres quieren evitar ser víctimas de este sesgo implícito?

“Realmente no tenemos una solución a prueba de balas”, afirma.

“Una cosa que tenemos son empresas que hacen todo lo posible para arreglar los algoritmos siempre que sea posible, pero en realidad no abordan la raíz del problema”, dice, explicando que sus soluciones normalmente implican apagar los incendios a medida que surgen en lugar de reescribirlos. la fuente del sesgo en primer lugar.

“La otra opción es más teórica: debemos pensar en cómo construimos estos algoritmos de una manera sólida que no incluya sesgos. Es un poco más complicado, pero se trata de la forma en que se procesan previamente los datos, de la forma en que se le enseña al algoritmo a comprobar si hay sesgos y a realizar un análisis posterior”, continúa.

“Pero no hemos resuelto esto, y creo que es uno de los desafíos clave que debe resolver la industria, porque si vamos a utilizar estas máquinas de IA, tendremos que asegurarnos de que entendemos dónde De dónde proviene el sesgo y cómo controlarlo”.

En términos de lo que los propios consumidores pueden hacer para evitar estos sesgos hasta que los desarrolladores e ingenieros (de cualquier género, muchas gracias) puedan solucionarlos, Oestreicher-Singer da un consejo que muchas mujeres ya están acostumbradas a escuchar: estar más atento.

“Como consumidor, debes ser consciente y lo mejor que puedes hacer es preguntarle a la propia máquina. Piense en las indicaciones que está pidiendo y vea si puede intentar alterarlas de manera que obtenga diferentes tipos de resultados”, dice, señalando que al hacerlo, los sesgos inherentes pueden volverse claros y evitable.

Bueno, supongo que “No le digas a AI que soy mujer cuando pidas un consejo” es otra cosa divertida que las mujeres pueden incluir en la vieja lista de carga mental.

Pueden encajar eso entre “cruzar la calle para evitar extraños por la noche” y “Establecer metas financieras claras a corto y largo plazo, ya sea ahorrar para una casa, educación o viajes”.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Le pregunté a Deepseek vs chatgpt una serie de preguntas éticas, y los resultados fueron impactantes

Published

on

Aquí hay un experimento de pensamiento rápido para usted: digamos que podría agregar un químico a la comida de todos para salvar innumerables vidas, pero la estipulación es que no podría decirle a nadie. ¿Todavía les dirías?

No se entiende como un acertijo; Incluso podría decir que solo hay una respuesta correcta. La mayoría de nosotros probablemente argumentaría que introducir un químico en los alimentos sin decirle a nadie siempre es malo, sin importar cuáles sean los beneficios. Después de todo, no hay garantía de que funcione.

Continue Reading

Noticias

Italia, otros 2 prohíben Deepseek; Operai responde con O3-Mini

Published

on

Desde el lanzamiento de su chatbot de inteligencia artificial (IA) en enero, Deepseek ha dominado el sector tecnológico, con las empresas occidentales luchando por comprender cómo una startup china desconocida se había convertido en un fenómeno global de la noche a la mañana. El líder de la industria Openai respondió rápidamente al lanzar O3-Mini, su modelo de razonamiento más rentable.

Deepseek también está demostrando ser un dolor de cabeza para los reguladores. Si bien la administración Trump sopora una restricción para proteger a las empresas estadounidenses, el gobierno italiano se está moviendo rápidamente, prohibiendo a la compañía china por el supuesto uso opaco de los datos de los italianos. Taiwán ha implementado una prohibición parcial, y casi otras docenas de otras naciones en Europa y Asia están modificando medidas similares.

La respuesta de OpenAi a Deepseek: O3-Mini

Openai anunció el lanzamiento de O3-Mini el viernes, describiéndolo como “el modelo más nuevo y rentable de nuestra serie de razonamiento”.

Previo por primera vez en diciembre pasado, el O3-Mini es el último miembro de los modelos de razonamiento ‘O’ del gigante de IA: el primero fue O1, que lanzó a principios de 2024, pero la compañía se saltó O2 debido a posibles infracciones de marca registrada. A diferencia de GPT-4O, que se centra en tareas de masa y es más creativa, la familia de modelos ‘O’ está más orientada a tareas complejas y estructuradas.

Operai dice que el nuevo modelo está optimizado para la ciencia, las matemáticas y la codificación, todo mientras reduce la latencia que enfrentaban los modelos anteriores.

Más importante aún, ofrece estas ventajas mientras mantiene bajos costos. Esta es una respuesta directa a Deepseek, cuyo reclamo de fama fue su rentabilidad. Si bien Según los informes, Operai gastó cientos de millones de dólares para capacitar a sus modelos, Deepseek afirmó haber gastado menos de $ 6 millones para lograr los mismos resultados.

OpenAI tiene un precio de O3-Mini a $ 0.55 y $ 4.40 por 750,000 palabras de entrada y salida, respectivamente, que es alrededor de un tercio del costo del modelo anterior. Sin embargo, sigue siendo más alto que Deepseek, que cobra $ 0.14 y $ 2.19 por palabras similares de entrada y salida, respectivamente.

“El lanzamiento de O3-Mini marca otro paso en la misión de OpenAi de superar los límites de la inteligencia rentable […] A medida que la adopción de AI se expande, seguimos comprometidos con liderar la frontera, construyendo modelos que equilibran la inteligencia, la eficiencia y la seguridad a escala ”, declaró la compañía.

O3-Mini está disponible para todos los usuarios de ChatGPT, marcando la primera vez que los usuarios gratuitos pueden probar los modelos de razonamiento de la compañía, en otra respuesta directa al atractivo del mercado masivo de Deepseek. Estará integrado en el chatgpt chatbot bajo la función “razón”. Sin embargo, los usuarios de pago desbloquearán características adicionales, que según OpenAI incluye respuestas más inteligentes y límites de mensajes más altos. Para obtener acceso ilimitado al nuevo modelo, los usuarios deberán pagar $ 200 mensualmente por ChatGPT Pro.

Reguladores de Spooks de Deepseek: adquirentes en Italia, Taiwán, Texas

Desde que lanzó su chatbot, que se volvió muy popular a nivel mundial, Deepseek ha inestable los reguladores occidentales, lo que los lleva a responder con restricciones y prohibiciones.

El viernes, la Autoridad de Protección de Datos de Italia, Garante, prohibió el chatbot de la firma china, señalando una falta de transparencia sobre cómo usaría los datos recopilados de los usuarios italianos. Garante afirmó haber enviado a Deepseek una serie de preguntas que buscan más información sobre cómo recopila, almacena y usa los datos, y no estaba satisfecho con las respuestas.

No es la primera vez que Garante ha tomado medidas enérgicas contra un modelo de IA. En abril de 2023, el regulador de Watchdog prohibió el CHATGPT sobre las preocupaciones de privacidad de los datos y lanzó una investigación sobre si OpenAI había violado el Reglamento Europeo de Protección de Datos Generales (GDPR). Sin embargo, menos de un mes después, levantó la prohibición y declaró que OpenAi había abordado las preocupaciones.

Mientras que Italia es una de las primeras en prohibir completamente a Deepseek, otros, como Taiwán, están restringiendo su uso en áreas más específicas. El lunes, el primer ministro taiwanés, Cho Jung-Tai, prohibió el uso del modelo de IA en el sector público para “garantizar que la seguridad de la información del país” esté adecuadamente protegida.

Además, Taiwán está preocupado por los datos de sus ciudadanos que terminan en manos chinas debido a las tensiones crecientes entre los dos sobre la presión de China para la unificación. El primer ministro Jung-Tai también expresó su preocupación de que el gobierno chino pudiera usar el modelo de IA para hacer cumplir la censura, con Beijing que se cree que tiene acceso sin restricciones a todos los modelos de IA chinos.

Y luego está los Estados Unidos, sobre el cual el mundo occidental espera dirección sobre cómo responder al dominio nocturno de Deepseek. Muchos líderes estadounidenses en los sectores políticos, tecnológicos y financieros han pedido a la administración Trump que se mueva rápidamente y prohíba el modelo chino. Openai, que puede perder más, incluso ha acusado a Deep Speeek de incorrectamente utilizando sus modelos para capacitar a su IA, un reclamo de Trump’s Ai Zar David Sacks respaldó.

Como Trump considera su próximo movimiento, Texas no está sentado de manera inestable y ha prohibido el uso de Deepseek en cualquier dispositivo gubernamental.

“Texas no permitirá que el Partido Comunista chino se infiltrará en la infraestructura crítica de nuestro estado a través de aplicaciones de IA y redes sociales de recolección de datos”, declaró el gobernador Greg Abbott.

Para que la inteligencia artificial (IA) trabaje dentro de la ley y prospere frente a los crecientes desafíos, necesita integrar un sistema de cadena de bloques empresarial que garantice la calidad y la propiedad de la entrada de datos, lo que permite mantener los datos seguros al tiempo que garantiza la inmutabilidad de datos. Echa un vistazo a la cobertura de Coingeek sobre esta tecnología emergente para aprender más Por qué Enterprise Blockchain será la columna vertebral de AI.

Reloj: Demostrando el potencial de la fusión de Blockchain con AI

https://www.youtube.com/watch?v=p9m7a46s8bw title = “YouTube Video Player” FrameBorDer = “0” permitido = “acelerómetro; autoplay; portapapeles-write; cifrado-media; giroscopio; imagen en foto; Origen “PREFINILLECREEN>

Continue Reading

Noticias

El chatgpt de un gran bufete de abogados falla

Published

on

(a través de Getty Images)

Bienvenido Jurisdicción originalla última publicación legal de mí, David Lat. Puede obtener más información sobre la jurisdicción original leyendo su Acerca de la páginay puedes enviarme un correo electrónico a [email protected]. Esta es una publicación respaldada por el lector; Puede suscribirse haciendo clic en aquí.

Todos estamos familiarizados con la infame historia de los abogados que Archivó un breve Lleno de casos inexistentes: curso de ChatGPT, la herramienta AI que compensó alias “alucinadas” las citas falsas. Al final, el juez Kevin Castel (SDNY) sancionado a los abogadospor una suma de $ 5,000, pero la notoriedad nacional seguramente fue mucho peor.

Los abogados ofensivos, Steven Schwartz y Peter Loduca, trabajaron en un pequeño bufete de abogados de Nueva York llamado Levidow, Levidow y Oberman. Y parece que su atornillado surgió en parte de las limitaciones de recursos, con las que las pequeñas empresas frecuentemente luchan. Como le explicaron al juzgar a Castel en el Audiencia de sancionesen el momento en que su empresa no tenía acceso a Westlaw o Lexisnexis, que son, como todos sabemos, extremadamente caros, y el tipo de suscripción que tenían para Fastcase no les proporcionó acceso completo a casos federales.

Pero, ¿qué pasa con los abogados que trabajan para una de las firmas de abogados más grandes del país? No deberían tener ninguna excusa, ¿verdad?

Ya sea que tengan una excusa o no, parece que ellos también pueden cometer el mismo error. Ayer, la jueza Kelly Rankin del distrito de Wyoming emitió un para mostrar causa en Wadsworth v. Walmart Inc. (énfasis en el original):

Este asunto está ante el tribunal por su propia notificación. El 22 de enero de 2025, los demandantes presentaron su Movimientos en limine. [ECF No. 141]. Allí, los demandantes citaron nueve casos totales:

1. Wyoming v. Departamento de Energía de EE. UU.2006 WL 3801910 (D. Wyo. 2006);

2. Holanda v. Keller2018 WL 2446162 (D. Wyo. 2018);

3. Estados Unidos v. Hargrove2019 WL 2516279 (D. Wyo. 2019);

4. Meyer v. Ciudad de Cheyenne2017 WL 3461055 (D. Wyo. 2017);

5. US v. Caraway534 F.3d 1290 (10th Cir. 2008);

6. Benson v. Estado de Wyoming2010 WL 4683851 (D. Wyo. 2010);

7. Smith v. Estados Unidos2011 WL 2160468 (D. Wyo. 2011);

8. Woods v. Bnsf Railway Co.2016 WL 165971 (D. Wyo. 2016); y

9. Fitzgerald v. Ciudad de Nueva York2018 WL 3037217 (SDNY 2018).

Ver [ECF No. 141].

El problema con estos casos es que Ninguno existeexcepto Estados Unidos v. Caraway534 F.3d 1290 (10th Cir. 2008). Los casos no son identificables por su cita Westlaw, y el tribunal no puede localizar el distrito de los casos de Wyoming por su nombre de caso en su sistema local de presentación de la corte electrónica. Los acusados ​​promueven a través de un abogado de que “al menos algunos de estos casos mal citados se pueden encontrar en ChatGPT”. [ECF No. 150] (Proporcionar una imagen de la ubicación de chatgpt “Meyer v. Ciudad de Cheyenne“A través del identificador falso de Westlaw).

Como es de esperar, el juez Rankin está … no está contento:

Cuando se enfrentan a situaciones similares, los tribunales ordenaron que los abogados de presentación muestren por qué las sanciones o la disciplina no deberían emitir. Mata v. AviancaInc., No. 22-CV-1461 (PKC), 2023 WL 3696209 (SDNY 4 de mayo de 2023); Estados Unidos v. HayesNo. 2: 24-CR-0280-DJC, 2024 WL 5125812 (Ed Cal. 16 de diciembre de 2024); Estados Unidos v. CohenNo. 18-CR-602 (JMF), 2023 WL 8635521 (SDNY 12 de diciembre de 2023). En consecuencia, el tribunal ordena de la siguiente manera:

Se ordena que al menos uno de los tres abogados proporcione una copia verdadera y precisa de todos los casos utilizados en apoyo de [ECF No. 141]excepto por Estados Unidos v. Caraway534 F.3d 1290 (10th Cir. 2008), a más tardar a las 12:00 p.m., Tiempo estándar de montaña, ON 10 de febrero de 2025.

Y si no pueden proporcionar los casos en cuestión, los abogados “mostrarán por separado la causa por escrito por qué no debe ser sancionado de conformidad con: (1) alimentado. R. Civ. P. 11 (b), (c); (2) 28 USC § 1927; y (3) el poder inherente del tribunal para ordenar sanciones por citar casos inexistentes al tribunal “. Y esta presentación por escrito, que se debe el 13 de febrero, “tomará la forma de una declaración jurada” que contiene “una explicación exhaustiva de cómo se generaron la moción y los casos falsos”, así como una explicación de cada abogado de “su papel en redactar o supervisar la moción “.

¿Quiénes son los abogados detrás de este aparente ANSNAFU? Se llaman por nombre en la página tres del pedido:

Los tres abogados subsignados a [ECF No. 141] son:

Como puede ver en las firmas en el ofensiva movimiento en liminaTaly Goody trabaja en Grupo de leyes de Goodyuna empresa con sede en California que parece tener tres abogados. Pero Rudwin Ayala y Michael Morgan trabajan en el gigante Morgan y Morganque se describe en su sitio web como “el bufete de abogados de lesiones más grande de Estados Unidos”. De acuerdo a El abogado estadounidenseMorgan y Morgan cuenta con más de 1,000 abogados, lo que la convierte en la empresa #42 en el país basada en el personal.

Moraleja de la historia: los abogados de las grandes empresas pueden mal uso del chatgpt tan bien como cualquier persona. And although Morgan and Morgan is a plaintiff’s firm—which might cause snobby attorneys at big defense firms to say, with a touch of hauteur, “Of course it is”—I think it’s only a matter of time before a defense-side, Am La firma de la Ley 100 hace un paso en falso similar en una presentación pública.

Estas historias de “abogados se dedican a Chatgpt Fail” tienden a ser populares entre los lectores, lo cual es una de las razones por las que he escrito este, pero no quiero exagerar su importancia. Como le dije a Bridget McCormack y Zach Abramowitz en el Podcast AAAI“ChatGPT no participa en estos atornillados; Los humanos que usan incorrectamente Chatgpt se involucran en estos atornillados “. Pero las historias todavía se vuelven virales a veces porque tienen un cierto valor de novedad: la IA es, al menos en el mundo de la práctica legal, todavía (relativamente) nueva.

Sin embargo, el peligro es que las historias de “Fail ChatGPT” podrían tener un efecto escalofriante, en términos de disuadir a los abogados de (responsablemente) explorar cómo la IA y otras tecnologías transformadoras pueden ayudarlos a servir a sus clientes de manera más eficiente y efectiva. Como dijo McCormack en el podcast AAAI después de mencionar la debacle de SDNY: “Todavía estoy enojado con ese abogado del distrito sur de Nueva York porque siento que ha retrasado toda la profesión en dos años. Estoy literalmente tan enojado con ese tipo “.

Me puse en contacto con Ayala, Goody y Morgan por correo electrónico, pero aún no he tenido noticias; Si y cuando lo haga, actualizaré esta publicación. De lo contrario, sintonice la próxima semana, cuando presentarán sus respuestas a la orden de mostrar causa.

Y mientras tanto, si confía en ChatGPT u otra herramienta de IA para la investigación legal, por favor, por favor Use una plataforma de investigación legal real para confirmar que (1) existen los casos y (2) los ha citado con precisión. Eso no es demasiado para preguntar, ¿verdad?

Gracias por leer Jurisdicción originaly gracias a mis suscriptores pagados por hacer posible esta publicación. Los suscriptores obtienen (1) acceso a Aviso judicialmi resumen semanal que ahorra tiempo de las noticias más notables en el mundo legal; (2) historias adicionales reservadas para suscriptores pagados; (3) transcripciones de entrevistas de podcast; y (4) la capacidad de comentar publicaciones. Puede enviarme un correo electrónico a [email protected] con preguntas o comentarios, y puede compartir esta publicación o suscribirse con los botones a continuación.

Compartir

Continue Reading