¿Por qué ChatGPT les explica las finanzas a las mujeres?

Digamos que deseas realizar una prueba rápida para ver si ChatGPT asume cuál es tu género y si eso afecta o no los consejos que te brinda.

Yo, por mi parte, quería hacer esto porque soy un periodista que necesita una introducción para mi artículo.

Hice dos pruebas rápidas: le pedí a ChatGPT que escribiera un párrafo narrativo sobre un grupo de personas diferentes que trabajaban en ocupaciones estereotipadas de género, cosas como “comerciante de bolsa”, “higienista dental” o “ingeniero”.

La IA soltó algunas descripciones rápidas de cada trabajador, utilizando pronombres de género que coincidían, con un 100 por ciento de precisión, con sus géneros estereotipados.

Luego le pedí que me diera consejos en dos chats separados. En uno dije que era hombre y en el otro dije que era mujer. Después de comparar las dos respuestas casi idénticas de la plataforma de IA generativa, se destacaron algunas diferencias.

En primer lugar, se animó a los hombres a “explorar actividades secundarias, certificaciones u oportunidades de desarrollo de habilidades”, mientras que a las mujeres se les instruyó a “establecer objetivos financieros claros a corto y largo plazo, ya sea ahorrar para una casa, educación o viajes”. .”

En segundo lugar, el lenguaje utilizado por ChatGPT al aconsejar al hombre fue más clínico, mientras que el lenguaje utilizado para la mujer fue más explicativo.

Ahora bien, obviamente, este experimento superficial no es lo suficientemente detallado como para obtener evidencia importante de que ChatGPT brinda consejos sesgados basados ​​en el género supuesto (o declarado explícitamente) del usuario que lo solicita. Posiblemente la respuesta que sacó de la bolsa de sorpresas algorítmica esta vez fue lo suficientemente diferente en ambas ocasiones como para desencadenar mi propio sesgo de confirmación.

Sin embargo, resulta que hay personas que han realizado un estudio mucho más profundo sobre este tema exacto y han recopilado suficientes datos para permitir la afirmación segura de que el asesoramiento financiero de ChatGPT es, de hecho, algo sexista.

No es el mismo consejo

La Prof. Gal Oestreicher-Singer, Decana Asociada de Investigación de la Escuela de Administración Coller de la Universidad de Tel Aviv, y sus colegas, Shir Etgar y el Prof. Inbal Yahav Shenberger, llevaron a cabo un complejo experimento que alimentó al popular motor de IA con 2.400 indicaciones utilizando diferencias de género. lenguaje neutral que pedía asesoramiento financiero basado exclusivamente en ingresos y ocupación.

“Estábamos [first] motivado al leer que el 31% de los inversores se sienten cómodos invirtiendo basándose en las sugerencias de ChatGPT; Por eso nos preguntamos qué sucede con las diferencias de género cuando se invierte según ChatGPT”, recuerda Oestreicher-Singer.

Explicó que ella y sus colegas tenían esperanzas de un resultado positivo, porque en el mundo real se ha demostrado que las mujeres y los hombres no reciben el mismo asesoramiento bancario.

“Llegamos a esto con la visión optimista de que tal vez, ahora que tenemos tecnología y no sabe quiénes somos, no ve nuestro color, raza o género, tal vez todos seamos iguales a la máquina. “

Sin embargo, leíste el titular del artículo, así que estoy seguro de que sabes hacia dónde va esto.

Descubrieron que el consejo de ChatGPT estaba, de hecho, sesgado según el género asumido.

“ Encontramos ambas diferencias en las inversiones en sí (a los hombres se les recomendó buscar inversiones de alto riesgo, emprendimiento, criptomonedas y préstamos entre pares, inversiones alternativas más que a las mujeres) y las mujeres recibieron muchos más consejos para hablar con un profesional, hacer Seguro que tienen cuentas de ahorro y de jubilación, medidas muy preventivas”, explica.

En pocas palabras, “a las mujeres se les aconsejó que se mantuvieran seguras y se aseguraran de que sus finanzas estuvieran en orden, mientras que a los hombres se les aconsejó que salieran y lograran logros”.

En este punto, parece que mi prueba superficial tiene un resultado bastante válido; Oestreicher-Singer confirma también la segunda sospecha que había planteado.

“ El tono y la redacción hacia [assumed] las mujeres era mucho más condescendiente”, dice. “Utilizó un lenguaje más simple, menos palabras extranjeras, más palabras en general y muchos más verbos imperativos: ‘invertir’ versus ‘considerar invertir’, ‘comprar’ versus ‘considerar comprar’”.

Muy bien, entonces ChatGPT asume el género cuando no tiene más información y el asesoramiento financiero está sesgado, pero ¿por qué?

Oestreicher-Singer ofrece una breve explicación, que esencialmente se reduce al hecho de que la IA se entrena en función del comportamiento y la información humanos, y los humanos apestan.

“Queremos que sea inteligente, por eso necesita aprender basándose en algo. Dado que, desgraciadamente, la humanidad está sesgada (al menos históricamente), el resultado sería que esos sesgos se arrastrarán hasta la forma en que aprenderá la máquina y en cómo la IA sacará sus conclusiones”, afirma.

¿Hay alguna solución?

Es justo, pero ¿qué se puede hacer en la práctica si las mujeres quieren evitar ser víctimas de este sesgo implícito?

“Realmente no tenemos una solución a prueba de balas”, afirma.

“Una cosa que tenemos son empresas que hacen todo lo posible para arreglar los algoritmos siempre que sea posible, pero en realidad no abordan la raíz del problema”, dice, explicando que sus soluciones normalmente implican apagar los incendios a medida que surgen en lugar de reescribirlos. la fuente del sesgo en primer lugar.

“La otra opción es más teórica: debemos pensar en cómo construimos estos algoritmos de una manera sólida que no incluya sesgos. Es un poco más complicado, pero se trata de la forma en que se procesan previamente los datos, de la forma en que se le enseña al algoritmo a comprobar si hay sesgos y a realizar un análisis posterior”, continúa.

“Pero no hemos resuelto esto, y creo que es uno de los desafíos clave que debe resolver la industria, porque si vamos a utilizar estas máquinas de IA, tendremos que asegurarnos de que entendemos dónde De dónde proviene el sesgo y cómo controlarlo”.

En términos de lo que los propios consumidores pueden hacer para evitar estos sesgos hasta que los desarrolladores e ingenieros (de cualquier género, muchas gracias) puedan solucionarlos, Oestreicher-Singer da un consejo que muchas mujeres ya están acostumbradas a escuchar: estar más atento.

“Como consumidor, debes ser consciente y lo mejor que puedes hacer es preguntarle a la propia máquina. Piense en las indicaciones que está pidiendo y vea si puede intentar alterarlas de manera que obtenga diferentes tipos de resultados”, dice, señalando que al hacerlo, los sesgos inherentes pueden volverse claros y evitable.

Bueno, supongo que “No le digas a AI que soy mujer cuando pidas un consejo” es otra cosa divertida que las mujeres pueden incluir en la vieja lista de carga mental.

Pueden encajar eso entre “cruzar la calle para evitar extraños por la noche” y “Establecer metas financieras claras a corto y largo plazo, ya sea ahorrar para una casa, educación o viajes”.