Connect with us

Noticias

Las alucinaciones de IA están empeorando, incluso cuando los nuevos sistemas se vuelven más potentes

Published

on

El mes pasado, un bot de IA que maneja el soporte técnico para Cursor, una herramienta prometedora para programadores de computadoras, alertó a varios clientes sobre un cambio en la política de la empresa. Dijo que ya no se les permitía usar el cursor en más de una sola computadora.

En publicaciones enojadas a tableros de mensajes de Internet, los clientes se quejaron. Algunos cancelaron sus cuentas del cursor. Y algunos se pusieron aún más enojados cuando se dieron cuenta de lo que había sucedido: el bot Ai había anunciado un cambio de política que no existía.

“No tenemos esa política. Por supuesto, es libre de usar el cursor en múltiples máquinas”, escribió el director ejecutivo y cofundador de la compañía, Michael Truell, en una publicación de Reddit. “Desafortunadamente, esta es una respuesta incorrecta de un bot de soporte de IA de primera línea”.

Más de dos años después de la llegada de ChatGPT, compañías tecnológicas, trabajadores de oficina y consumidores cotidianos están utilizando bots de IA para una gran variedad de tareas. Pero todavía no hay forma de garantizar que estos sistemas produzcan información precisa.

Las tecnologías más nuevas y poderosas, los llamados sistemas de razonamiento de compañías como Openi, Google y la nueva empresa china Deepseek, están generando más errores, no menos. A medida que sus habilidades matemáticas han mejorado notablemente, su manejo de los hechos se ha vuelto más agitado. No está del todo claro por qué.

Los bots de IA de hoy se basan en sistemas matemáticos complejos que aprenden sus habilidades al analizar enormes cantidades de datos digitales. No hacen, y no pueden, decidir qué es verdad y qué es falso. A veces, simplemente crean cosas, un fenómeno que algunos investigadores de IA llaman alucinaciones. En una prueba, las tasas de alucinación de los sistemas de IA más nuevos fueron tan altas como del 79 por ciento.

Estos sistemas utilizan probabilidades matemáticas para adivinar la mejor respuesta, no un conjunto estricto de reglas definidas por ingenieros humanos. Entonces cometen un cierto número de errores. “A pesar de nuestros mejores esfuerzos, siempre alucinarán”, dijo AMR Awadallah, director ejecutivo de Vectara, una nueva empresa que construye herramientas de inteligencia artificial para las empresas y un ex ejecutivo de Google. “Eso nunca desaparecerá”.

Durante varios años, este fenómeno ha generado preocupaciones sobre la confiabilidad de estos sistemas. Aunque son útiles en algunas situaciones, como escribir documentos de términos, resumir documentos de la oficina y generar código de computadora, sus errores pueden causar problemas.

Los bots de IA vinculados a motores de búsqueda como Google y Bing a veces generan resultados de búsqueda que son ridículamente incorrectos. Si les pides un buen maratón en la costa oeste, podrían sugerir una carrera en Filadelfia. Si le dicen el número de hogares en Illinois, podrían citar una fuente que no incluye esa información.

Esas alucinaciones pueden no ser un gran problema para muchas personas, pero es un problema grave para cualquier persona que use la tecnología con documentos judiciales, información médica o datos comerciales confidenciales.

“Pasas mucho tiempo tratando de averiguar qué respuestas son objetivas y cuáles no”, dijo Pratik Verma, cofundador y director ejecutivo de Okahu, una compañía que ayuda a las empresas a navegar por el problema de alucinación. “No lidiar con estos errores correctamente básicamente elimina el valor de los sistemas AI, que se supone que automatizarán las tareas para usted”.

Cursor y el Sr. Truerell no respondieron a las solicitudes de comentarios.

Durante más de dos años, compañías como OpenAI y Google mejoraron constantemente sus sistemas de IA y redujeron la frecuencia de estos errores. Pero con el uso de nuevos sistemas de razonamiento, los errores están aumentando. Los últimos sistemas Operai alucinan a un ritmo más alto que el sistema anterior de la compañía, según las propias pruebas de la compañía.

La compañía descubrió que O3, su sistema más poderoso, alucinó el 33 por ciento del tiempo al ejecutar su prueba de referencia Personqa, que implica responder preguntas sobre figuras públicas. Eso es más del doble de la tasa de alucinación del sistema de razonamiento anterior de OpenAI, llamado O1. El nuevo O4-Mini alucinado a una tasa aún más alta: 48 por ciento.

Cuando se ejecuta otra prueba llamada SimpleQA, que hace preguntas más generales, las tasas de alucinación para O3 y O4-Mini fueron 51 por ciento y 79 por ciento. El sistema anterior, O1, alucinó el 44 por ciento del tiempo.

En un artículo que detalla las pruebas, OpenAi dijo que se necesitaba más investigación para comprender la causa de estos resultados. Debido a que los sistemas de IA aprenden de más datos de los que las personas pueden envolver la cabeza, los tecnólogos luchan por determinar por qué se comportan de las formas en que lo hacen.

“Las alucinaciones no son inherentemente más frecuentes en los modelos de razonamiento, aunque estamos trabajando activamente para reducir las tasas más altas de alucinación que vimos en O3 y O4-Mini”, dijo una portavoz de la compañía, Gaby Raila. “Continuaremos nuestra investigación sobre alucinaciones en todos los modelos para mejorar la precisión y la confiabilidad”.

Hannaneh Hajishirzi, profesor de la Universidad de Washington e investigador del Instituto Allen para la Inteligencia Artificial, es parte de un equipo que recientemente ideó una forma de rastrear el comportamiento de un sistema a los datos individuales en los que estaba capacitado. Pero debido a que los sistemas aprenden de tantos datos, y porque pueden generar casi cualquier cosa, esta nueva herramienta no puede explicar todo. “Todavía no sabemos cómo funcionan exactamente estos modelos”, dijo.

Las pruebas de compañías e investigadores independientes indican que las tasas de alucinación también están aumentando para modelos de razonamiento de compañías como Google y Deepseek.

Desde finales de 2023, la compañía del Sr. Awadallah, Vectara, ha rastreado con qué frecuencia los chatbots se desvanecen de la verdad. La compañía le pide a estos sistemas que realicen una tarea directa que se verifique fácilmente: resumir artículos de noticias específicos. Incluso entonces, los chatbots inventan la información persistentemente.

La investigación original de Vacerara estimó que en esta situación los chatbots constituyeron información al menos el 3 por ciento del tiempo y, a veces, hasta el 27 por ciento.

En el año y medio desde entonces, compañías como OpenAI y Google empujaron esos números hacia el rango de 1 o 2 por ciento. Otros, como la nueva empresa de San Francisco antrópica, rondaban el 4 por ciento. Pero las tasas de alucinación en esta prueba han aumentado con los sistemas de razonamiento. El sistema de razonamiento de Deepseek, R1, alucinó el 14.3 por ciento del tiempo. El O3 de Openai subió a 6.8.

(El New York Times ha demandado a Openai y a su socio, Microsoft, acusándolos de infracción de derechos de autor con respecto al contenido de noticias relacionados con los sistemas de IA. Openai y Microsoft han negado esas afirmaciones).

Durante años, compañías como OpenAI se basaron en un concepto simple: cuantos más datos de Internet alimentan en sus sistemas de inteligencia artificial, mejor funcionarían esos sistemas. Pero usaron casi todo el texto en inglés en Internet, lo que significaba que necesitaban una nueva forma de mejorar sus chatbots.

Por lo tanto, estas compañías se inclinan más en una técnica que los científicos llaman aprendizaje de refuerzo. Con este proceso, un sistema puede aprender el comportamiento a través de prueba y error. Funciona bien en ciertas áreas, como las matemáticas y la programación de computadoras. Pero se está quedando corto en otras áreas.

“La forma en que se capacitan estos sistemas, comenzarán a centrarse en una tarea y comenzarán a olvidarse de otros”, dijo Laura Pérez-Beltrachini, investigadora de la Universidad de Edimburgo que se encuentra entre un equipo que examina de cerca el problema de la alucinación.

Otro problema es que los modelos de razonamiento están diseñados para pasar tiempo “pensando” a través de problemas complejos antes de decidirse por una respuesta. A medida que intentan abordar un problema paso a paso, corren el riesgo de alucinar en cada paso. Los errores pueden agotarse a medida que pasan más tiempo pensando.

Los últimos bots revelan cada paso a los usuarios, lo que significa que los usuarios también pueden ver cada error. Los investigadores también han encontrado que en muchos casos, los pasos que muestran un bot no están relacionados con la respuesta que finalmente ofrece.

“Lo que el sistema dice que está pensando no es necesariamente lo que está pensando”, dijo Aryo Pradipta Gema, investigador de IA en la Universidad de Edimburgo y miembro de Anthrope.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Probé Claude 4 soneto vs chatgpt-4o con 7 indicaciones: los resultados fueron sorprendentes

Published

on

Los chatbots de IA avanzan rápidamente y los probando hasta sus límites es lo que hago para vivir. El soneto Claude 4 de Anthrope y el chatgpt-4o de OpenAI son dos de las herramientas más inteligentes disponibles en este momento. Pero, ¿cómo se comparan realmente en el uso diario?

Para averiguarlo, le di a ambos modelos el mismo conjunto de 7 indicaciones; Cubriendo todo, desde narración de cuentos y productividad hasta apoyo emocional y pensamiento crítico.

Continue Reading

Noticias

Una nueva IA prepara proteínas de diseñador con solo un mensaje de texto

Published

on

“Escríbeme un resumen conciso de Misión imposible Personajes y tramas hasta la fecha ”, recientemente le pregunté a ChatGPT antes de atrapar la última entrada de franquicia. Se entregó. No necesitaba entender su código o conocer su conjunto de datos de capacitación. Todo lo que tenía que hacer era preguntar.

ChatGPT y otros chatbots impulsados ​​por modelos de idiomas grandes, o LLM, son más populares que nunca. Los científicos están tomando nota. Las proteínas, los caballos de batalla moleculares de las células, mantienen nuestros cuerpos corriendo suavemente. También tienen un idioma propio. Los científicos asignan una letra abreviada a cada uno de los 20 aminoácidos que componen proteínas. Al igual que las palabras, las cadenas de estas letras se unen para formar proteínas de trabajo, su secuencia determina la forma y la función.

Inspirados en LLM, los científicos ahora están construyendo modelos de lenguaje de proteínas que diseñan proteínas desde cero. Algunos de estos algoritmos están disponibles públicamente, pero requieren habilidades técnicas. ¿Qué pasaría si su investigador promedio podría simplemente pedirle a una IA que diseñe una proteína con un solo mensaje?

El mes pasado, los investigadores dieron a Protein Design AI el tratamiento con chatgpt. De una descripción del tipo, estructura o funcionalidad de una proteína que está buscando, el algoritmo produce posibles candidatos. En un ejemplo, la IA, denominada pinal, hizo con éxito múltiples proteínas que podrían descomponer el alcohol cuando se analizó dentro de las células vivas. Puedes probarlo aquí.

Pinal es el último en un creciente conjunto de algoritmos que traducen el inglés cotidiano en nuevas proteínas. Estos diseñadores de proteínas entienden el lenguaje sencillo y la biología estructural, y actúan como guías para los científicos que exploran proteínas personalizadas, con poca experiencia técnica.

Es un “enfoque ambicioso y general”, el equipo internacional detrás de Pinal escribió en una preimpresión publicada en Biorxiv. La IA aprovecha el “poder descriptivo y la flexibilidad del lenguaje natural” para hacer que las proteínas de diseñador sean más accesibles para los biólogos.

Enfrentados contra los algoritmos de diseño de proteínas existentes, Pinal entendió mejor el objetivo principal de una proteína objetivo y aumentó las posibilidades de que funcionaría en las células vivas.

“Somos los primeros en diseñar una enzima funcional usando solo texto”, dijo Fajie Yuan, científica de IA de la Universidad de Westlake en China que dirigió el equipo. Naturaleza. “Es como la ciencia ficción”.

Más allá de la evolución

Las proteínas son los componentes básicos de la vida. Forman nuestros cuerpos, el metabolismo del combustible y son el objetivo de muchos medicamentos. Estas intrincadas moléculas comienzan a partir de una secuencia de “letras” de aminoácidos, que se unen entre sí y eventualmente se doblan en intrincadas estructuras 3D. Muchos elementos estructurales, un bucle aquí, un tejido o bolsillo allí, son esenciales para su función.

Los científicos han intentado durante mucho tiempo diseñar proteínas con nuevas habilidades, como enzimas que descomponen de manera eficiente los plásticos. Tradicionalmente, han personalizado las proteínas existentes para un cierto uso biológico, químico o médico. Estas estrategias “están limitadas por su dependencia de las plantillas de proteínas existentes y las limitaciones evolutivas naturales”, escribieron los autores. Los modelos de lenguaje de proteínas, en contraste, pueden soñar con un universo de nuevas proteínas sin ataduras de la evolución.

En lugar de absorber el texto, la imagen o los archivos de video, como LLMS, estos algoritmos aprenden el lenguaje de las proteínas entrenando en secuencias y estructuras de proteínas. ESM3 de EvolutionaryScale, por ejemplo, entrenó en más de 2.700 millones de secuencias de proteínas, estructuras y funciones. Los modelos similares ya se han utilizado para diseñar anticuerpos que luchan contra ataques virales y nuevas herramientas de edición de genes.

Pero estos algoritmos son difíciles de usar sin experiencia. Pinal, por el contrario, apunta al científico promedio-joe. Al igual que una cámara DSLR en Auto, el modelo “evita las especificaciones estructurales manuales”, escribió el equipo, lo que hace que sea más simple hacer su proteína deseable.

Háblame

Para usar Pinal, un usuario le pide a la IA que construya una proteína con una solicitud de varias palabras clave, frases o un párrafo completo. En la parte delantera, la IA analiza los requisitos específicos en el aviso. En el back -end, transforma estas instrucciones en una proteína funcional.

Es un poco como pedirle a ChatGTP que le escriba una reseña de restaurante o un ensayo. Pero, por supuesto, las proteínas son más difíciles de diseñar. Aunque también están formados por “letras”, su forma final determina cómo (o si) funcionan. Un enfoque, denominado entrenamiento de extremo a extremo, traduce directamente un aviso en secuencias de proteínas. Pero esto abre la IA a un vasto mundo de secuencias potenciales, lo que hace que sea más difícil marcar las secuencias precisas de las proteínas de trabajo. En comparación con las secuencias, la estructura de proteínas, la forma 3D final, es más fácil para el algoritmo generar y descifrar.

Luego está el dolor de cabeza de los datos de entrenamiento. Aquí, el equipo recurrió a las bases de datos de proteínas existentes y usó LLM para etiquetarlas. El resultado final fue una vasta biblioteca de 1.700 millones de pares de texto proteico, en el que las estructuras de proteínas coinciden con descripciones de texto de lo que hacen.

El algoritmo completado utiliza 16 mil millones de parámetros, estas son las conexiones internas de una IA, para traducir el inglés simple al idioma de la biología.

Pinal sigue dos pasos. Primero traduce las indicaciones en información estructural. Este paso divide una proteína en elementos estructurales, o “fichas”, que son más fáciles de procesar. En el segundo paso, un modelo en idioma proteico llamado Saprot considera la intención del usuario y la funcionalidad de proteínas para diseñar secuencias de proteínas con mayor probabilidad de doblar en una proteína de trabajo que satisfaga las necesidades del usuario.

En comparación con los algoritmos de diseño de proteínas de última generación que también usan el texto como entrada, incluida ESM3, el pinal superó la precisión y la novedad, es decir, generar proteínas no conocidas por la naturaleza. Usando algunas palabras clave para diseñar una proteína, “la mitad de las proteínas de pinal exhiben funciones predecibles, solo alrededor del 10 por ciento de las proteínas generadas por ESM3 lo hacen”.

En una prueba, el equipo le dio a la IA un breve aviso: “Por favor, diseñe una proteína que sea una alcohol deshidrogenasa”. Estas enzimas descomponen el alcohol. De más de 1.600 proteínas candidatas, el equipo eligió los ocho más prometedores y las probó en células vivas. Dos rompieron con éxito el alcohol a temperatura corporal, mientras que otros fueron más activos a un sudor de 158 grados Fahrenheit.

Las indicaciones más elaboradas que incluían la función de una proteína y los ejemplos de moléculas similares, arrojaron candidatos a antibióticos y proteínas para ayudar a las células a recuperarse de la infección.

Pinal no es el único IA de texto a proteína. El Startup 310 AI ha desarrollado una IA denominada MP4 para generar proteínas a partir del texto, con los resultados que la compañía dice que podría beneficiar la enfermedad cardíaca.

El enfoque no es perfecto. Al igual que los LLM, que a menudo “alucinan”, los modelos de lenguaje de proteínas también sueñan secuencias poco confiables o repetitivas que reducen las posibilidades de un resultado final de trabajo. La redacción precisa de las indicaciones también afecta la estructura de proteína final. Aún así, la IA es como la primera versión de Dall-E: juega con ella y luego valida la proteína resultante usando otros métodos.

Continue Reading

Noticias

¿Demasiado chatgpt? Estudia lazos de IA de IA a los grados inferiores y la motivación

Published

on

Sigue a Psypost en Google News

Un estudio publicado en la revista Tecnologías de educación e información Encuentra que los estudiantes que son más conscientes tienden a usar herramientas de IA generativas como ChatGPT con menos frecuencia, y que usar tales herramientas para tareas académicas se asocia con una mayor autoeficacia, un peor rendimiento académico y mayores sentimientos de impotencia. Los hallazgos destacan la dinámica psicológica detrás de la adopción de la IA y plantean preguntas sobre cómo puede dar forma al aprendizaje y la motivación de los estudiantes.

La IA generativa se refiere a sistemas informáticos que pueden crear contenido original en respuesta a las indicaciones del usuario. Los modelos de idiomas grandes, como ChatGPT, son un ejemplo común. Estas herramientas pueden producir ensayos, resúmenes, explicaciones e incluso simular la conversación, lo que los hace atractivos para los estudiantes que buscan ayuda rápida con tareas académicas. Pero su ascenso también ha provocado un debate entre los educadores, que están preocupados por el plagio, el aprendizaje reducido y el uso ético de la IA en las aulas.

“Ser testigo de la dependencia excesiva entre algunos de mis estudiantes en herramientas generativas de IA como ChatGPT me hizo preguntarme si estas herramientas tenían implicaciones para los resultados de aprendizaje a largo plazo de los estudiantes y su capacidad cognitiva”, dijo el autor de estudio Sundas Azeem, profesor asistente de gestión y comportamiento organizacional en la Universidad Szabist.

“Era particularmente evidente que para aquellas actividades y tareas en las que los estudiantes se basaban en herramientas generativas de IA, la participación y el debate en el aula fue considerablemente menor ya que las respuestas similares de estas herramientas aumentaron el acuerdo de los estudiantes sobre los temas de discusión. Con un compromiso reducido en la clase, estas observaciones provocaron mi preocupación si realmente se cumplían objetivos de aprendizaje.

“En el momento en que comenzamos este estudio, la mayoría de los estudios sobre el uso de la IA generativo por parte de los estudiantes estaban basados ​​en la opinión o teóricos, explorando la ética del uso generativo de la IA”, continuó Azeem. “Los estudios que exploran el rendimiento académico rara vez consideran las calificaciones académicas (CGPA) para los resultados académicos, y también ignoraron las diferencias individuales como los rasgos de personalidad.

“A pesar del uso generalizado, no todos los estudiantes se basaron en el uso generativo de la IA por igual. Los estudiantes que de otro modo eran más responsables, puntuales y participativos en la clase parecían confiar menos en las herramientas generativas de IA. Esto me llevó a investigar si hubo diferencias de personalidad en el uso de estas herramientas. Esta brecha, acoplada con inquietudes enriquecidas sobre la equidad en el grado de la justicia y la integridad académica inspirada para este estudio”.

Para explorar cómo los estudiantes realmente se involucran con la IA generativa y cómo sus rasgos de personalidad influyen en este comportamiento, los investigadores encuestaron a 326 estudiantes universitarios de tres universidades principales en Pakistán. Los estudiantes se inscribieron en programas relacionados con los negocios y abarcaron de segundo a octavo semestre. Es importante destacar que el estudio utilizó un diseño de encuesta de tres ondas y retrasado en el tiempo para recopilar datos con el tiempo y minimizar los sesgos comunes en las respuestas autoinformadas.

En el primer momento, los estudiantes informaron sus rasgos de personalidad y sus percepciones de equidad en el sistema de calificación de su universidad. Específicamente, los investigadores se centraron en tres rasgos de personalidad del modelo Big Five: conciencia, apertura a la experiencia y neuroticismo. Estos rasgos fueron seleccionados debido a su relevancia para el rendimiento académico y el uso de la tecnología. Por ejemplo, los estudiantes concienzñosos tienden a ser organizados, autodisciplinados y orientados a los logros. La apertura refleja la curiosidad intelectual y la creatividad, mientras que el neuroticismo se asocia con ansiedad e inestabilidad emocional.

En el segundo punto, los participantes informaron con qué frecuencia usaban herramientas de IA generativas, especialmente ChatGPT, para fines académicos. En la tercera y última ola, los estudiantes completaron medidas que evaluaron su autoeficacia académica (cuán capaces se sintieron de tener éxito académicamente), su experiencia de impotencia aprendida (la creencia de que los esfuerzos no conducirán al éxito) e informaron su promedio acumulativo de calificaciones.

Entre los tres rasgos de personalidad estudiados, solo la conciencia estaba significativamente vinculada al uso de la IA. Los estudiantes que obtuvieron puntajes más altos en la conciencia tenían menos probabilidades de usar IA generativa para el trabajo académico. Este hallazgo sugiere que las personas concienzudas pueden preferir confiar en sus propios esfuerzos y están menos inclinados a tomar atajos, alineándose con investigaciones previas que demuestran que este rasgo de personalidad está asociado con la honestidad académica y el aprendizaje autodirigido.

“Nuestro estudio encontró que los estudiantes que son más conscientes tienen menos probabilidades de confiar en la IA generativa para tareas académicas debido a una mayor autodisciplina y tal vez también estándares éticos más altos”, dijo Azeem a PSYPOST. “Pueden preferir explorar múltiples fuentes de información y otras actividades de aprendizaje más cognitivamente atractivas como investigaciones y discusiones”.

Contrariamente a las expectativas, la apertura a la experiencia y el neuroticismo no se relacionó significativamente con el uso de IA. Si bien investigaciones anteriores han vinculado la apertura con una mayor disposición a probar nuevas tecnologías, los investigadores sugieren que los estudiantes con alto contenido de apertura también pueden valorar la originalidad y el pensamiento independiente, lo que potencialmente reduce su dependencia del contenido generado por IA. Del mismo modo, los estudiantes con un alto nivel de neuroticismo pueden sentirse incómodos con la precisión o la ética de las herramientas de IA, lo que lleva a la ambivalencia sobre su uso.

Los investigadores también examinaron cómo las percepciones de la justicia en la clasificación podrían dar forma a estas relaciones. Pero solo una interacción, entre la apertura y la equidad de calificación, fue marginalmente significativa. Para los estudiantes con alto contenido de apertura, percibir el sistema de calificación como justo se asoció con un menor uso de IA. Los investigadores no encontraron interacciones significativas que involucraban la conciencia o neuroticismo.

“Un hallazgo sorprendente fue que la justicia en la calificación solo influyó marginalmente en el uso generativo de la IA, y solo para la apertura del rasgo de personalidad a la experiencia, mostrando que, independientemente de la justicia de calificación, la IA generativa está ganando una popularidad generalizada”, dijo Azeem. “Esto es revelador, dado que habíamos anticipado que los estudiantes confiarían más en las herramientas generativas de IA con el objetivo de obtener calificaciones más altas, cuando la calificación percibió que la calificación era injusta. Además, mientras que las personas con una apertura a la experiencia de la experiencia son generalmente adoptantes de tecnologías que nuestro estudio no informó tales hallazgos”.

En términos más generales, los investigadores encontraron que un mayor uso de la IA generativa en las tareas académicas se asoció con varios resultados negativos. Los estudiantes que se basaron más en IA informaron una mayor autoeficacia académica. En otras palabras, se sintieron menos capaces de tener éxito por su cuenta. También experimentaron mayores sentimientos de impotencia aprendida, un estado en el que las personas creen que el esfuerzo es inútil y los resultados están fuera de su control. Además, un mayor uso de IA se vinculó con un rendimiento académico ligeramente más bajo medido por GPA.

Estos patrones sugieren que, si bien la IA generativa puede ofrecer conveniencia a corto plazo, su uso excesivo podría socavar el sentido de agencia de los estudiantes y reducir su motivación para participar profundamente con sus cursos. Con el tiempo, esta confianza podría erosionar el pensamiento crítico y las habilidades de resolución de problemas que son esenciales para el éxito a largo plazo.

Un análisis posterior reveló que el uso de IA generativo también medió el vínculo entre la conciencia y los resultados académicos. Específicamente, los estudiantes que eran más conscientes tenían menos probabilidades de usar IA, y este menor uso se asoció con un mejor rendimiento académico, una mayor autoeficacia y menos impotencia.

“Una conclusión clave para los estudiantes, los maestros, así como el liderazgo académico es el impacto de la dependencia de los estudiantes en las herramientas generativas de IA en sus resultados psicológicos y de aprendizaje”, dijo Azeem a PSYPOST. “Por ejemplo, nuestros hallazgos de que el uso generativo de la IA se asocia con una autoeficacia académica reducida y una mayor impotencia aprendida lo considera, ya que los estudiantes pueden comenzar a creer que sus propios esfuerzos no importan. Esto puede llevar a una agencia reducida cuando los estudiantes pueden creer que el éxito académico depende de las herramientas externas en lugar de la competencia interna. Como el uso excesivo de la AI generativa es la autoefficacia, los estudiantes pueden creer que su capacidad completa o desafiante los problemas sin problemas de los estudiantes en lugar de la ayuda de los estudiantes. Aprendedores pasivos, dudando en intentar tareas sin apoyo.

“Cuando se sienten menos control o dudan durante mucho tiempo, puede conducir a los hábitos de aprendizaje distorsionados, ya que pueden creer que la IA generativa siempre proporcionará la respuesta. Esto también puede hacer que las tareas académicas sean aburridas en lugar de desafiar, retraso aún más la resiliencia y el crecimiento intelectual. Nuestros hallazgos implican que la IA generativa está aquí aquí, su integración responsable en la academia a través de la formación de políticas, así como los maestros y el crecimiento intelectual es clave, nuestros hallazgos son clave.

“Nuestros hallazgos no respaldaron la idea común de que las herramientas generativas de IA ayudan a funcionar mejor académicamente”, explicó Azeem. “Esto tiene sentido dados nuestros hallazgos de que el uso generativo de la IA aumenta la impotencia aprendida. El rendimiento académico (indicado por CGPA en nuestro estudio) se basa más en las habilidades cognitivas individuales y el conocimiento de la materia, que puede afectar negativamente con una reducción de la autoeficacia académica reducida en exceso”.

El estudio, como todas las investigaciones, incluye algunas limitaciones. La muestra se limitó a estudiantes de negocios de universidades paquistaníes, lo que puede limitar la generalización de los hallazgos a otras culturas o disciplinas académicas. Los investigadores se basaron en medidas autoinformadas, aunque tomaron medidas para reducir el sesgo al separar las encuestas y usar escalas establecidas.

“Los datos autoinformados pueden ser susceptibles al sesgo de deseabilidad social”, señaló Azeem. “Además, si bien nuestro estudio siguió un diseño de tiempo de tiempo que permite la separación temporal entre la recopilación de datos, las instrucciones causales entre el uso generativo de la IA y sus resultados pueden mapear mejor a través de un diseño longitudinal. Del mismo modo, para diseñar las intervenciones y planes de capacitación necesarios, puede ayudar a futuros estudios a investigar las condiciones bajo las cuales el uso generativo de la IA lidera a los medios de aprendizaje más positivos y menos negativos”.

“A largo plazo, su objetivo es realizar estudios longitudinales que investiguen el desarrollo de los estudiantes a largo plazo, como la creatividad, la autorregulación y la empleabilidad en los semestres múltiples. Esto puede ayudar a cerrar las diferencias emergentes en la literatura con respecto al positivo versus los efectos dañinos de la IA generativa para los estudiantes. También tengo la intención de explorar otros rasgos motivacionales para que la personalidad sea de la personalidad, que puede influenciar la IA Generación. y razonamiento ético para el uso efectivo de IA generativo entre los estudiantes a largo plazo ”.

Los hallazgos plantean preguntas más grandes sobre el futuro de la educación en una era de IA accesible y poderosa. Si las herramientas generativas pueden completar muchas tareas académicas con un esfuerzo mínimo, los estudiantes pueden perder los procesos de aprendizaje que generan confianza, resistencia y pensamiento crítico. Por otro lado, las herramientas de IA también podrían usarse para apoyar el aprendizaje, por ejemplo, ayudando a los estudiantes a hacer una lluvia de ideas, explorar nuevas perspectivas o refinar sus escritos.

“Si bien nuestro estudio nos alarma a los posibles efectos adversos de la IA generativa para los estudiantes, la literatura también está disponible que respalda sus resultados positivos”, dijo Azeem. “Por lo tanto, a medida que las herramientas de IA se integran cada vez más en la educación, es vital que los responsables políticos, los educadores y los desarrolladores de EDTech vayan más allá de las opiniones binarias de la IA generativa como inherentemente bueno o malo. Creo que guiar el uso responsable de la IA generativa mientras mitigan los riesgos tienen la clave del aprendizaje mejorado”.

“Para ser específicos, la capacitación de instructor para diseñar actividades de aprendizaje acuáticas de AI puede ayudar a fomentar el pensamiento crítico. Estos pueden enfatizar la reflexión de los estudiantes alentando sobre el contenido generado por IA para abordar algunas cartas del uso generativo de IA en el aula. De la misma manera, la promoción de los sistemas de clasificación justos y transparentes es probable que se convierta en un mal uso. Con el uso no regulado y no regulado entre los estudiantes generativos entre los estudiantes de AI, los que se aprenden a los estudiantes de AI, lo que puede ser acelerado, se debe convertir en aceleración. Puede afectar las capacidades que la educación está destinada a desarrollar: la independencia, el pensamiento crítico y la curiosidad.

El estudio, “La personalidad se correlaciona del uso académico de la inteligencia artificial generativa y sus resultados: ¿Importa la justicia?”, Fue escrita por Sundas Azeem y Muhammad Abbas.

Continue Reading

Trending