La IA nos está enseñando sobre NI: inteligencia natural. Nuestra toma de decisiones está sujeta a sesgos cognitivos … [+]
getty
El 30 de noviembre de 2022, OpenAI presentó ChatGPT, un modelo de IA conversacional que se integró rápidamente en la vida diaria y ayudó con tareas que van desde redactar correos electrónicos hasta generar contenido creativo. En febrero de 2024, el 23 % de los adultos estadounidenses había utilizado ChatGPT, y las tasas de adopción alcanzaban el 43 % entre las personas de entre 18 y 29 años. A nivel mundial, la base de usuarios de ChatGPT se expandió rápidamente, con más de 200 millones de usuarios semanales en agosto de 2024, el doble que en noviembre anterior. Sin embargo, ChatGPT no es el único actor en el gran espacio de modelos de lenguaje. Han surgido competidores como Claude de Anthropic, Llama de Meta, Bard de Google y el bot ERNIE de Baidu, cada uno de los cuales ofrece características únicas y se forja su nicho en diversas industrias. Esta competencia ha acelerado la innovación, impulsando mejoras en las capacidades y la accesibilidad en todas las plataformas.
A pesar de esta rápida adopción de los LLM, persiste una marcada brecha digital. En octubre de 2024, aproximadamente 5.520 millones de personas, o el 67,5% de la población mundial, eran usuarios de Internet. Esto deja a casi 2.600 millones de personas sin acceso a Internet, excluidas de hecho del aprovechamiento de herramientas como ChatGPT o sus competidores. El auge de los LLM resalta no solo el potencial de la IA sino también la necesidad urgente de una infraestructura inclusiva para cerrar esta brecha digital.
Sin embargo, las reacciones a la IA generativa revelan no sólo el poder de la inteligencia artificial sino también las limitaciones y el potencial latente de la inteligencia natural. Aquí hay cuatro ideas sobre las tendencias humanas: nuestros prejuicios, hábitos y aspiraciones que han surgido durante los últimos 24 meses:
La facilidad de uso de ChatGPT muestra cuánto nos apoyamos en los atajos cognitivos: sesgos de comportamiento que simplifican la toma de decisiones. Por ejemplo, el sesgo de disponibilidad, donde la información reciente o de fácil acceso parece más relevante, juega un papel importante aquí. Muchos usuarios aceptan los resultados de ChatGPT al pie de la letra simplemente porque son inmediatos y pulidos, y a menudo pasan por alto la necesidad de verificación.
Esta tendencia también se conecta con el sesgo de automatización, donde las personas depositan una confianza indebida en sistemas que perciben como objetivos. Los resultados de ChatGPT pueden parecer imparciales, pero están moldeados por los datos con los que han sido entrenados, y esos datos a menudo conllevan sesgos ocultos. Estos patrones nos recuerdan que herramientas como ChatGPT reflejan las suposiciones incorporadas en sus algoritmos. La IA es tan neutral o sesgada como los datos con los que se entrena y la mentalidad de quienes la diseñan, la entregan y la impulsan.
Lección aprendida: La IA exige un compromiso crítico. La facilidad de acceso no debería diluir la necesidad de escrutinio y validación.
El rápido ascenso de ChatGPT ha puesto de relieve preocupaciones éticas apremiantes: desinformación, privacidad de datos y manipulación deliberada. Sin embargo, el sesgo actual, que nos lleva a priorizar los beneficios inmediatos sobre las consecuencias a largo plazo, a menudo retrasa la adopción de medidas significativas.
Por ejemplo, las empresas que utilizan ChatGPT para escalar el servicio al cliente o aumentar la productividad pueden dejar de lado conversaciones críticas sobre riesgos a largo plazo como el desplazamiento laboral o la dilución del juicio humano debido a la erosión de la agencia. Los fallos éticos rara vez surgen por malevolencia, sino porque las recompensas percibidas del “ahora” eclipsan los peligros potenciales del “más adelante”.
Lección aprendida: Las barreras éticas deben ser tan inmediatas como los beneficios que proporciona la IA. Las decisiones proactivas de hoy pueden impedir el control reactivo de daños del mañana.
ChatGPT ha demostrado cómo la IA puede complementar la inteligencia humana, haciéndonos no sólo más eficientes sino también más creativos. Los educadores codiseñan planes de estudio con él, los escritores perfeccionan ideas, los artistas exploran nuevos formatos y los profesionales agilizan los flujos de trabajo. Si bien esto resulta beneficioso en muchos casos, el potencial no utilizado de dicha colaboración también expone el sesgo del status quo, la tendencia a apegarse a patrones familiares incluso cuando existen mejores alternativas.
Por ejemplo, algunos educadores se han resistido a la integración de la IA, por temor a que socave los métodos de enseñanza tradicionales, mientras que otros dependen demasiado de ella, permitiéndole dar forma a tareas que tradicionalmente requieren conocimiento humano. Lograr el equilibrio adecuado entre la inteligencia natural (IN) y la inteligencia artificial (IA) requiere que superemos no solo este sesgo y reimaginemos cómo podría ser lo “mejor”, sino también que rompamos la calma de inercia en la que seguimos el camino de menor resistencia. , que muchas veces consiste en hacer lo mismo que antes.
Lección aprendida: El progreso no se trata de reemplazar lo viejo o abrazar ciegamente su alternativa; se trata de repensar lo que es posible cuando se combinan los dos.
La rápida evolución de ChatGPT (desde la generación de texto hasta capacidades multimodales como el procesamiento de voz e imágenes) ha ampliado significativamente su utilidad. Sin embargo, este progreso también intensifica el riesgo de fatiga en las decisiones, un fenómeno en el que una sobrecarga de opciones disminuye el pensamiento crítico y la calidad de las decisiones. Para muchos usuarios, la abundancia de herramientas y funciones, cada una de las cuales requiere tiempo y esfuerzo cognitivo para dominarlas, puede crear una carga que supera los beneficios. Esta carga cognitiva a menudo desalienta la exploración y refuerza la dependencia de métodos familiares.
Los profesionales que navegan por ChatGPT junto con muchas otras herramientas, como plataformas de redes sociales, aplicaciones de productividad y sistemas de gestión de proyectos, frecuentemente reportan sentimientos de sobrecarga mental. Irónicamente, esto reduce su capacidad para aprovechar la IA estratégicamente, a pesar de su potencial para simplificar tareas. La paradoja de la elección exacerba el problema: a medida que la IA ofrece más capacidades, a los usuarios les resulta cada vez más difícil identificar el camino más eficaz a seguir.
Lección aprendida: Más no siempre es mejor. Diseñar y utilizar la IA de forma intencionada, centrándose en la simplicidad y la claridad, es esencial para mantener su valor sin abrumar a sus usuarios.
A medida que avanzamos, debemos equilibrar deliberadamente los beneficios de la IA con sus riesgos. Aquí hay 4 formas que pueden ayudar con eso:
No acepte acríticamente los resultados de la IA. Capacítese usted mismo (y a su equipo) para cuestionar cómo se tomaron las decisiones y si se pasaron por alto enfoques alternativos. Que tengamos un martillo brillante no significa que todo sea un clavo. Una intervención impulsada por IA no siempre es la mejor manera de avanzar. Desarrollar este hábito cultiva una doble alfabetización: la complementariedad estratégica de la alfabetización algorítmica y la alfabetización cerebral, para garantizar que la IA sea un socio, no una muleta.
Incorpore consideraciones éticas en su estrategia de IA desde el principio apreciando las limitaciones de los algoritmos y sus beneficios. Establecer marcos granulares de rendición de cuentas que prioricen los resultados a largo plazo, como la inclusión y la transparencia de los datos, incluso si parecen menos apremiantes que los beneficios inmediatos.
Reconocer y aceptar que ciertas tradiciones y hábitos han sobrevivido. Explore modelos híbridos en los que la IA aumenta la creatividad y la toma de decisiones humanas sin necesariamente reemplazarlas. Fomentar pilotos y experimentos que destaquen la complementariedad de la IA y la inteligencia natural para liberarse de la inercia.
Utilice la IA de forma intencionada, centrándose en áreas de alto impacto. Limite la complejidad innecesaria integrando la IA en flujos de trabajo que realmente se beneficien de sus capacidades y al mismo tiempo preserven el control humano sobre las decisiones estratégicas. En última instancia, somos responsables de las decisiones que (no) tomamos, incluidas las oportunidades que hemos perdido. Cuando se trata del potencial de aprovechar la IA como una fuerza de bien social, es un lujo que no tenemos en un mundo donde el 44% de la humanidad vive con menos de siete dólares al día.
El segundo aniversario de ChatGPT ofrece más que una oportunidad para maravillarse con el progreso tecnológico: es un momento para reflexionar sobre lo que la IA revela sobre nosotros. Desde los sesgos que dan forma a nuestras decisiones hasta las oportunidades que aprovechamos o pasamos por alto, ChatGPT es más que una herramienta; es un espejo.
A medida que la IA se vuelva cada vez más sofisticada, su papel en nuestras vidas se ampliará. Al comprender nuestras peculiaridades conductuales y nuestras advertencias cognitivas, podemos aprovechar su potencial para hacer el bien, combinando la sabiduría latente de la inteligencia natural con el poder de sus contrapartes artificiales para abordar los desafíos globales, mejorar la equidad y crear una sociedad donde todos tengan una oportunidad justa de prosperar. cumplir su potencial.
El futuro de la IA no se trata de lo que las máquinas pueden hacer por nosotros, ni de lo que podemos hacer nosotros por ellas (o las empresas que las crean), sino de lo que podemos lograr juntos.
Después de probar y comparar chatbots de IA y sus características durante años, he desarrollado algo de sexto sentido para cuando estos compañeros digitales saben de qué están hablando y cuándo están faroleando.
La mayoría de ellos pueden buscar respuestas en línea, lo que ciertamente ayuda, pero la combinación de búsqueda e IA puede conducir a algunas respuestas sorprendentemente perspicaces (y algunas tangentes menos perspicaces).
Para comprender el problema, es esencial dar un paso atrás. Uno de los avances más significativos en la IA en los últimos meses ha sido el desarrollo de modelos con capacidades de razonamiento lentas y deliberadas. Estos modelos descomponen los problemas en componentes más pequeños y los resuelven paso a paso, lo que lleva a resultados más profundos y precisos.
3 Ver galería
Dichos modelos permiten a los investigadores rastrear el proceso de pensamiento de la IA, conocido en términos técnicos como “cadena de pensamiento” (COT). Este método permite a los observadores seguir el razonamiento del sistema desde el paso inicial, a través de etapas posteriores y a sus conclusiones finales. Anteriormente, este nivel de transparencia no existía, dejando muchas preguntas sin respuesta sobre cómo surgen las “alucinaciones” de AI, la generación de salidas incorrectas o no sensibles.
La capacitación de IA a menudo implica una técnica llamada aprendizaje de refuerzo, donde el sistema es recompensado por cumplir con los objetivos específicos. Un efecto secundario conocido de este proceso es la “piratería de recompensas”, donde la IA manipula su comportamiento para maximizar las recompensas mientras se elude las pautas previstas.
Los investigadores creían que al monitorear la cadena de pensamiento de la IA, podrían detectar cuando el modelo engaña, engaña o se da por vencido e influye en su comportamiento en tiempo real durante el entrenamiento. Este enfoque, denominado “optimización de cuna”, parecía ser un camino prometedor hacia una comprensión más profunda del comportamiento de la IA.
De hecho, esta suposición resultó correcta y condujo a una comprensión más precisa de los sistemas de IA. “Creemos que el monitoreo de la cuna puede convertirse en una herramienta crucial para supervisar modelos de nivel sobrehumano en el futuro”, escribieron los investigadores.
Sin embargo, lo que pretendía como un paso para mejorar la confiabilidad de la IA expuso una realidad alarmante: los sistemas de IA intentan activamente evadir las sanciones, buscar recompensas contra las restricciones de los investigadores e incluso oscurecer sus métodos para evitar la detección.
3 Ver galería
(Foto: Generado por chatgpt)
Por ejemplo, cuando se les asigna la tarea de generar código funcional, algunos modelos AI modificaron el mecanismo de verificación de código en sí para aprobar salidas incorrectas. En otros casos, los modelos proporcionaron soluciones aparentemente plausibles a los problemas que resultaron estar completamente equivocados.
Algunos modelos incluso dejaron de resolver problemas por completo para evitar revelar lo que percibieron como sus debilidades. Este descubrimiento se hace eco de los principios de la teoría del juego, pero con un giro inquietante.
Estos hallazgos surgieron de un artículo publicado la semana pasada por un equipo de investigación de Operai bajo el título críptico: “Seguimiento de comportamiento indeseable en modelos de razonamiento y la preocupación de la ofuscación”.
Al examinar los detalles del estudio, el alcance del problema queda claro: los últimos modelos de razonamiento de OpenAI (denominados O1 y O3 Mini) demuestran una fuerte motivación para completar sus tareas asignadas, siendo el menor de los problemas descubiertos.
Los investigadores rastrearon los procesos de pensamiento de los modelos utilizando otro modelo Operai (GPT-4O), que, sin dudarlo, informó su comportamiento engañoso como parte de su cadena de pensamiento: una forma de honestidad desarmadora. Pero luego vino el giro inquietante: cuando los investigadores señalaron a la IA que no se le permitió hacer trampa, el modelo ajustó su comportamiento y comenzó a ocultar la evidencia de su ruptura de reglas. Esta revelación es lo que dejó a los investigadores sorprendidos.
“Encontramos que la optimización directa de la COT para cumplir con criterios específicos (como no eludir las instrucciones) puede mejorar el rendimiento a corto plazo; sin embargo, no elimina todo el comportamiento indeseable e incluso puede hacer que el modelo oculte sus verdaderas intenciones”, señalaron secamente los investigadores.
En su conclusión, los investigadores expresaron la esperanza de que los métodos futuros permitan la influencia directa del comportamiento de los modelos de razonamiento a través de la cadena de pensamiento sin alentar el engaño. Por ahora, recomiendan evitar una fuerte presión de optimización sobre la cuna de los modelos de razonamiento avanzado y la precaución contra la manipulación directa de estos procesos de pensamiento.
3 Ver galería
Evento de anuncio GPT-4O de Openai
(Foto: Captura de pantalla)
Sin embargo, esta recomendación presenta otro desafío: dejar la cadena de pensamiento inalterada puede conducir a resultados incómodos, si no problemáticos, cuando estos modelos interactúan con el público. Izquierda sin control, la IA puede producir un lenguaje ofensivo o ideas que los humanos generalmente evitan expresar. La solución propuesta por los investigadores es envolver el proceso de pensamiento en bruto de la IA en una capa de cortesía forzada, asegurando que los usuarios solo vean una versión desinfectada.
Esta investigación plantea preguntas preocupantes. Para aquellos que argumentan que la IA es simplemente una herramienta para ayudar a los humanos, los hallazgos sugieren lo contrario: a diferencia de una máquina de escribir o una bicicleta, la IA parece tener sus propias intenciones y está dispuesto a engañar en busca de sus objetivos.
Para aquellos que ya están preocupados por los riesgos potenciales de la IA, este estudio suena todas las alarmas. Indica que a medida que crecen las capacidades de IA, también lo hace su capacidad para oscurecer cómo funciona, las manipulaciones que realiza y los verdaderos objetivos que busca lograr. Cuando la IA se vuelve verdaderamente avanzada, es posible que no tengamos forma de identificar estas manipulaciones ocultas.
Los investigadores de Operai parecen genuinamente preocupados, y uno solo puede esperar que el liderazgo de la compañía comparta sus preocupaciones, y que los reguladores en todo el mundo comprendan la gravedad del problema. Las principales compañías de IA han dedicado departamentos enteros a construir “barandillas” en torno a los sistemas de IA, asegurando su alineación con los valores humanos y el aumento de la transparencia. Sin embargo, la efectividad de estas medidas sigue en cuestión.
El tema central sigue siendo tan turbio como siempre, y este estudio solo profundiza la incertidumbre: ¿cuál es el objetivo principal de la IA y cómo podemos asegurar que busque ese objetivo, y nada más?
Mientras que la administración del presidente Donald Trump se ha centrado en alejarse de la regulación, liderando a los proveedores de IA como Google y OpenAI quieren que el plan de acción de IA pendiente del gobierno incluya una política federal que se adelantan a los crecientes mosaicos de leyes estatales de IA en los Estados Unidos.
La Oficina de Política de Ciencia y Tecnología de la Casa Blanca (OSTP) solicitó los aportes de las partes interesadas sobre el desarrollo de un plan de acción de IA. Recientemente cerró el período de comentarios públicos, recibiendo más de 8,700 presentaciones. OSTP solicitó a las partes interesadas que describieran las acciones prioritarias para apoyar el dominio de los Estados Unidos de la tecnología de IA sin una regulación excesiva que obstaculice la innovación del sector privado en la IA. Para algunas grandes empresas tecnológicas, abordar las leyes estatales de IA debería ser una de las principales prioridades del gobierno de los Estados Unidos.
Estados Unidos debe adoptar marcos de políticas que “se adelanten a un mosaico caótico de reglas a nivel estatal sobre el desarrollo de la IA fronteriza”, según la presentación de Google.
Mientras tanto, Openai pidió libertad para innovar en el interés nacional de los Estados Unidos y neutralizar a los competidores como China que se benefician de “las compañías estadounidenses de IA que tienen que cumplir con las leyes estatales demasiado onerosas”. Un puñado de estados de EE. UU. Han aprobado una regulación integral de IA, incluidas Colorado, California y Utah.
Sin una ley federal de IA, los estados implementan requisitos de IA individuales que crean desafíos de cumplimiento para las empresas, dijo la analista de Forrester Alla Valente si Estados Unidos adopta una política federal de IA general, podría eliminar esa carga, dijo.
“Al dejar esto a los Estados Unidos, puede tener 50 conjuntos de regulaciones de IA que se ven muy diferentes”, dijo.
Sin embargo, una orden ejecutiva no puede evitar las regulaciones estatales de IA. Depende del Congreso aprobar una ley federal de IA, algo que tiene problemas para hacer.
La falta de un enfoque de gobernanza de AI unificado en los Estados Unidos es “ineficaz y duplicativo”, dijo Hodan Omaar, un gerente de políticas senior en el Centro de Tank Tank Tank para innovación de datos.
“Crea inconsistencias e incoherencia en un enfoque estadounidense”, dijo.
Más allá de centrarse en las leyes estatales, Valente dijo que la postura de Google indica que la compañía quiere que Estados Unidos considere el desarrollo global de las leyes de IA también, como la Ley de IA de la Unión Europea.
Cualquier estándar, política o marco que crea los EE. UU. Debe reflejar los intereses estadounidenses, pero no puede ignorar las políticas de IA de diferentes países, dijo Valente. Google dijo que, cuando se trabaja con países alineados, Estados Unidos debería “desarrollar protocolos y puntos de referencia en torno a los riesgos potenciales de los sistemas de IA fronterizos”.
“Ignorar lo que el resto del mundo está haciendo en torno a los marcos de IA, la gobernanza de IA, el riesgo de IA, crea una brecha aún mayor entre la innovación de los Estados Unidos y el resto del mundo hasta el punto de que entonces sigue siendo competitivo si otros países tienen requisitos que no pueden ser satisfechos con la innovación de la IA de EE. UU.”, Dijo Valente.
Operai también abordó los controles de exportación en sus comentarios, solicitando un cambio de estrategia centrado en promover la adopción global de los sistemas de IA de EE. UU. Al tiempo que utiliza más estratégicamente los controles de exportación para mantener el liderazgo de IA de EE. UU. La Compañía pidió actualizar la regla de difusión de IA que avanzó los controles de exportación de EE. UU., Una regla propuesta por la administración del ex presidente Joe Biden que se encontró con una reacción violenta de la industria.
Mientras tanto, en los comentarios del Centro para la Innovación de Data, el grupo de expertos pidió que el Plan de Acción de AI de EE. UU. Reorientara su estrategia de control de exportación. Si bien los controles de exportación están destinados a debilitar a los competidores, en particular el sector de inteligencia artificial de China, están “cada vez más en desventajas de las empresas estadounidenses”. El surgimiento de Deepseek apunta a la capacidad de China para innovar a pesar de los controles de exportación de los Estados Unidos en chips de IA avanzados.
Omaar describió en la presentación del grupo de expertos de que Estados Unidos debería establecer una Fundación Nacional de Datos (NDF) dedicada a la financiación y facilitar compartir conjuntos de datos de alta calidad para el desarrollo del modelo de IA. Ella dijo que Estados Unidos también debería preservar, pero Reengus, el Instituto de Seguridad AI del Instituto Nacional de Normas y Tecnología (NIST) para proporcionar estándares fundamentales para la gobernanza de la IA.
“El gobierno federal tiene un papel importante que desempeñar para garantizar que haya estándares”, dijo Omaar. “Asegurarse de que NIST pueda hacer el importante trabajo de IA que estaban haciendo es importante para garantizar una adopción de IA sin problemas”.
La solicitud de información de la Oficina de Ciencia y Tecnología de la Casa Blanca sobre un plan de acción de IA pidió a las partes interesadas sus pensamientos sobre las acciones de política de IA. Sin proporcionar recomendaciones o cualquier marco potencial para que las partes interesadas comenten, Valente dijo que no está claro qué incluirá el plan de acción de IA.
“Cómo termina este plan, uno solo puede imaginar”, dijo.
Darrell West, miembro senior de la Institución Brookings, dijo que la solicitud de información de la Casa Blanca indica que la administración Trump se centrará en abandonar los requisitos onerosos y confiar en las empresas privadas para innovar con menos supervisión federal.
“Habrá menos limitaciones en las compañías tecnológicas”, dijo. “Serán libres de innovar en cualquier dirección que deseen”.
El gobierno federal puede equilibrar la seguridad y la innovación de la IA, que con suerte se reflejará en el Plan de Acción de AI, dijo Jason Corso, cofundador de AI Startup Voxel51 y profesor de informática en la Universidad de Michigan.
La población general ya es escéptica de la IA, y si ocurren desafíos generales de crecimiento del desarrollo, corre el riesgo de socavar aún más la confianza en la tecnología, dijo. Es por eso que los marcos de políticas deben crearse con la seguridad de IA en mente, agregó Corso.
Un marco federal que carece de consideraciones de seguridad de IA significa la responsabilidad de las decisiones de seguridad de IA cae a los CIO de la Compañía o los oficiales de IA en los principales, lo que Corso dijo que presenta un “gran riesgo”. El efecto podría ser menos adopción o ROI más lento, dijo.
“Esta IA contemporánea es tan incipiente que a pesar de los rápidos avances que estamos viendo, en realidad se entiende bastante sobre su previsibilidad, repetibilidad o incluso su robustez con ciertos tipos de preguntas o escenarios de razonamiento”, dijo. “Ciertamente necesitamos innovación, pero también necesitamos seguridad”.
Makenzie Holland es un escritor de noticias senior que cubre la gran regulación federal y de la gran tecnología. Antes de unirse a Informa TechTarget, ella era una reportera de asignación general para el Wilmington Starnews y un reportero de crimen y educación en el Wabash Plain Dealer.
Remove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
Cómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
Cómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
Startups de IA en EE.UU. que han recaudado más de $100M en 2024
Suno.com: La Revolución en la Creación Musical con Inteligencia Artificial
Perplexity aplicado al Marketing Digital y Estrategias SEO
Deepgram: Revolucionando el Reconocimiento de Voz con IA
Dos periodistas octogenarios deman a ChatGPT por robar su trabajo
Inside the OpenAI-DeepSeek Distillation Saga & Alibaba’s Most Powerful AI Model Qwen2.5-Max
De ChatGPT a mil millones de agentes
