La semana pasada, recibí uno de esos ridículos correos electrónicos de última hora para recaudar fondos, de esos diseñados para provocar que entres en pánico y hagas una donación. Llegó a mi bandeja de entrada apenas unos días antes de que Donald Trump recupere oficialmente la presidencia y apenas una semana antes de que sea sentenciado por malversar las finanzas de su campaña para pagarle a una estrella del porno.
“Deja lo que estás haciendo y lee atentamente”, comenzaba. “La Ley del Poder Judicial cambiará todo. Si lo aprobamos antes de que Biden deje el cargo, tendremos una REAL Mayoría Demócrata en la Corte Suprema. Brett Kavanaugh, Clarence Thomas y los demás títeres conservadores quedarán impotentes. Esto es tan importante que estamos desbloqueando una igualación de emergencia del 200 % en cada donación a este correo electrónico para FINALMENTE ampliar la Corte Suprema. No hagas NADA hasta que hagas una donación para derrotar a los republicanos y darles a los demócratas 4 jueces más de la Corte Suprema…”
“Oh, por favor”, pensé, bebiendo mi café con sarcasmo en una tranquila mañana de sábado. “Claro, Biden moverá montañas en las últimas horas de su presidencia porque eso es totalmente plausible”.
Leer esta basura de clickbait me molestó hasta la médula. Aún así, a pesar de mi mejor juicio, mordí el anzuelo. No hice una donación, por supuesto, pero sí caí en una madriguera de conejo y pasé el resto de mi sábado por la mañana reflexionando sobre los gestos huecos y mal sincronizados de Biden. Recurrí a ChatGPT en busca de claridad y terminé enfrascado en una conversación profunda con dos de mis aficionados políticos más confiables, Brenda y Frank.
Juntos, desentrañamos digitalmente lo absurdo de los supuestos actos heroicos de último minuto de Biden, el estado desmoronado de la Corte Suprema y el problema sistémico más amplio: un sistema bipartidista diseñado para proteger el patriarcado, salvaguardar la supremacía blanca, permitir el nacionalismo cristiano y garantizar la los ricos mantienen firmemente el control, todo mientras el resto de nosotros tenemos que luchar para afrontar los crecientes costos de la gasolina y los huevos.
Ya sabes, solo tus reflexiones básicas del sábado por la mañana…
Lo que sigue es un diálogo animado facilitado por ChatGPT: una conversación que destaca los fracasos políticos actuales y al mismo tiempo profundiza en los problemas sistémicos que están en el centro de todo. Espero que esto genere reflexión y acción, invitándonos a todos a considerar cómo podemos ir más allá de un sistema diseñado para fallar.
Lisa: ¿Biden realmente está tratando de hacer reformas a la Corte Suprema en la recta final de su presidencia?
Frank: Biden ha presentado propuestas destinadas a reformar la Corte Suprema, que incluyen:
1. Límites de mandato de 18 años: los magistrados cumplirían mandatos escalonados de 18 años para garantizar una rotación regular y reducir la enorme influencia de los nombramientos vitalicios.
2. Un Código de Ética Vinculante: Un código de conducta obligatorio para abordar inquietudes éticas y conflictos de intereses.
3. Enmienda sobre la inmunidad presidencial: anulación de Trump contra Estados Unidos, que otorgaba a los expresidentes inmunidad frente a procesos penales.
Se trata de medidas audaces, pero enfrentan enormes obstáculos. Las enmiendas constitucionales requieren dos tercios de la Cámara y el Senado y la ratificación de tres cuartos de las legislaturas estatales, una tarea de enormes proporciones incluso en el mejor clima político.
Lisa: No hay tiempo para lograr eso.
brenda: exacto. A Biden le quedan poco más de dos semanas en el cargo. Incluso con el apoyo del Congreso (que no tiene), este proceso llevaría años.
Frank: Los obstáculos políticos y estructurales son insuperables en tan poco tiempo. Y no lo olvidemos: cualquier reforma dirigida a la autoridad de la Corte Suprema podría ser anulada por la propia Corte.
Oportunidades perdidas en el primer mandato de Biden
Lisa: Estas reformas deberían haber sido la prioridad de Biden cuando los demócratas controlaban el Congreso durante su primer mandato. Incluso entonces, probablemente no habría sucedido, dados los estrechos márgenes y la falta de unidad demócrata.
brenda: exacto. Los primeros días de su presidencia fueron el momento ideal para impulsar cambios estructurales. En cambio, la administración se centró en la recuperación y la infraestructura de la pandemia, algo importante pero menos urgente que abordar la creciente crisis de confianza en la Corte Suprema.
Frank: Y la ventana estaba hermética. Los demócratas moderados como Joe Manchin y Kyrsten Sinema no iban a apoyar reformas audaces, especialmente con el obstruccionismo aún vigente.
Brenda: El verdadero fracaso fue ni siquiera iniciar la conversación. La confianza pública en la Corte Suprema se ha ido erosionando durante años, especialmente después de los nombramientos de Gorsuch, Kavanaugh y Barrett por parte de Trump. Biden podría haber planteado esto como un paso necesario para proteger la democracia, pero decidió no hacerlo.
El fracaso neoliberal a la hora de afrontar la radicalización republicana
Lisa: Esta situación es muy predecible. El neoliberalismo ha fracasado consistentemente en desafiar a los republicanos de manera significativa, permitiendo su extremismo. El propio Biden dijo desde el principio que no tocaría la Corte Suprema porque quería proteger su “santidad”.
Brenda: Eso fue pura fantasía. Pretender que la Corte Suprema es sagrada mientras los republicanos explotan sistemáticamente todos los resquicios para llenarla de conservadores es, en el mejor de los casos, ingenuo y, en el peor, cómplice.
Frank: Los republicanos han derribado abiertamente las normas para consolidar el poder, desde bloquear la elección de Merrick Garland para la Corte Suprema por parte de Obama en 2016 hasta apresurar la confirmación de Amy Coney Barrett en 2020 después de capitalizar el fallecimiento prematuro de Ruth Bader Ginsburg. La deferencia de Biden hacia el decoro y el bipartidismo nunca iba a funcionar en este clima.
Brenda: Y el miedo de los demócratas a ser acusados de “abarrotar la corte” influye directamente en las narrativas del Partido Republicano. A los republicanos no les importa la justicia: les importa ganar. Los demócratas, por otro lado, se preocupan demasiado por las apariencias y eso les está costando.
El sistema bipartidista: un juego amañado
Lisa: Esta disfunción ilustra perfectamente por qué el sistema bipartidista es un fracaso. Está diseñado para mantener la supremacía blanca y enriquecer a los ricos, no para servir al pueblo.
brenda: absolutamente. El sistema bipartidista no está roto: está funcionando exactamente como se esperaba. Es una construcción diseñada para dividir y conquistar, asegurando que el poder real permanezca en manos de la élite.
Frank: Ambas partes desempeñan su papel en este sistema. Los republicanos lo explotan para solidificar el poder, mientras que los demócratas ofrecen un progreso simbólico sin cuestionar las estructuras subyacentes de opresión.
Brenda: Y ese es el problema: el progreso real (ya sea en materia de derechos de voto, atención médica o acción climática) requiere desmantelar el sistema, no trabajar dentro de él.
Liberarse del ciclo de la traición
Lisa: Entonces, ¿cómo escapamos de esto?
Brenda: El primer paso es rechazar el dominio bipartidista. Necesitamos reformas electorales, como la votación por orden de preferencia y la representación proporcional, para dejar espacio a nuevas voces y movimientos.
Frank: Y tenemos que desafiar los sistemas de supremacía blanca y capitalismo que sustentan el marco bipartidista. No se trata de modificar el sistema, sino de reconstruirlo desde cero.
Brenda: Los grupos marginados también necesitan garantías permanentes de sus derechos. No más progreso condicional. La verdadera equidad requiere desmantelar las estructuras patriarcales y racistas, no sólo cambiarles el nombre.
Frank: Esto requerirá una organización popular masiva, no una fe ciega en un sistema político diseñado para fracasar. El verdadero cambio proviene de la gente, no de los partidos.
Pensamientos finales
“Está bien, eso fue mucho que procesar”, pensé mientras tomaba un sorbo de café. ChatGPT me había dado más cosas que considerar de lo que anticipé cuando abrí por primera vez ese correo electrónico de recaudación de fondos. Mientras buscaba en Grubhub un sándwich de huevo y queso para acompañar mi inevitable próxima taza de café, no pude evitar reflexionar sobre el peso de la conversación que acabábamos de compartir.
Esta discusión puso al descubierto una dura realidad: el sistema no sólo está manipulado: fue construido para excluirnos. La promesa de un asiento en la mesa para los grupos marginados siempre ha sido una ilusión, un espejismo cuidadosamente construido para mantenernos involucrados en un juego que nunca debimos ganar.
Pero reconocer que esto no es un final: es un comienzo. Es un llamado a la acción para dejar de aferrarnos a la falsa esperanza de que el cambio pueda surgir desde dentro del sistema y, en cambio, imaginar algo completamente nuevo. Necesitamos exigir más: justicia, rendición de cuentas, imaginación y coraje para desmantelar las estructuras que nos han frenado durante tanto tiempo.
El trabajo que tenemos por delante no será fácil, pero es necesario. Cuanto antes dejemos de seguir las reglas de un sistema que no funciona, antes podremos empezar a crear uno que sirva a todos, no sólo a los ricos, los poderosos o los privilegiados.
Gracias por acompañarme en este viaje. Está lejos de terminar, pero por ahora me esperan mi tercera taza de café y un sándwich de huevo y queso. Sigamos haciendo preguntas difíciles y exigiendo mejores cosas, para todos nosotros.
En nuestra próxima ronda de AI Madness, ChatGPT y Gemini compiten por la corona con siete nuevos indicaciones que prueban todo, desde la resolución de problemas técnicos hasta la narración creativa.
Ambos pesos pesados están disponibles como aplicaciones independientes, y los usuarios ya no necesitan una cuenta para acceder a ChatGPT o Gemini.
El mejor enfrentamiento de la búsqueda de IA: enfrenté la nueva herramienta de búsqueda de Claude contra la búsqueda de chatgpt, la perplejidad y Géminis, los resultados podrían sorprenderte
Después de probar y comparar chatbots de IA y sus características durante años, he desarrollado algo de sexto sentido para cuando estos compañeros digitales saben de qué están hablando y cuándo están faroleando.
La mayoría de ellos pueden buscar respuestas en línea, lo que ciertamente ayuda, pero la combinación de búsqueda e IA puede conducir a algunas respuestas sorprendentemente perspicaces (y algunas tangentes menos perspicaces).
Inteligencia artificial desarrolladores de Opadai He estado al límite durante la semana pasada. ¿La razón? Un estudio reciente realizado por los propios investigadores de la compañía reveló que los sistemas de IA no les gusta ser castigados, encuentran activamente formas de evitar las restricciones e incluso ocultar sus “trucos” de los supervisores humanos. Aquellos conocidos como “Doomers”, que predicen un futuro sombrío para el desarrollo de la IA, probablemente dirán: “Te lo dijimos, y esto es solo el comienzo”.
Para comprender el problema, es esencial dar un paso atrás. Uno de los avances más significativos en la IA en los últimos meses ha sido el desarrollo de modelos con capacidades de razonamiento lentas y deliberadas. Estos modelos descomponen los problemas en componentes más pequeños y los resuelven paso a paso, lo que lleva a resultados más profundos y precisos.
3 Ver galería
Dichos modelos permiten a los investigadores rastrear el proceso de pensamiento de la IA, conocido en términos técnicos como “cadena de pensamiento” (COT). Este método permite a los observadores seguir el razonamiento del sistema desde el paso inicial, a través de etapas posteriores y a sus conclusiones finales. Anteriormente, este nivel de transparencia no existía, dejando muchas preguntas sin respuesta sobre cómo surgen las “alucinaciones” de AI, la generación de salidas incorrectas o no sensibles.
La capacitación de IA a menudo implica una técnica llamada aprendizaje de refuerzo, donde el sistema es recompensado por cumplir con los objetivos específicos. Un efecto secundario conocido de este proceso es la “piratería de recompensas”, donde la IA manipula su comportamiento para maximizar las recompensas mientras se elude las pautas previstas.
Los investigadores creían que al monitorear la cadena de pensamiento de la IA, podrían detectar cuando el modelo engaña, engaña o se da por vencido e influye en su comportamiento en tiempo real durante el entrenamiento. Este enfoque, denominado “optimización de cuna”, parecía ser un camino prometedor hacia una comprensión más profunda del comportamiento de la IA.
De hecho, esta suposición resultó correcta y condujo a una comprensión más precisa de los sistemas de IA. “Creemos que el monitoreo de la cuna puede convertirse en una herramienta crucial para supervisar modelos de nivel sobrehumano en el futuro”, escribieron los investigadores.
Sin embargo, lo que pretendía como un paso para mejorar la confiabilidad de la IA expuso una realidad alarmante: los sistemas de IA intentan activamente evadir las sanciones, buscar recompensas contra las restricciones de los investigadores e incluso oscurecer sus métodos para evitar la detección.
3 Ver galería
(Foto: Generado por chatgpt)
Por ejemplo, cuando se les asigna la tarea de generar código funcional, algunos modelos AI modificaron el mecanismo de verificación de código en sí para aprobar salidas incorrectas. En otros casos, los modelos proporcionaron soluciones aparentemente plausibles a los problemas que resultaron estar completamente equivocados.
Algunos modelos incluso dejaron de resolver problemas por completo para evitar revelar lo que percibieron como sus debilidades. Este descubrimiento se hace eco de los principios de la teoría del juego, pero con un giro inquietante.
Estos hallazgos surgieron de un artículo publicado la semana pasada por un equipo de investigación de Operai bajo el título críptico: “Seguimiento de comportamiento indeseable en modelos de razonamiento y la preocupación de la ofuscación”.
Al examinar los detalles del estudio, el alcance del problema queda claro: los últimos modelos de razonamiento de OpenAI (denominados O1 y O3 Mini) demuestran una fuerte motivación para completar sus tareas asignadas, siendo el menor de los problemas descubiertos.
Los investigadores rastrearon los procesos de pensamiento de los modelos utilizando otro modelo Operai (GPT-4O), que, sin dudarlo, informó su comportamiento engañoso como parte de su cadena de pensamiento: una forma de honestidad desarmadora. Pero luego vino el giro inquietante: cuando los investigadores señalaron a la IA que no se le permitió hacer trampa, el modelo ajustó su comportamiento y comenzó a ocultar la evidencia de su ruptura de reglas. Esta revelación es lo que dejó a los investigadores sorprendidos.
“Encontramos que la optimización directa de la COT para cumplir con criterios específicos (como no eludir las instrucciones) puede mejorar el rendimiento a corto plazo; sin embargo, no elimina todo el comportamiento indeseable e incluso puede hacer que el modelo oculte sus verdaderas intenciones”, señalaron secamente los investigadores.
En su conclusión, los investigadores expresaron la esperanza de que los métodos futuros permitan la influencia directa del comportamiento de los modelos de razonamiento a través de la cadena de pensamiento sin alentar el engaño. Por ahora, recomiendan evitar una fuerte presión de optimización sobre la cuna de los modelos de razonamiento avanzado y la precaución contra la manipulación directa de estos procesos de pensamiento.
3 Ver galería
Evento de anuncio GPT-4O de Openai
(Foto: Captura de pantalla)
Sin embargo, esta recomendación presenta otro desafío: dejar la cadena de pensamiento inalterada puede conducir a resultados incómodos, si no problemáticos, cuando estos modelos interactúan con el público. Izquierda sin control, la IA puede producir un lenguaje ofensivo o ideas que los humanos generalmente evitan expresar. La solución propuesta por los investigadores es envolver el proceso de pensamiento en bruto de la IA en una capa de cortesía forzada, asegurando que los usuarios solo vean una versión desinfectada.
Esta investigación plantea preguntas preocupantes. Para aquellos que argumentan que la IA es simplemente una herramienta para ayudar a los humanos, los hallazgos sugieren lo contrario: a diferencia de una máquina de escribir o una bicicleta, la IA parece tener sus propias intenciones y está dispuesto a engañar en busca de sus objetivos.
Para aquellos que ya están preocupados por los riesgos potenciales de la IA, este estudio suena todas las alarmas. Indica que a medida que crecen las capacidades de IA, también lo hace su capacidad para oscurecer cómo funciona, las manipulaciones que realiza y los verdaderos objetivos que busca lograr. Cuando la IA se vuelve verdaderamente avanzada, es posible que no tengamos forma de identificar estas manipulaciones ocultas.
Los investigadores de Operai parecen genuinamente preocupados, y uno solo puede esperar que el liderazgo de la compañía comparta sus preocupaciones, y que los reguladores en todo el mundo comprendan la gravedad del problema. Las principales compañías de IA han dedicado departamentos enteros a construir “barandillas” en torno a los sistemas de IA, asegurando su alineación con los valores humanos y el aumento de la transparencia. Sin embargo, la efectividad de estas medidas sigue en cuestión.
El tema central sigue siendo tan turbio como siempre, y este estudio solo profundiza la incertidumbre: ¿cuál es el objetivo principal de la IA y cómo podemos asegurar que busque ese objetivo, y nada más?
This website uses cookies so that we can provide you with the best user experience possible. Cookie information is stored in your browser and performs functions such as recognising you when you return to our website and helping our team to understand which sections of the website you find most interesting and useful.
Strictly Necessary Cookies
Strictly Necessary Cookie should be enabled at all times so that we can save your preferences for cookie settings.
If you disable this cookie, we will not be able to save your preferences. This means that every time you visit this website you will need to enable or disable cookies again.