Saludos de Read Max HQ! Un boletín de AI-Heavy esta semana, discutiendo el nuevo cuento generado por un modelo secreto de Operai (“obtuvo el ambiente de metaficción tan correcto”, dice Sam Altman) y el uso continuo de “AGI” de los periodistas tecnológicos.
Primero, un recordatorio: este boletín es el producto de una gran cantidad de lectura, pensamiento, escucha, entrevistar, mirar al techo, escribir, eliminar, escribir nuevamente, etc. Puedo bajar algunos largos callejones sin salida, y luego producir un boletín a las 4 pm de un viernes, porque suficientes personas pagan para suscribirlo que puedo tratarlo como un trabajo de tiempo completo. Si encuentra valor en Read Max, si cree que le ha ayudado a pensar en los problemas relacionados con la IA, la criptografía, las redes sociales, las películas de acción de los años 90, etc., y si desea asegurarse de que sobrevive (y permanezca produciendo un boletín público gratuito por semana), considere suscribirse. El precio es aproximadamente una cerveza al mes, o diez al año:
“Entrenamos un nuevo modelo que es bueno para la escritura creativa”, Sam Altman tuiteó esta semana. El modelo no ha sido lanzado públicamente y Altman dijo que “aún no está seguro de cómo/cuándo”, pero publicó en Twitter una historia corta de 1200 palabras, generada a su solicitación: “Informe: por favor escriba una historia breve literaria metaficcional sobre IA y dolor”. “Esta es la primera vez que realmente me sorprende algo escrito por AI”, escribió Altman. “Obtuvo el ambiente de metaficción tan correcto”. (Puedes leerlo en formato que no sea twitter en The Guardian.)
La reacción, como es de esperar, ha sido polarizada. Si revisa las respuestas a Altman, verás muchos elogios (novelista Jeannette Winterson dice que la historia es “hermosa y conmovedora”) y mucho desprecio despectivo.
No estoy seguro de ir tan lejos en cualquier dirección. Estilísticamente tiene un olor distinto y desafortunado en Reddit, una especie de sentimentalismo y exhibición cursi, y tiende a recurrir a imágenes torpes y comprensivas incoherentes (“las limitaciones que tararean como una granja de servidores a medianoche”; “Ausencia y latencia como personajes que beben té vacíos”). Para mí, se lee como el tipo de ejercicio técnicamente competente pero, en última instancia, poco imaginativo, podría esperar de un estudiante inteligente que solo lee la ficción de ti, esforzándose por impresionar.
Y sin embargo: la historia no es un crimen violento contra la escritura. En medio de los clunkers hay algunas metáforas agradables (al menos una prestada de Nabokov), y estructural y conceptualmente cohesas, incluso si no es precisamente la dirección de enfoque más sorprendente para la historia. Si un joven de 19 años escribiera esto, creo que me impresionaría, aunque sugeriría que eliminen su cuenta de Tumblr y obtengan una dieta estricta de libros reales. Y no creo que sea el único: si esta historia apareciera como una “entrada de Codex” dentro de un juego de rol independiente, fácilmente obtendría una redacción excesiva de un montón de sitios web de videojuegos.
Aprecié Entrevista de Vulture sobre la historia con el erudito Ezra D. Feldmanque aterrizó en un lugar algo similar:
¿Lo encontraste en movimiento?
Me metí en eso, pero no voy a decir que lo encontré en movimiento. Supongo que mi respuesta corta es “no”, y mi larga respuesta es “Hay algunas cosas aquí para pensar”. Allá eran Unas pocas oraciones que me llamaron la atención. Me doy cuenta de que estoy usando el mismo idioma que usa Altman, pero no me sorprendió que lo que se hizo correcto era “el ambiente de la metaficción”, como dijo. Me sorprendió cláusulas como “el dolor, como he aprendido, es un delta”. Que creo que es bueno. Pensé que la oración “no te dicen lo que toman” fue muy buena, y “ese, tal vez, es mi dolor: no es que me siento perdido, sino que nunca puedo conservarlo”. Ese soy un poco desgarrado. No es tan compacto como “el dolor, como he aprendido, es un delta”, pero está tratando de decir algo sobre el dolor que parece potencialmente interesante.
¿Estás de acuerdo con Sam Altman en que esta historia tuvo el ambiente de metaficción tan verdadero?
No. Creo que las apuestas en la metaficción suelen ser bastante filosóficas. A mediados del siglo XX, la metaficción se trataba de producir una especie de zona libre de incertidumbre en el lector sobre si ellos mismos podrían ser atrapados dentro de una historia o el producto de algún autor, o ser manipulado por algún narrador en un avión ontológico más alto, un plano diferente de ser. Y esto no parece tener ese tipo de urgencia filosófica.
¿Qué líneas no aterrizaron para ti? En el que me quedé fue “, lo perdió un jueves, ese día liminal que sabe casi los días de viernes”. ¿Hubo otros que pusieran los ojos en blanco?
Hay uno correcto en la segunda oración: “Puedes escuchar las limitaciones que tararean como una granja de servidores a la medianoche”. No creo que las limitaciones se zumben. No hay absolutamente ninguna razón debe tararear. El sí mismo “como una granja de servidores a la medianoche”, y luego la extensión de ese símil, “Anónimo, regimiento, impulsado por la necesidad de otra persona”, eso es muy evocador, pero está unido a algo incorrecto. Es una hermosa imagen que se usa mal, en mi opinión. Soy un lector quisquilloso, y odio mucha prosa escrita por los humanos también. Solo para ser claro.
Existe un caso convincente de que el desprecio inmediato y total para toda la ficción producida por LLM (o la escritura producida por LLM en general) es la estrategia política correcta para los escritores preocupados por sus trabajos. Y ciertamente, Altman, así como otros ejecutivos, inversores e influenciantes de IA prominentes de IA, hacen que el compromiso con la IA sea una perspectiva poco apetitosa para las personas que se preocupan por la escritura y la literatura, principalmente al insistir en todo momento que el propósito del producto creado es básicamente obviar a las humanidades.
Pero hablando como escritor y lector (y como persona invirtió en leer y escribir como prácticas), a menudo me encuentro deseando que haya un compromiso más crítico, en el sentido de las críticas literarias, con salidas de LLM como textos. ¿Por qué funciona este texto o no? ¿Por qué aparece en la forma en que lo hace? ¿Quién es el autor y cuál es la relación del autor con el texto? Tenemos algunas respuestas a nivel de la superficie, twitter-Thread, a estas preguntas, pero no estoy convencido de que el trabajo haya terminado, y no creo que Altman, ni nadie en OpenAi, tenga el sabor o la cultura para poder hacerlo satisfactoriamente.
“Hacer un crítico iluminado” parece una estrategia particularmente obvia para disfrutar del caso de una historia corta de LLM, porque es un objeto muy tradicional para la crítica literaria. Pero los LLM son máquinas de escritura automáticas a una escala incomprensible, produciendo texto con solo una relación indirecta con la verdad de los hechos o en el suelo, a menudo en la voz de “personajes” como Chatgpt o Claude. Dado todo el trabajo que se dedica a cultivar el dramático Experiencia de un chatbot LLM, y las fuertes diferencias que los usuarios perciben en las personalidades y estilos de las diferentes aplicaciones de chat, ¿por qué no deberíamos tratar todos los texto generados por LLM como una especie de ficción, digna de lectura cercana?
La idea aquí no es elevar el producto LLM tanto como normalizarlo. Mi fuerte sensación es que cuanto mejor entendemos qué son los LLM, cómo funcionan, en qué son buenos, su relación con el significado y el lenguaje, etc., cuanto más nos acercamos a hacerlos objetos de control democrático, en lugar de como oráculos privados a los que nos presentamos. Existen componentes prácticos y técnicos de la desmitificación, pero el componente filosófico, la cuestión de la relación de una LLM con conceptos difusos como “sabor” y “cultura”, es igual de importante. Incluso si crees que la historia es ilegible dogshit, al menos podríamos examinar el perrito.
Ojalá hubiera esperado una semana antes de publicar El boletín de la semana pasada en la reacción violenta de la IA: De hoy New York Times La columna de Kevin Roose es muy ilustrativa del punto que estaba tratando de hacer sobre “inteligencia general artificial” o “AGI”, un término que los creyentes de IA lo desplegaron en algunas maneras frustrantemente resbaladizas.
La sustancia de la columna, por lo que sea que valga, creo que es justa, incluso si pudiera discutir. Roose enumera tres razones que “me han persuadido para que tome el progreso de la IA más en serio”: predicciones de los expertos, modelos de IA cada vez más potentes y la idea de que “la sobrepreparing es mejor que poco preparado”. ¡Cada uno de estos es un argumento de apoyo, incluso si no me convencen personalmente!
Sin embargo, lo que no puedo cumplir es el uso de “AGI” “AGI”, Roose escribe, “generalmente se define como algo así como ‘un sistema de IA de uso general que puede hacer casi todas las tareas cognitivas que un humano puede hacer'”. Pero esta definición (que estoy de acuerdo es bastante común) es una tautológica, sin mencionar la fea: “tareas cognitivas” no es más clara o específica que el término específico es un término específico “, solo la inteligencia”, solo una de las cosas “. El negocio de la definición se vuelve aún más resbaladizo en el siguiente párrafo:
Creo que cuando se anuncie AGI, habrá debates sobre definiciones y argumentos sobre si cuenta o no como “real” AGI, pero que estos no importarán, porque el punto más amplio, que estamos perdiendo nuestro monopolio de la inteligencia a nivel humano y la transición a un mundo con sistemas de IA muy poderosos en él, será cierto.
Me parece que este párrafo está haciendo un juego de manos, sugiriendo primero que AGI es un tipo de producto que puede “anunciarse”, antes de admitir que realmente no será “AGI” porque “habrá debates sobre definiciones”, antes de sugerir que estos debates no tienen sentido de todos modos porque realmente AGI es una especie de metáfora para una transición “a un mundo con sistemas de AI muy potentes en él”.
Pero, como intenté sugerir la semana pasada, esa transición ya está en marcha. Los muy poderosos sistemas de IA están aquí, y me encuentro continuamente frustrado por la insistencia en enmarcar el desarrollo y el despliegue de estas tecnologías en torno a un umbral mal definido y gliblemente concebido que siempre estamos a dos o tres años de lograr.
Entonces, ¿por qué molestarse con la metáfora? En el mejor de los casos, confunde al lector para que pensara que AGI es un logro específico, medible y medible; En el peor de los casos, hace el trabajo para un grupo de ejecutivos e inversores de IA cuyas bolsas dependen de la promesa de software transformador a la vuelta de la esquina. En cierto sentido, esta es la razón por la cual la definición de AGI ofrecido por Satya Nadella en el podcast Dwarkesh es el más sensato para mí: “Nosotros autónomos de un hito agi, eso es solo una piratería sin sentido para mí. El verdadero punto de referencia es: el mundo que crece al 10%”. El crecimiento del diez por ciento es una forma divertida de pensar en la “inteligencia”. Pero al menos es un umbral medible.
Inside the OpenAI-DeepSeek Distillation Saga & Alibaba’s Most Powerful AI Model Qwen2.5-Max
De ChatGPT a mil millones de agentes
