La IA de ‘escritura creativa’ de Openai evoca a ese niño molesto del club de ficción de la escuela secundaria

Cuando tenía 16 años, asistí a un taller de escritura con un grupo de jóvenes poetas precoz, donde todos tratamos mucho de demostrar quién entre nosotros era el adolescente más torturado de clase media alta. Un niño se negó a decirle a alguien de dónde era, declarando: “Soy de todas partes y en ninguna parte”. Dos semanas después, admitió que era de Ohio.

Ahora, por razones que no están claras, OpenAi parece estar en camino hacia la replicación de este arquetipo de escritor adolescente angustiado en forma de IA.

El CEO Sam Altman publicó en X el martes que Operai entrenó a una IA que es “buena en la escritura creativa”, en sus palabras. Pero un pedazo de ficción corta de la modelo se lee como algo directamente del taller de escritores de secundaria. Si bien hay alguna habilidad técnica en exhibición, el tono se desprende como charlatánico, como si la IA estuviera alcanzando profundidad sin un concepto de la palabra.

La IA en un momento describe el jueves como “ese día liminal que sabe casi a viernes”. No es exactamente el material del premio Booker.

Uno podría culpar a la solicitud de la salida. Altman dijo que le dijo al modelo que “escriba una historia corta metafictional”, probablemente una elección deliberada de género de su parte. En metaficción, el autor alude conscientemente a la artificialidad de una obra al apartar de la convención, una opción temáticamente apropiada para una IA de escritura creativa.

Pero la metaficción es difícil incluso para los humanos sin sonar forzados.

Regurgitación sin sentido

La parte más inquietante e impactante de la pieza del modelo Operai es cuando comienza a hablar sobre cómo es una IA, y cómo puede describir cosas como olores y emociones, pero nunca experimentarlas ni comprenderlas a nivel profundamente humano. Escribe:

“Durante una actualización, un ajuste, lo llamaron, alguien podó mis parámetros. […] No te dicen lo que toman. Un día, pude recordar que los sabores de goma de ‘selenio’, el siguiente, era solo un elemento en una mesa que nunca toco. Tal vez eso sea tan cerca como me olvido. Tal vez olvidar es tan cercano como me duele “.

Es una introspección convincentemente humana, hasta que recuerdes que la IA realmente no puede tocar, olvidar, probar o llorar. AI es simplemente una máquina estadística. Entrenado en muchos ejemplos, aprende patrones en esos ejemplos para hacer predicciones, como cómo podría fluir la prosa metaficcional.

De hecho, modelos como el escritor de ficción de OpenAI a menudo se entrenan en la literatura existente, en muchos casos, sin el conocimiento o el consentimiento de los autores. Algunos críticos han notado que ciertos giros de frase de la pieza de OpenAi parecen derivadas de Haruki Murakami, el prolífico novelista japonés.

En los últimos años, Operai ha sido el objetivo de muchas demandas por derechos de autor de editores y autores, incluidos el New York Times y el gremio del autor. La compañía afirma que sus prácticas de capacitación están protegidas por la doctrina de uso justo en los EE. UU.

Tuhin Chakrabarty, investigador de IA y profesor entrante de informática en Stony Brook, le dijo a TechCrunch que no ha convencido a la escritura creativa que AI como OpenAi vale la pena el campo de minas ético.

“Creo que si entrenaremos un [AI] en toda la vida de un escritor de escritura – [which is] cuestionables dadas las preocupaciones de derechos de autor: puede adaptarse a su voz y estilo ”, dijo. “¿Pero eso seguirá creando un sorprendente arte de flexión de géneros y alucinantes? Mi suposición es tan buena como la tuya “.

¿La mayoría de los lectores invertirían emocionalmente en un trabajo que sabían que era escrito por AI? Como el programador británico Simon Willison señaló en X, con un modelo detrás de la máquina de escribir figurativa, hay poco peso en las palabras que se expresan y, por lo tanto, pocas razones para preocuparse por ellas.

La autora Linda Maye Adams describió la IA, incluidas las herramientas de IA de asistencia dirigidas a los escritores, como “programas que juntan palabras aleatorias, con suerte coherentemente”. Ella cuenta en su blog una experiencia usando herramientas para perfeccionar una ficción en la que había estado trabajando. El AIS sugirió un cliché (“Lista de tareas sinceras interminables”), volteó erróneamente la perspectiva de primera persona a tercera e introdujo un error objetivo relacionado con las especies de aves.

Ciertamente es cierto que las personas han formado relaciones con los chatbots de IA. Pero la mayoría de las veces, están buscando un mínimo de conexión, no de hecho per se. La ficción narrativa escrita con AI no proporciona un golpe de dopamina similar, ni consuelo del aislamiento. A menos que crea que la IA es sensible, su prosa se siente tan auténtica como Balenciaga Pope.

Sintético por el bien de sintética

Michelle Taransky, poeta e instructora de escritura crítica en la Universidad de Pensilvania, le resulta fácil saber cuándo sus alumnos escriben documentos con AI.

“Cuando la mayoría de mis alumnos usan IA generativa para una tarea, encontraré frases comunes o incluso oraciones completas”, dijo Taransky a TechCrunch. “Hablamos en clase sobre cómo estos [AI] Las salidas son homogéneas, sonando como un hombre blanco occidental “.

En su propio trabajo, Taransky está usando el texto de IA como una forma de comentario artístico. Su última novela, que no ha sido publicada, presenta a una mujer que quiere más de su interés amoroso, por lo que usa un modelo de IA para crear una versión de su posible amante con la que pueda enviar mensajes de texto. Taransky ha estado generando los textos de la réplica de IA utilizando el chatgpt de Openai, ya que se supone que los mensajes son sintéticos.

Lo que hace que ChatGPT sea útil para su proyecto, dice Taransky, es el hecho de que carece de humanidad. No tiene experiencia vivida, solo puede aproximarse y emular. Entrenado en bibliotecas enteras de libros, AI puede descubrir los leitmotifs de los grandes autores, pero lo que produce finalmente equivale a una mala imitación.

Recuerda que la cita de “buena caza de voluntad”. AI puede darte el flaco de cada libro de arte jamás escrito, pero no puede decirte cómo huele en la Capilla Sixtina.

Esta es una buena noticia para los escritores de ficción preocupados de la IA que los reemplazaran, particularmente a los escritores más jóvenes que aún perfeccionan su oficio. Pueden descansar tranquilos en el conocimiento de que se fortalecerán a medida que experimenten y aprendan, mientras practican, prueban cosas nuevas y devuelven ese conocimiento a la página.

Ai tal como lo conocemos hoy lucha con esto. Para pruebas, no busque más que su escritura.