Cuando vi la historia de mi colega Kylie Robison sobre el nuevo generador de imágenes de Openai el martes, pensé que esta semana podría ser divertida. Las imágenes generativas de IA plantean todo tipo de problemas éticos, pero las encuentro muy entretenidas, y pasé grandes trozos de ese día viendo a otros Borde El personal prueba chatgpt de manera que cubrió todo el espectro, desde lindo hasta maldito.
Noticias
El filtro Ghibli de Chatgpt es político ahora, pero siempre fue
Pero el jueves por la tarde, la Casa Blanca decidió estropearlo. Su cuenta X publicó una fotografía de un detenido de llanto que se jactó era un traficante de fentanilo arrestado e inmigrante indocumentado. Luego agregó una caricatura generada por AI de un oficial que esposó a la mujer sollozada, no atribuida a ninguna herramienta en particular, pero en el estilo inconfundible de las imitaciones súper populares de Ghibli Studio Gibli de Chatgpt, que han inundado Internet durante la última semana.
Un uso feo de una herramienta de software no debe acusar necesariamente a esa herramienta. Pero cuando la imagen se unió al anfitrión de otros en mis feeds sociales, el adorable filtro de Ghibli y el bombardeo de las redes sociales de la Casa Blanca comenzaron a sentirse de alguna manera hechos el uno por el otro. Ambos son, tan contraintuitivos como pueden parecer, el producto de una mentalidad que trata la decencia básica como debilidad e insensibilidad como la prerrogativa del poder.
Nos comunicamos con OpenAi y la Casa Blanca para obtener más detalles, pero la medida ascendió a un extraño anuncio de productos de la compañía que el propio presidente Donald Trump tiene vínculos estrechos. Los jefes de estado han estado subiendo a los memes de las redes sociales durante años, y no técnicamente Sepa si ChatGPT u otro generador de IA produjo la imagen. (En las posibilidades del 1 por ciento, la Casa Blanca encargó a un artista y están leyendo esto, me encantaría saber de ellos). Pero el CEO de OpenAi, Sam Altman, ha estado promoviendo las imágenes generadas por el estilo de Ghibli como una característica genial actualmente exclusiva de los niveles pagos de Chatgpt. Y Trump es un refuerzo muy público del proyecto Stargate de OpenAI, anunciándolo en una conferencia de prensa con Altman.
En la superficie, Ai Ghibli y Trump encajan extrañamente. El objetivo claro de la Casa Blanca era un tipo familiar de sadismo performativo extremadamente en línea; Esta es la misma cuenta que publicó un video de “ASMR: vuelo ilegal de deportación alienígena” de las cadenas de tintineo de los prisioneros. Es asqueroso y juvenil, incluso si asumimos que toda su información es precisa, en lugar de, por ejemplo, el resultado de algo como agentes que leen un tatuaje de conciencia del autismo como símbolo de pandillas. Ninguna persona razonable defiende la humillación pública nacional de lo que parece ser un detenido de inmigración de nivel bastante bajo como buen gobierno, mensajes públicos efectivos o un bien moral.
La estética de Ghibli es tan saludable que socava esto. Incluso un prominente conservador de Silicon Valley ha señalado que representar a una mujer de anime sollozada arrestada por un agente con cara de piedra no pone la simpatía de la mayoría de las personas con el agente.
Sin embargo, AI Media en general es la estética principal del movimiento MAGA, que produce muchos otros trabajos extraños e insípidos. Es una consecuencia natural de su amor de larga data por las fotos de Photoshop y los dibujos animados que representan a Trump como un musculoso exagerado. También es el producto de los vínculos entre Trump y la industria de la IA, la mayoría de los “primer amigo” y el fundador de Xai, Elon Musk, pero también cosas como Stargate y la colocación de David Sacks como “Ai Czar”.
Hace ocho años, una compañía de tecnología podría haberse distanciado de alguien que salta sobre sus memes para promover la deportación masiva
No sé cómo se sienten Openai y Altman acerca de la Casa Blanca que promueve un anuncio conjunto para ChatGPT y un intento brutal y probablemente parcialmente ilegal de expulsar a los inmigrantes de Estados Unidos. (Altman era un conocido patrocinador de causas progresivas hasta esta administración). Antes de la publicación de esta imagen, el equipo de OpenAI enfatizó que se supone que el generador de imágenes de ChatGPT ofrece una barandilla altamente flexible, por lo que pueden sostener que esto no es diferente del uso de Photoshop ofensivamente. Y esto podría ser evidente, pero no estoy claro que Operai debería o podría Bloquee la mera producción de algo como esta imagen: si no hubiera sido publicado por la Casa Blanca, incluso podría leerla como una protesta de estos arrestos.
Al mismo tiempo, hace 8 años, cuando Silicon Valley y Trump estaban en oposición, una importante compañía tecnológica podría haberse distanciado. Una declaración como “OpenAI cree en la máxima libertad artística y capacidad de respuesta a las solicitudes de los usuarios, pero la publicación de esta administración no refleja los valores de nuestra empresa” no es una aguja difícil de enhebrar.
La presión social y política para evitar hacerlo ahora es abrumadora. Cualesquiera que sean las opiniones internas del personal de OpenAI, es un mal negocio ser agotado por un presidente vengativo y luego darse la vuelta para criticar sus políticas, particularmente en medio de un giro a la derecha más grande de Silicon Valley.
Pero también hay algo más profundo en el juego, porque el filtro de Ghibli en sí tiene un regusto agrio: en esencia, es un eco menor del total desprecio de la era de Trump por otros seres humanos.
No soy remotamente inmune al atractivo de las imágenes giblificadoras. En serio. Algunos de ellos son realmente adorables. La gente ha amado los filtros de anime durante años, y no creo que la mayoría de estas imágenes se hayan creado con mala intención. Pero el cineasta Hayao Miyazaki, cuyo nombre es sinónimo del estudio de animación, es uno de los artistas más famosos del mundo. Es ampliamente citado por llamar a una versión anterior de AI Animation “Un insulto a la vida en sí misma”, y no hay señal de que apruebe de que Chatgpt se use para imitar su estilo característico probablemente gracias a la capacitación en su arte, y mucho menos que sean OpenAi vendiendo suscripciones desde el fondo. Utilizando el trabajo de Ghibli específicamente para la publicidad, como Sangre en la máquina El autor Brian Merchant explica, es un movimiento de poder. Le dice en voz alta a los artistas cuyas creaciones hacen que Chatgpt funcione, Tomaremos lo que queremos y le diremos a todos que lo estamos haciendo. ¿Te das consentimiento? No nos importa.
Operai podría haberse acercado a los artistas como socios, no a productores obsoletos de datos de capacitación en bruto
La tecnología y la política contemporánea están unidas en una ideología de dominación: el principio de que la fuerza, el dinero y la autoridad se manejan mejor obligando a otros a hacer lo que quieran. Con Trump, esto probablemente se explique por sí mismo. Con la tecnología, se manifiesta en cada característica de IA inútil que reemplaza algo útil, en la insistencia de que una tecnología sucederá porque es inevitable, no porque haya persuadido a las personas, hace algo bueno. La crítica es un desgarro sin sentido de los grandes hombres. La empatía, la autoexaminación y el compromiso son afeminados y débiles.
La ironía es que en medio de un mar de casos de uso de IA inútil o disfuncional, el filtro Gibli es muy popular. Pero hay un mundo en el que OpenAi capturó su atractivo sin una falta de respeto descarada por las personas en cuyo trabajo se está basando. Las compañías de IA podrían (si no tan barato) haber construido sus productos mientras se acercan a los artistas como socios en lugar de productores obsoletos de datos de capacitación en bruto. Incluso si alguien como Miyazaki nunca acepte la imitación automatizada, OpenAi podría haber encontrado otro animador o dibujante y chatgpt sintonizado para trabajar bien con su estilo, promoviendo a un artista menos conocido en el proceso. Pero eso requeriría creer que las personas que no son grandes hombres valen la pena trabajar y aprender, no simplemente abrumadoras.
Una vez más, ¿creo que pagar por ChatGPT te convierte en una mala persona? En algún momento, pagar por casi cualquier cosa financia algo inhumano y dañino, a menudo de maneras mucho más destructivas. Todos dibujamos estas líneas para nosotros mismos, y no estoy seguro de dónde caen el mío.
Sin embargo, las protestas de derribo de Tesla demuestran cómo atar su negocio a la política tóxica puede ser contraproducente. Innumerables personas están usando Chatgpt para hacer fotos lindas de sus seres queridos; Hay algo muy triste en Operai que en silencio, dejando que la Casa Blanca muestre el meme como una forma de intimidar a los impotentes. ¿Los investigadores de OpenAI piensan que esto avanza la causa de “AI para el bien”? Y a medida que todas las empresas en Silicon Valley comproban sus sistemas de IA, dónde dibujarán su ¿pauta?