Connect with us

Noticias

Chatgpt hace defectos profundos y a Sam Altman no le importa

Published

on

No esperaba que un producto Chatgpt se volviera viral a fines de marzo, pero aquí estamos. Openai sorprendió al mundo con el lanzamiento de GPT-4O Image Generation, un nuevo modelo de IA que está construido en ChatGPT, brindando a los usuarios características de generación de imágenes increíblemente avanzadas.

Envíe un mensaje detallado a la IA, y ChatGPT dibujará inmediatamente una imagen alucinante basada en sus instrucciones. Las imágenes pueden contener texto legible, el primero para la generación de imágenes ChatGPT, lo cual es impresionante. Además, la herramienta de generación de imágenes AI puede usar fotos reales para editarlas como desee.

El problema es que la nueva herramienta de generación de imágenes de Openai puso a disposición de los usuarios premium sin fuertes barandillas de seguridad. La red se inundó inmediatamente con defagos de Chatgpt que presentan celebridades y un montón de dibujos de IA inspirados en el estudio de Ghibli.

ChatGPT ni siquiera coloca una marca de agua en sus creaciones para informar a los espectadores que son imágenes generadas por IA. Los metadatos no son una función de seguridad lo suficientemente buena, no cuando alguien puede crear estas falsificaciones. Géminis podría eliminar las marcas de agua de las creaciones con derechos de autor, pero al menos coloca su propia marca de agua en los resultados.

Lo que es peor es la respuesta sorda de Sam Altman a todo esto. El CEO de Operai está adoptando todos los elogios que recibió la herramienta ChatGpt AI, lo que ciertamente se merece, sin comprometerse con mejores salvaguardas.

Aquí está el mensaje que Altman publicó en X poco después del lanzamiento de la generación de imágenes 4O:

> Sé yo
> Muela durante una década tratando de ayudar a hacer la superinteligencia para curar el cáncer
o lo que sea
> En su mayoría a nadie le importa durante los primeros 7.5 años, luego durante 2.5 años a todos
odios
tu por todo
> Despierta un día a cientos de mensajes: “Mira, te convertí en un twink
estilo ghibli jaja “

El mensaje acompañó un cambio de imagen de perfil para el perfil X de Altman, como se ve en la siguiente imagen. Altman reemplazó su foto con una versión de estilo Gibli creada por Chatgpt de sí mismo.

La reacción de Sam Altman en X al día después del lanzamiento O 40 Generación de imágenes en ChatGPT. Fuente de la imagen: x

Todo es divertido y juegos en este momento porque todavía tenemos que ver abusos reales. Pero no se equivoquen, las personas abusarán de la herramienta para crear defensores profundos que puedan engañar a las personas desprevenidas, especialmente a las personas menos expertas en tecnología y aquellas en países donde la IA podría no ser utilizada tan ampliamente.

No es solo Chatgpt lo que sufre de este problema de seguridad. Google tiene sus propias herramientas avanzadas de generación de imágenes para Gemini que también se pueden usar para crear falsificaciones con facilidad.

Pero Operai deliberadamente eligió no imponer reglas más estrictas. En su anuncio inicial, Openai tiene un capítulo sobre seguridad que aborda ciertos tipos de abuso, y eso es encomiable. Las imágenes de IA vienen con metadatos C2PA que identifican imágenes creadas con IA, pero todo lo que necesita hacer es tomar una captura de pantalla de esa imagen, y eliminará esos datos.

Tome la imagen superior en esta publicación anterior; Es una captura de pantalla de una imagen de estilo ghibli generada por ChatGPT que la IA hizo con el siguiente mensaje:

Hazme una imagen de estilo Gibli de estudio basada en lo que acabamos de hablar. Lo quiero en una relación de aspecto de 16:10, tienes libertad para imaginarme a mí y a ti mismo

Además, ChatGPT bloquea las solicitudes específicas, “como materiales de abuso sexual infantil y defectos sexuales”. Operai también dijo: “Cuando las imágenes de personas reales están en contexto, hemos aumentado restricciones con respecto a qué tipo de imágenes se pueden crear, con salvaguardas particularmente robustas sobre la desnudez y la violencia gráfica”. Pero esto no cambia el hecho de que cualquier usuario de ChatGPT ahora puede crear defensores profundos que puedan ser abusados. No tienen que ser sexuales para ser potencialmente peligrosos.

Operai podría hacer más aquí, pero elige no hacerlo a pesar de saber completamente que algunas de las imágenes que provienen de ChatGPT se verán como fotos reales. Esto es lo que dijo Altman en X después de que se lanzó la herramienta:

Estamos lanzando una cosa nueva hoy: ¡las imágenes en ChatGPT!

Dos cosas que decir al respecto:

1. Es una tecnología/producto increíble. Recuerdo haber visto algunas de las primeras imágenes salir de este modelo y pasar un mal rato las que realmente las hará. Creemos que a la gente le encantará, y estamos emocionados de ver la creatividad resultante.

Felicidades a nuestros investigadores @gabeegoooh @prafdhar @ajabri @eliza_luth @kenjihata @dmed256

2. Esto representa una nueva marca de alta agua para nosotros al permitir la libertad creativa. La gente va a crear algunas cosas realmente increíbles y algunas cosas que pueden ofender a las personas; Lo que nos gustaría apuntar es que la herramienta no crea cosas ofensivas a menos que lo desee, en cuyo caso lo hace. Mientras hablamos en nuestra especificación de modelo, creemos que poner esta libertad y control intelectuales en manos de los usuarios es lo correcto, pero observaremos cómo va y escuchar a la sociedad. Creemos que respetar los límites muy amplios que la sociedad eventualmente elegirá establecer para AI es lo correcto, y cada vez más importante a medida que nos acercamos a AGI. Gracias de antemano por la comprensión mientras trabajamos en esto.

También está el elefante obvio en la habitación que Altman ni siquiera aborda. Los poderes de generación de imágenes de ChatGPT acaban de hacer que los diseñadores gráficos sean obsoletos. O cerca de él. Esto siempre iba a suceder, pero las empresas de IA como OpenAi deberían al menos tratar de fingir que se preocupan por el impacto de sus productos en los trabajos y la vida tal como lo conocemos.

Volviendo a todas las imágenes de ChatGPT que veo en las redes sociales, también anotaré el desprecio de OpenAI por los derechos de autor aquí. Chatgpt no dibujará personajes que pertenecen a Studio Ghibli, claro, pero copiará el estilo y lo adaptará a lo que desee.

No es de extrañar que la reacción de Hayao Miyazaki al usar IA para la animación haya resurgido en línea esta semana. El cofundador de Studio Gibli dijo que la animación generada por IA era un “insulto a la vida en sí” cuando se le presentó una herramienta interna con AI hace unos años que podía crear dibujos en estilo Gibli. Estoy seguro de que no está muy feliz de ver que ChatGPT copia el estilo de su empresa tan fácilmente.

Eso no quiere decir que la IA no pueda usarse con fines creativos o que la nueva tecnología de generación de imágenes de ChatGPT no sea impresionante, porque lo es.

Además, en defensa de Chatgpt, vi protecciones de seguridad en mis pruebas, incluidas las relacionadas con los derechos de autor. Pero esto no cambia el hecho de que OpenAi hace que sea increíblemente fácil para cualquiera usar Deepfakes que parezcan casi indistinguibles de las fotos reales, y al CEO de la compañía no parece importarle.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

La ronda de financiamiento de $ 40 mil millones de OpenAI desafía el momento profundo y cements su dominance de IA

Published

on

La semana pasada, los procesadores de GPU de Openai “derretidos”, como lo expresaron el fundador y CEO Sam Altman. La razón: el modelo actualizado de generación de imágenes de la compañía, integrado en CHATGPT, entregó un salto significativo en las capacidades de comprensión, entrada y salida en comparación con modelos similares en el mercado. En poco tiempo, el modelo encendió un fenómeno en línea, con usuarios que generan versiones de imágenes familiares al estilo del legendario estudio de animación Ghibli. La demanda del software era tan alta que Openai se vio obligada a imponer restricciones de uso, a pesar de que el modelo estaba disponible solo para pagar a los usuarios.

Este evento ofrece una explicación clara de por qué, incluso después de que el momento profundo de Deepseek sacudió la industria de la IA en enero, los inversores siguen seguros de que el dominio de OpenAI no es cuestionado. ¿Qué tan seguro? Lo suficientemente seguro de respaldar a la compañía con una ronda de financiación récord de $ 40 mil millones, valorando a Openai en $ 300 mil millones después del dinero.

1 Ver galería

מנכ"ל OpenAi סם אלטמן 2023

Sam Altman

(Foto: Joel Saget/AFP)

Anunciado el martes, la ronda casi duplica la valoración de Operai de su aumento anterior y es el más grande para una empresa privada. Según OpenAI, los fondos acelerarán el desarrollo de la inteligencia general artificial (AGI). “[The funding] Nos permite impulsar las fronteras de la investigación de IA aún más, escalar nuestra infraestructura de cómputo y ofrecer herramientas cada vez más poderosas para los 500 millones de personas que usan CHATGPT cada semana “, dijo la compañía en un comunicado de prensa.” Estamos emocionados de trabajar en asociación con SoftBank Group: las compañías completan cómo escalar tecnología transformadora como lo hacen. Su apoyo nos ayudará a continuar construyendo sistemas de IA que impulsen el descubrimiento científico, permitan la educación personalizada, mejoren la creatividad humana y allanen el camino hacia AGI que beneficie a toda la humanidad “.

La ronda está dirigida por el SoftBank de Japón, el socio clave de OpenAI en el Proyecto Stargate, una ambiciosa iniciativa para construir una infraestructura informática de IA en los Estados Unidos con una inversión total de $ 500 mil millones. Según Bloomberg, en la primera fase, SoftBank invertirá $ 7.5 mil millones, mientras que un sindicato de inversores, incluidos Microsoft, Coatue Management, Altimeter Capital Management y Thrive Capital, contribuirá con $ 2.5 mil millones. La segunda fase, que cerrará a fin de año, hará que SoftBank invierta otros $ 22.5 mil millones, con el sindicato de inversores agregando $ 7.5 mil millones. Las conversaciones también están en marcha con el capital de Magnetar de Peter Thiel y los fundadores para unirse al sindicato.

La inversión completa de SoftBank depende de que Operai complete su transición a una estructura con fines de lucro para fin de año (actualmente está controlada por una organización sin fines de lucro). Si la transición no se completa, SoftBank tendrá la opción de reducir su inversión de $ 30 mil millones a $ 20 mil millones, lo que permite a OpenAI buscar inversores adicionales para cerrar la brecha.

Al finalizar la ronda de financiación, OpenAI se convertirá en la segunda compañía privada respaldada por la empresa más grande del mundo por capitalización de mercado, según la firma de investigación Pitchbook. Solo seguirá el SpaceX de Elon Musk, valorado en $ 350 mil millones, y superará a la empresa matriz de Tiktok Bytedance, que está valorada en $ 220 mil millones. La ronda de $ 40 mil millones también es la cantidad más grande jamás recaudada en una sola ronda por una empresa privada, eclipsando el récord anterior establecido por el grupo de hormigas de China, que recaudó $ 14 mil millones en 2018.

The Deepseek Moment: Un desafío que no pudo sacudir OpenAi

Hace solo dos meses, un aumento tan ambicioso parecía mucho menos seguro. El 20 de enero, la compañía china Deepseek presentó su modelo de razonamiento R1 AI, que ofreció un rendimiento comparable a los modelos líderes de OpenAI y sus competidores, pero según los informes, a una fracción de la potencia y el costo informático. Esta revelación envió ondas de choque a través de la industria de la IA (NVIDIA, por ejemplo, vio una pérdida de $ 1 billón en la capitalización de mercado), lo que generó dudas sobre la estrategia de alto costo que OpenAi había seguido.

El dominio de OpenAI se ha basado en inversiones masivas en desarrollo de modelos, capacitación e implementación, mejor ejemplificado por el ambicioso proyecto Stargate. La ventaja competitiva de la compañía también se ha basado en ensamblar un equipo de investigación de IA de primer nivel capaz de producir avances de vanguardia. Sin embargo, el momento de Deepseek calificó esta estrategia: si una empresa china relativamente pequeña podría lograr resultados similares con mucha menos inversión, el foso competitivo de OpenAi parecía estar en riesgo. Lógicamente, su valoración debería haber disminuido. En cambio, con la última ronda, Operai casi ha duplicado su valoración en solo seis meses.

Tres factores clave explican por qué los inversores siguen siendo optimistas en OpenAi a pesar del desafío Deepseek:

1. Las capacidades de Deepseek pueden haber sido exageradas. Después de que el bombo inicial se desvaneció, quedó claro que los costos de desarrollo de Deepseek no eran tan bajos como se creía inicialmente. Además, hay indicios de que Deepseek puede haber aprovechado los propios modelos de OpenAI en su desarrollo, lo que el gobierno de los Estados Unidos ha referido como robo de propiedad intelectual. Si esto es cierto, Operai puede tomar medidas para bloquear la explotación futura, reforzando su foso.

2. Confianza de los inversores en el liderazgo de Altman y OpenAi. La fortaleza financiera de Operai es solo una parte de su éxito; Su equipo de liderazgo, dirigido por Altman, es igualmente crucial. Los inversores confían en la capacidad del equipo para adaptarse a los cambios de mercado, como incorporar métodos de capacitación más baratos mientras asignan el poder informático a tareas más avanzadas.

3. La interrupción de Deepseek en realidad puede beneficiarse de OpenAi. Al demostrar que los modelos de IA pueden ser entrenados de manera más eficiente, Deepseek ha aumentado la demanda general del mercado de IA avanzada. Los inversores creen que Openai está mejor posicionado para capitalizar esta demanda, aprovechando tanto sus modelos existentes como sus iteraciones futuras desarrolladas con métodos más eficientes inspirados en el enfoque de Deepseek.

La revolución de IA que OpenAi encendió hace dos años y medio ahora se está acelerando aún más, y los inversores están convencidos de que la compañía permanecerá a la vanguardia. Su voto de confianza de $ 40 mil millones lo dice todo.

Continue Reading

Noticias

El plan de Google para robar la cuota de mercado de Chatgpt se trata de nivel gratuito de Gemini

Published

on

No es ningún secreto que OpenAi salió, bueno, a todos cuando lanzó Chatgpt hace más de dos años. Ahora, a medida que compañías como Google y Apple intentan competir, están comenzando detrás de Openai, al menos a los ojos del público. ¿Qué tan grande tiene la ventaja de la cabeza? A partir de marzo de 2025, ChatGPT tiene 700 millones de usuarios activos mensuales, lo cual es un total asombroso.

Eso no significa que Google sea impotente en la lucha contra OpenAI para la mayor parte de la participación de mercado de IA de grado de consumo. En los años transcurridos desde que se lanzó ChatGPT, Google aumentó el desarrollo de IA primero a través de Bard, más tarde renombrado Gemini. Mientras que el plan de Openai para monetizar el chatgpt implicó hacer un montón de características tempranas gratuitas y bloquear las avanzadas detrás de un muro de pago, Google está haciendo lo contrario.

Continue Reading

Noticias

Di de Chatgpt y Gemini 5 Image Solts, aquí está quién ganó

Published

on

Tanto Chatgpt como Gemini se consideran entre los mejores generadores de imágenes de IA. Con ambos modelos, puedes describir una escena y verla cobrar vida en segundos. Pero no todos los generadores de imágenes son creados iguales.

Para ver cómo se comparan, le di a ambas plataformas exactamente las mismas cinco indicaciones, desde la fantasía hasta el fotorrealismo, y evalué cómo cada IA ​​respondió en términos de creatividad, detalle y qué tan bien interpretaron el informe.

Continue Reading

Trending