Connect with us

Noticias

El proyecto Stargate de OpenAi es un intento de construir un nuevo foso

Published

on

  • El chatgpt de Openai una vez le dio un foso que lo protegió de la competencia de los rivales.
  • Ese foso se ve menos seguro a medida que los gustos de la startup china Deepseek cierran la brecha.
  • Operai ahora parece listo para construir un nuevo foso con un proyecto de infraestructura de $ 500 mil millones llamado Stargate.

Operai tiene un nuevo proyecto de $ 500 mil millones llamado Stargate. Considere un intento extraordinario del fabricante de chatgpt construirse un foso completamente nuevo frente a la creciente competencia de los rivales en el hogar y una bulliciosa startup en China.

Esta semana, Openai reveló planes para cambiar el enfoque y gastar $ 500 mil millones en infraestructura de IA en los próximos cuatro años. Stargate se centrará en el hardware que alimenta el software AI avanzado, como los centros de datos y el suministro de energía, todo con la bendición de Donald Trump.

Es una cantidad colosal de dinero, pero OpenAI tiene dos razones críticas para encabezar la iniciativa junto con los socios clave Softbank, Microsoft y Oracle.

Primero, alcanzar lo que el jefe de OpenAi Sam Altman llama una era de “superinteligencia” depende de tener acceso a más potencia informática. La industria insiste en que los modelos de IA se volverán más inteligentes cuando se le dan más, lo que hace que la propiedad y el acceso sea una prioridad.

Stargate, entonces, ofrece a Openai la oportunidad de construirse el tipo de “foso” formidable que Warren Buffett dijo una vez que las compañías deben asegurarse de que mantengan una ventaja competitiva contra los rivales. Un vasto imperio de infraestructura perteneciente a OpenAi ciertamente ayudaría a darle eso.

La segunda razón para apostar en grande a la infraestructura a través de Stargate es aún más crítica: OpenAi puede no tener más remedio que construirse un nuevo foso en respuesta a una startup china que esta semana causó un revuelo en el valle de silicio.

¿Por qué Operai puede necesitar un nuevo foso?

Cuando Operai introdujo por primera vez el chatgpt al mundo, estaba claro que la combinación de un poderoso modelo de IA y una interfaz intuitiva y amigable con el consumidor le dio un foso que era la envidia de Silicon Valley.

La cantidad de foso que ofrece el chatgpt Openai ha sido un debate creciente.

El último desafío para el foso de OpenAi llegó el lunes cuando una startup china poco conocida llamada Deepseek sorprendió a los principales investigadores de IA de Estados Unidos después de revelar un nuevo modelo de IA llamado R1. En un artículo, dijo que R1 rivaliza con el modelo de IA fronteriza OpenAi introdujo hace solo cuatro meses, O1.


Chatgpt

Operai lanzó varios productos en diciembre, pero en enero, los ingenieros están hablando de Deepseek.

Captura de pantalla de shipmas



Al igual que O1, razona, lo que significa que piensa cuidadosamente antes de responder. Según Deepseek, que ha obtenido una licencia del MIT para obtener su modelo, R1 logra “rendimiento comparable a OpenAI O1 en tareas de matemáticas, código y razonamiento”.

Que una empresa china de código abierto haya podido lanzar un modelo gratuito competitivo con el mejor que Operai tiene para ofrecer no ha pasado desapercibido entre los líderes más prolíficos de la IA.

Jonathan Ross, el CEO y fundador de Groq, un rival de Nvidia respaldado por Blackrock y Samsung, respondió a una pregunta en Davos esta semana sobre el último lanzamiento de Deepseek al afirmar que “Open Models ganará”.

“Ya no podemos hacer modelos cerrados y ser competitivos, abierto siempre gana”, dijo el ex ingeniero de Google al mismo tiempo que señala que será más difícil diferenciar entre los modelos pronto. Como él dijo, “los modelos no van a ser particularmente especiales por mucho tiempo”.

Gary Marcus, un científico cognitivo e investigador de IA, le dijo a Business Insider que ha sido inflexible durante un año ahora que “los jugadores de código cerrado casi no tienen foso obvio” y que “ciertamente es aún más cierto ahora” después del lanzamiento de Deepseek.

No es la primera vez que el foso de Openai ha sido desafiado.

En mayo de 2023, cuando Google estaba ocupado jugando a Chatgpt, un memorando interno escrito por un ingeniero dentro del gigante de la búsqueda, publicado por la firma de investigación Semianalysis, advirtió que “no tenemos foso, y tampoco lo hace OpenAi”.

¿Por qué? Porque, en opinión del ingeniero, la brecha en las capacidades entre los modelos que se trabajan en Silicon Valley versus la comunidad de código abierto estaba “cerrando asombrosamente rápidamente”.

Estamos, por supuesto, casi dos años después de la advertencia emitida en ese memorando, y Operai ha convencido desde entonces a los inversores de que tiene un valor líder en el mercado, ya que ha completado una ronda de financiación de $ 6.6 mil millones con una valoración de $ 157 mil millones en octubre.

Nathan Benaich, fundador y socio general de la firma de capital de riesgo centrada en AI Air Street Capital, le ofreció a Business Insider una explicación de por qué Operai ha conservado el favor, señalando que ChatGPT tiene cosas como la facilidad de uso y la confiabilidad que lo convierten en una mejor elección para los clientes.

“Openai, creo, ha ganado el lugar de ser cocacola para los consumidores”, dijo. “¿Quién es el Pepsi? La brecha es grande”.

Avijit Ghosh, Un investigador de políticas aplicadas en Hugging Face, se duplicó sobre el punto, diciéndole a Business Insider que mientras Deepseek’s R1 rendimiento “Desafía la sabiduría convencional sobre fosas técnicas en la IA fronteriza,“Él piensa que la realidad es más matizada.

“La verdadera diferenciación ya no está en el rendimiento del modelo sin procesar: es en cómo estas capacidades se integran en aplicaciones y sistemas prácticos, y los gigantes tecnológicos todavía están por delante para poder integrar y mercantilizar verticalmente sus modelos en productos”, dijo.

Operai ofreció una demostración de esto el jueves después del lanzamiento del operador, un agente de IA que sirve como asistente capaz de reservar todo, desde reservas de cena hasta viajes.

Esto es claramente impresionante, pero la ventaja competitiva en reposo en los agentes de IA y una interfaz fácil de usar aún no pueden ser suficientes frente a toda una industria que hace que “AI AIT” se centre en su enfoque. El ritmo de innovación de la industria de la IA es implacable.

Construyendo el foso de Stargate

Stargate ofrece a Openai la oportunidad de construir un nuevo foso que podría ser más difícil de replicar que un modelo de idioma grande o agente de IA por algunas razones. Por un lado, tener más potencia informática es vital para escalar modelos a mayores niveles de inteligencia, dicen los expertos.

Dylan Patel, fundador de la firma de investigación Semianalysis, dijo a Business Insider: “Stargate es extremadamente importante para que OpenAI sea competitivo porque el acceso al cálculo es lo que les permite mantener la escala”.

Mientras tanto, Ross de Groq le dijo a un panel en Davos que ve que el acceso a la infraestructura es tan importante en el futuro que “a qué los países van a perseguir es a cuánto cómpales tienen acceso”.

Si Operai logra construir Stargate, parece que lo hará para cumplir sus propios fines. Un informe de The Financial Times esta semana dijo que Stargate servirá exclusivamente a Openai, una señal de que el proyecto está destinado a darle una ventaja a la compañía.

Operai no respondió a múltiples solicitudes de comentarios de Business Insider.

Claramente, entonces, el anuncio de Stargate sugiere que OpenAi ve la oportunidad de construir un nuevo foso. No se puede esperar que sea fácil.

El CEO de Futurum Group, Daniel Newman, señaló que si bien es probable que el proyecto funcione como una obra de VC, donde se espera que el resultado se entregue en una fecha desconocida en el futuro después de una inversión seria, “recaudar $ 500 mil millones será un desafío real. “

Operai sigue siendo la toma de pérdidas y sus socios clave de Stargatecomo Bancos blandos y Oracle, los principales financiadores de capital junto con el MGX de los EAU, tienen efectivo a mano Eso está muy por debajo de los $ 100 mil millones inicialmente desplegados. Desde una posición de capital pura, un nuevo foso no será barato.

La construcción de los centros de datos y las fuentes de energía limpia que forman este nuevo foso requerirán una coordinación nacional que abarque múltiples socios de tecnología inicial, incluidos Microsoft, Nvidia, Oracle, OpenAI y ARM. La construcción de un sitio de centro de datos en Texas está en marcha, pero el proyecto deberá ir mucho más lejos.

Ghosh de Hugging Face también cree que la narrativa de “cómputo es todo”, se pierde la marca “, ya que los pequeños equipos como Deepseek han demostrado” resultados notables a través de ingeniería inteligente “.

Aún así, Operai parece listo para ir a Stargate para construir un nuevo foso. Su liderazgo futuro en la industria puede depender de su éxito.

Continue Reading

Noticias

Deepseek R1 apuesta audaz sobre el aprendizaje de refuerzo: cómo superó a OpenAi al 3% del costo

Published

on

Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder de la industria. Obtenga más información


El lanzamiento del lunes de Deepseek R1 ha enviado ondas de choque a través de la comunidad de IA, interrumpiendo suposiciones sobre lo que se requiere para lograr un rendimiento de IA de vanguardia. Hacer coincidir con el O1 de OpenAI con solo 3% -5% del costo, este modelo de código abierto no solo ha cautivado a los desarrolladores, sino que también desafía a las empresas a repensar sus estrategias de IA.

El modelo se ha disparado al modelo de mayor tendencia que se descarga en Huggingface (109,000, a partir de este escrito), a medida que los desarrolladores se apresuran a probarlo y buscan comprender lo que significa para su desarrollo de IA. Los usuarios están comentando que la función de búsqueda adjunta de Deepseek (que puede encontrar en el sitio de Deepseek) ahora es superior a competidores como OpenAI y Perplexity, y solo está rivalizada por la investigación de Gemini Defunde de Google.

Las implicaciones para las estrategias empresariales de IA son profundas: con costos reducidos y acceso abierto, las empresas ahora tienen una alternativa a modelos patentados costosos como OpenAI. El lanzamiento de Deepseek podría democratizar el acceso a las capacidades de AI de vanguardia, lo que permite a las organizaciones más pequeñas competir de manera efectiva en la carrera armamentista de IA.

Esta historia se centra exactamente en cómo Deepseek manejó esta hazaña y en qué significa para la gran cantidad de usuarios de modelos de IA. Para las empresas que desarrollan soluciones impulsadas por la IA, el avance de Deepseek desafía los supuestos del dominio de OpenAI, y ofrece un plan para la innovación rentable. Es el “cómo” Deepseek hizo lo que hizo que debería ser el más educativo aquí.

El avance de Deepseek: moverse hacia el aprendizaje de refuerzo puro

En noviembre, Deepseek fue noticia con su anuncio de que había logrado el rendimiento superando el O1 de OpenAI, pero en ese momento solo ofrecía un modelo limitado de previsión R1-Lite. Con el lanzamiento completo del lunes de R1 y el documento técnico que lo acompaña, la compañía reveló una sorprendente innovación: una desviación deliberada del proceso convencional de ajuste fino (SFT) ampliamente utilizado en la capacitación de modelos de idiomas grandes (LLM).

SFT, un paso estándar en el desarrollo de la IA, implica modelos de capacitación en conjuntos de datos seleccionados para enseñar razonamiento paso a paso, a menudo denominado cadena de pensamiento (COT). Se considera esencial para mejorar las capacidades de razonamiento. Sin embargo, Deepseek desafió esta suposición omitiendo SFT por completo, optando en su lugar para confiar en el aprendizaje de refuerzo (RL) para entrenar el modelo.

Este movimiento audaz obligó a Deepseek-R1 a desarrollar habilidades de razonamiento independientes, evitando la fragilidad a menudo introducida por conjuntos de datos prescriptivos. Mientras que surgen algunos defectos, lo que lleva al equipo a reintroducir una cantidad limitada de SFT durante las etapas finales de construcción del modelo, los resultados confirmaron el avance fundamental: el aprendizaje de refuerzo solo podría generar ganancias de rendimiento sustanciales.

La compañía consiguió gran parte del uso de código abierto, una forma convencional y no sorprendente

Primero, algunos antecedentes sobre cómo Deepseek llegó a donde lo hizo. Deepseek, un spin-off de 2023 de la cuantificación de alto nivel de fondos de cobertura chinos, comenzó desarrollando modelos de IA para su chatbot patentado antes de liberarlos para uso público. Poco se sabe sobre el enfoque exacto de la compañía, pero se abre rápidamente obtuvo sus modelos, y es extremadamente probable que la compañía se basara en los proyectos abiertos producidos por Meta, por ejemplo, el modelo LLAMA, y la biblioteca ML Pytorch.

Para capacitar a sus modelos, la cuantía de alto vuelo obtuvo más de 10,000 GPU NVIDIA antes de las restricciones de exportación de EE. UU., Y según los informes, se expandió a 50,000 GPU a través de rutas de suministro alternativas, a pesar de las barreras comerciales. Esto palidece en comparación con los principales laboratorios de IA como OpenAi, Google y Anthrope, que funcionan con más de 500,000 GPU cada uno.

La capacidad de Deepseek para lograr resultados competitivos con recursos limitados destaca cómo el ingenio y el ingenio pueden desafiar el paradigma de alto costo de capacitar a los LLM de vanguardia.

A pesar de la especulación, se desconoce el presupuesto completo de Deepseek

Según los informes, Deepseek capacitó a su modelo base, llamado V3, con un presupuesto de $ 5.58 millones durante dos meses, según el ingeniero de NVIDIA Jim Fan. Si bien la compañía no ha divulgado los datos de capacitación exactos que utilizó (nota al margen: los críticos dicen que esto significa que Deepseek no es verdaderamente de código abierto), las técnicas modernas hacen que la capacitación en la web y los conjuntos de datos abiertos sean cada vez más accesibles. Estimar el costo total de la capacitación Deepseek-R1 es un desafío. Mientras que ejecutar 50,000 GPU sugiere gastos significativos (potencialmente cientos de millones de dólares), las cifras precisas siguen siendo especulativas.

Sin embargo, lo que está claro es que Deepseek ha sido muy innovador desde el principio. El año pasado, surgieron informes sobre algunas innovaciones iniciales que estaba haciendo, en torno a cosas como la mezcla de expertos y atención latente de múltiples cabezas.

Cómo Deepseek-R1 llegó al “Momento AHA”

El viaje a la iteración final de Deepseek-R1 comenzó con un modelo intermedio, Deepseek-R1-Zero, que fue entrenado con aprendizaje de refuerzo puro. Al confiar únicamente en RL, Deepseek incentivó a este modelo a pensar de forma independiente, recompensando tanto las respuestas correctas como los procesos lógicos utilizados para llegar a ellas.

Este enfoque condujo a un fenómeno inesperado: el modelo comenzó a asignar un tiempo de procesamiento adicional a problemas más complejos, lo que demuestra la capacidad de priorizar las tareas en función de su dificultad. Los investigadores de Deepseek describieron esto como un “momento de AHA”, donde el modelo en sí identificó y articuló nuevas soluciones a problemas desafiantes (ver captura de pantalla a continuación). Este hito subrayó el poder del aprendizaje de refuerzo para desbloquear las capacidades de razonamiento avanzado sin depender de los métodos de capacitación tradicionales como SFT.

Fuente: Papel Deepseek-R1. No dejes que este gráfico te intimida. La conclusión clave es la línea roja, donde el modelo literalmente usó la frase “Momento AHA”. Los investigadores se aferraron a esto como un ejemplo sorprendente de la capacidad del modelo para repensar los problemas en un tono antropomórfico. Para los investigadores, dijeron que era su propio “momento de aha”.

Los investigadores concluyen: “Subraya el poder y la belleza del aprendizaje de refuerzo: en lugar de enseñar explícitamente el modelo sobre cómo resolver un problema, simplemente le proporcionamos los incentivos correctos y desarrolla de forma autónoma estrategias avanzadas de resolución de problemas”.

Más que rl

Sin embargo, es cierto que el modelo necesitaba más que solo RL. El artículo continúa hablando sobre cómo a pesar de la RL creando comportamientos de razonamiento inesperados y poderosos, este modelo intermedio Deepseek-R1-Zero enfrentó algunos desafíos, incluida la mala legibilidad y la mezcla de idiomas (comenzando en chino y cambiando al inglés, por ejemplo ). Así que solo entonces el equipo decidió crear un nuevo modelo, que se convertiría en el modelo final de Deepseek-R1. Este modelo, nuevamente basado en el modelo base V3, se inyectó primero con SFT limitado, centrado en una “pequeña cantidad de datos de cuna largos” o lo que se llamaba datos de inicio frío, para solucionar algunos de los desafíos. Después de eso, se puso a través del mismo proceso de aprendizaje de refuerzo de R1-Zero. Luego, el periódico habla sobre cómo R1 pasó por algunas rondas finales de ajuste.

Las ramificaciones

Una pregunta es por qué el lanzamiento ha habido tanta sorpresa. No es como si los modelos de código abierto sean nuevos. Los modelos de código abierto tienen una gran lógica e impulso detrás de ellos. Su costo gratuito y maleabilidad es la razón por la que informamos recientemente que estos modelos van a ganar en la empresa.

El modelo 3 de peso abierto de Meta, por ejemplo, explotó en popularidad el año pasado, ya que fue ajustado por los desarrolladores que querían sus propios modelos personalizados. Del mismo modo, ahora Deepseek-R1 ya se está utilizando para destilar su razonamiento en una variedad de otros modelos mucho más pequeños, la diferencia es que Deepseek ofrece un rendimiento líder en la industria. Esto incluye ejecutar pequeñas versiones del modelo en teléfonos móviles, por ejemplo.

Deepseek-r1 no solo funciona mejor que la alternativa de código abierto líder, Llama 3. Muestra toda su cadena de pensamiento de sus respuestas de manera transparente. La llama de Meta no ha recibido instrucciones de hacer esto como un incumplimiento; Se necesita una solicitud agresiva de Llama para hacer esto.

La transparencia también ha proporcionado un ojo negro de relaciones públicas a OpenAi, que hasta ahora ha ocultado sus cadenas de pensamiento de los usuarios, citando razones competitivas y no confundir a los usuarios cuando un modelo se equivoca. La transparencia permite a los desarrolladores identificar y abordar los errores en el razonamiento de un modelo, agilizando las personalizaciones para cumplir con los requisitos empresariales de manera más efectiva.

Para los tomadores de decisiones empresariales, el éxito de Deepseek subraya un cambio más amplio en el panorama de IA: las prácticas de desarrollo más delgadas y más eficientes son cada vez más viables. Las organizaciones pueden necesitar reevaluar sus asociaciones con proveedores de IA patentados, considerando si los altos costos asociados con estos servicios están justificados cuando las alternativas de código abierto pueden ofrecer resultados comparables, si no superiores.

Sin duda, no hay plomo masivo

Si bien la innovación de Deepseek es innovadora, de ninguna manera ha establecido una ventaja dominante del mercado. Debido a que publicó su investigación, otras compañías modelo aprenderán de ella y se adaptarán. Meta y Mistral, la compañía modelo de código abierto francesa, pueden ser un latido detrás, pero probablemente solo pasarán unos meses antes de que se pongan al día. Como dijo el investigador principal de Meta, Yann Lecun: “La idea es que todos se ganen de las ideas de todos los demás. Nadie ‘supera’ a nadie y ningún país ‘pierde’ a otro. Nadie tiene el monopolio de las buenas ideas. Todos están aprendiendo de todos los demás “. Entonces es la ejecución lo que importa.

En última instancia, son los consumidores, nuevas empresas y otros usuarios los que más ganarán, porque las ofertas de Deepseek continuarán impulsando el precio de usar estos modelos cerca de cero (nuevamente, aparte del costo de ejecutar modelos con inferencia). Esta rápida mercantilización podría plantear desafíos, de hecho, dolor masivo, para los principales proveedores de IA que han invertido mucho en infraestructura patentada. Como muchos comentaristas lo han dicho, incluido Chamath Palihapitiya, un inversor y ex ejecutivo de Meta, esto podría significar que se desperdiciarán años de Opex y Capex por OpenAi y otros.

Existe un comentario sustancial sobre si es ético usar el modelo Deepseek-R1 debido a los sesgos inculcados por las leyes chinas, por ejemplo, que no debe responder preguntas sobre la brutal represión del gobierno chino en Tiananmen Square. A pesar de las preocupaciones éticas en torno a los sesgos, muchos desarrolladores ven estos sesgos como casos de borde poco frecuente en aplicaciones del mundo real, y pueden mitigarse a través del ajuste. Además, apuntan a diferentes pero análogos sesgos que tienen modelos de Operai y otras compañías. La llama de Meta se ha convertido en un modelo abierto popular a pesar de que sus conjuntos de datos no se hacen públicos, y a pesar de los prejuicios ocultos, y las demandas se presentan en su contra como resultado.

Las preguntas abundan en torno al ROI de las grandes inversiones por OpenAI

Todo esto plantea grandes preguntas sobre los planes de inversión perseguidos por Operai, Microsoft y otros. El proyecto Stargate de $ 500 mil millones de OpenAI refleja su compromiso de construir centros de datos masivos para alimentar sus modelos avanzados. Respaldado por socios como Oracle y SoftBank, esta estrategia se basa en la creencia de que lograr la inteligencia general artificial (AGI) requiere recursos de cómputo sin precedentes. Sin embargo, la demostración de Deepseek de un modelo de alto rendimiento a una fracción de los desafíos de costos de la sostenibilidad de este enfoque, lo que plantea dudas sobre la capacidad de OpenAI para ofrecer rendimientos de una inversión tan monumental.

El emprendedor y comentarista Arnaud Bertrand capturó esta dinámica, contrastando la innovación frugal y descentralizada de China con la dependencia de los Estados Unidos de la infraestructura centralizada e intensiva en recursos: “Se trata del mundo que se da cuenta de que China ha acelerado, y en algunas áreas superada: EE. UU. En tecnología y tecnología y la tecnología. Innovación, a pesar de los esfuerzos para evitar exactamente eso “. De hecho, ayer otra compañía china, Bytedance, anunció DouBao-1.5-Pro, que incluye un modo de “pensamiento profundo” que supera el O1 de OpenAI en el punto de referencia del AIME.

¿Quieres sumergirte más profundamente en cómo Deepseek-R1 está remodelando el desarrollo de la IA? Echa un vistazo a nuestra discusión en profundidad en YouTube, donde exploro este avance con el desarrollador de ML Sam Witteveen. Juntos, desglosamos los detalles técnicos, las implicaciones para las empresas y lo que esto significa para el futuro de la IA:

https://www.youtube.com/watch?v=BJZJ5LTIQE0

Continue Reading

Noticias

Deepseek-r1 vs. OpenAI’s O1: un nuevo paso en código abierto y modelos propietarios

Published

on

AI ha entrado en una era del surgimiento de modelos de idiomas grandes y innovadores y modelos multimodales. El desarrollo tiene dos lados, uno con código abierto y el otro es modelos de propiedad. Deepseek-r1un modelo de IA de código abierto desarrollado por Deepseek-AI, una compañía de investigación china, ejemplifica esta tendencia. Su surgimiento ha desafiado el dominio de modelos patentados como el O1 de OpenAi, provocando discusiones sobre la eficiencia de rentabilidad, la innovación de código abierto y el liderazgo tecnológico global en la IA. Vamos a profundizar en el desarrollo, las capacidades y las implicaciones de Deepseek-R1 al compararlo con el sistema O1 de OpenAI, considerando las contribuciones de ambos espacios.

Deepseek-R1 es el gran resultado de los esfuerzos innovadores de Deepseek-AI en LLM de código abierto para mejorar las capacidades de razonamiento a través del aprendizaje de refuerzo (RL). El desarrollo del modelo se aparta significativamente de los métodos tradicionales de capacitación de IA que dependen en gran medida del ajuste fino supervisado (SFT). En su lugar, Deepseek-R1 emplea una tubería de varias etapas que combina datos en frío, RL y datos supervisados ​​para crear un modelo capaz de razonamiento avanzado.

El proceso de desarrollo

Deepseek-R1 aprovecha un proceso único de capacitación en varias etapas para lograr capacidades de razonamiento avanzado. Se basa en su predecesor, Deepseek-R1-Zero, que empleó a Pure RL sin depender de SFT. Si bien Deepseek-R1-Zero demostró capacidades notables en los puntos de referencia de razonamiento, enfrentó desafíos como la mala legibilidad e inconsistencias del lenguaje. Deepseek-r1 adoptó un enfoque más estructurado para abordar estas limitaciones, integrando Datos de arranque en frío, RL orientado al razonamiento y SFT.

El desarrollo comenzó con la recolección de miles de ejemplos de alta calidad de largas cadenas de pensamiento (COT), una base para ajustar el modelo de base profunda-V3. Esta fase de arranque en frío enfatizó la legibilidad y la coherencia, asegurando que las salidas fueran fáciles de usar. El modelo se sometió a un proceso RL orientado al razonamiento utilizando la optimización de políticas relativas del grupo (GRPO). Este algoritmo innovador mejora la eficiencia del aprendizaje al estimar las recompensas en función de los puntajes grupales en lugar de usar un modelo crítico tradicional. Esta etapa mejoró significativamente las capacidades de razonamiento del modelo, particularmente en las tareas matemáticas, codificación y lógica intensiva. Después de la convergencia de RL, Deepseek-R1 se sometió a SFT utilizando un conjunto de datos de aproximadamente 800,000 muestras, incluidas las tareas de razonamiento y no conductores. Este proceso amplió las capacidades de uso general del modelo y mejoró su rendimiento en los puntos de referencia. Además, las capacidades de razonamiento se destilaron en modelos más pequeños, como Qwen y Llama, lo que permite el despliegue de IA de alto rendimiento en formas computacionalmente eficientes.

Excelencia técnica y rendimiento de referencia

Deepseek-R1 se ha establecido como un modelo de IA formidable, sobresaliendo en puntos de referencia en múltiples dominios. Algunos de sus puntos destacados de rendimiento clave incluyen:

  1. Matemáticas: el modelo logró un puntaje PASS@1 de 97.3% en el punto de referencia Math-500, comparable al O1-1217 de OpenAI. Este resultado subraya su capacidad para manejar tareas complejas de resolución de problemas.
  2. Codificación: en la plataforma CodeForces, Deepseek-R1 logró una calificación ELO de 2029, colocándola en el percentil superior de los participantes. También superó a otros modelos en puntos de referencia como SWE Verified y LivecodeBench, solidificando su posición como una herramienta confiable para el desarrollo de software.
  3. Los puntos de referencia de razonamiento: Deepseek-R1 logró un pase@1, anotando 71.5% en GPQA Diamond y 79.8% en AIME 2024, lo que demuestra sus capacidades de razonamiento avanzado. Su uso novedoso del razonamiento de COT y RL lograron estos resultados.
  4. Tareas creativas: Deepseek-R1 se destacó en tareas creativas y de preguntas generales más allá de los dominios técnicos, logrando una tasa de victorias del 87.6% en Alpacaeval 2.0 y 92.3% en Arenahard.

Las características clave de Deepseek-R1 incluyen:

  • Arquitectura: Deepseek-R1 utiliza una mezcla de diseño de expertos (MOE) con 671 mil millones de parámetros, activando solo 37 mil millones de parámetros por pase hacia adelante. Esta estructura permite un cálculo y escalabilidad eficientes, lo que lo hace adecuado para la ejecución local en hardware de grado consumidor.
  • Metodología de capacitación: a diferencia de los modelos tradicionales que dependen del ajuste fino supervisado, Deepseek-R1 emplea un enfoque de capacitación basado en RL. Esto permite que el modelo desarrolle de forma autónoma las capacidades de razonamiento avanzado, incluido el razonamiento y la autoverificación de COT.
  • Métricas de rendimiento: los puntos de referencia iniciales indican que Deepseek-R1 sobresale en varias áreas:
    • Math-500 (pase@1): 97.3%, superando el O1 de OpenAI que alcanzó el 96.4%.
    • Calificación de CodeForces: Cerrar competencia con las mejores calificaciones de OpenAI (2029 vs. 2061).
    • C-EVAL (puntos de referencia chinos): Lograr una precisión récord del 91.8%.
  • Se informa que Deepseek-R1 ofrece un rendimiento comparable al O1 de OpenAI a un costo aproximadamente 95% más bajo, lo que podría alterar significativamente el panorama económico del desarrollo y el despliegue de IA.

Los modelos O1 de OpenAI son conocidos por sus habilidades de razonamiento de vanguardia y resolución de problemas. Se desarrollaron enfocándose en SFT y RL a gran escala para refinar sus capacidades de razonamiento. La serie O1 se destaca en el razonamiento COT, que implica desglosar tareas complejas y detalladas en pasos manejables. Este enfoque ha llevado a un rendimiento excepcional de matemáticas, codificación y razonamiento científico.

Una fortaleza principal de la serie O1 es su enfoque en la seguridad y el cumplimiento. OpenAI ha implementado rigurosos protocolos de seguridad, incluidos ejercicios externos de equipo rojo y evaluaciones éticas, para minimizar los riesgos asociados con los resultados nocivos. Estas medidas aseguran que los modelos se alineen con las pautas éticas, lo que los hace adecuados para aplicaciones de alto riesgo. Además, la serie O1 es altamente adaptable, sobresaliendo en diversas aplicaciones que van desde la escritura creativa y la IA conversacional hasta la resolución de problemas de múltiples pasos.

Características clave del O1 de OpenAI:

  • Variantes del modelo: la familia O1 incluye tres versiones:
    1. O1: La versión completa con capacidades avanzadas.
    2. O1-Mini: un modelo más pequeño y más eficiente optimizado para la velocidad mientras mantiene un rendimiento fuerte.
    3. Modo O1 Pro: la variante más potente, que utiliza recursos informáticos adicionales para un rendimiento mejorado.
  • Capacidades de razonamiento: los modelos O1 están optimizados para tareas de razonamiento complejas y demuestran mejoras significativas sobre los modelos anteriores. Son particularmente fuertes en aplicaciones STEM, donde pueden desempeñarse en niveles comparables a los estudiantes de doctorado en tareas de referencia desafiantes.
  • Puntos de referencia de rendimiento:
    1. En el American Invitational Mathematics (AIME), el modo O1 Pro obtuvo un 86%, superando significativamente el O1 estándar, que obtuvo un 78%, mostrando sus capacidades matemáticas.
    2. En los puntos de referencia de codificación como CodeForces, los modelos O1 lograron una alta clasificación, lo que indica un fuerte rendimiento de codificación.
  • Capacidades multimodales: los modelos O1 pueden manejar entradas de texto e imágenes, lo que permite un análisis e interpretación exhaustivos de datos complejos. Esta funcionalidad multimodal mejora su aplicación en varios dominios.
  • Comprobación de facto: la verificación auto-facto mejora la precisión y la confiabilidad, particularmente en dominios técnicos como la ciencia y las matemáticas.
  • Razonamiento de la cadena de pensamiento: los modelos O1 utilizan el aprendizaje de refuerzo a gran escala para participar en procesos de razonamiento complejos antes de generar respuestas. Este enfoque les ayuda a refinar sus resultados y reconocer errores de manera efectiva.
  • Características de seguridad: Mitigación de sesgo mejorada y una mejor adhesión de la política de contenido asegurar que las respuestas generadas por los modelos O1 sean seguras y apropiadas. Por ejemplo, logran una puntuación no uniforme de 0.92 en la desafiante evaluación de rechazo.

Un análisis comparativo: Deepseek-R1 vs. OpenAI O1

Fortalezas de Deepseek-R1

  1. Accesibilidad de código abierto: el marco de código abierto de Deepseek-R1 democratiza el acceso a capacidades avanzadas de IA, fomentando la innovación dentro de la comunidad de investigación.
  2. Eficiencia de rentabilidad: el desarrollo de Deepseek-R1 aprovechó técnicas rentables, permitiendo su despliegue sin las barreras financieras a menudo asociadas con modelos patentados.
  3. Excelencia técnica: GRPO y RL orientado al razonamiento han equipado Deepseek-R1 con habilidades de razonamiento de vanguardia, particularmente en matemáticas y codificación.
  4. Destilación para modelos más pequeños: al destilar sus capacidades de razonamiento en modelos más pequeños, Deepseek-R1 expande su usabilidad. Ofrece un alto rendimiento sin demandas computacionales excesivas.

Fortalezas de OpenAi O1

  1. Medidas de seguridad integrales: los modelos O1 de OpenAI priorizan la seguridad y el cumplimiento, haciéndolos confiables para aplicaciones de alto riesgo.
  2. Capacidades generales: si bien Deepseek-R1 se centra en las tareas de razonamiento, los modelos O1 de OpenAI se destacan en diversas aplicaciones, incluida la escritura creativa, la recuperación de conocimiento e IA conversacional.

El debate de código abierto versus patentado

La aparición de Deepseek-R1 ha reavivado el debate sobre los méritos del desarrollo de IA de código abierto versus IA patentado. Los defensores de los modelos de código abierto argumentan que aceleran la innovación al agrupar la experiencia y los recursos colectivos. Además, promueven la transparencia, que es vital para la implementación ética de IA. Por otro lado, los modelos propietarios a menudo reclaman un rendimiento superior debido a su acceso a datos y recursos patentados. La competencia entre estos dos paradigmas representa un microcosmos de los desafíos más amplios en el panorama de la IA: equilibrar la innovación, la gestión de costos, la accesibilidad y las consideraciones éticas. Después del lanzamiento de Deepseek-R1, Marc Andreessen tuiteó en X, “Deepseek R1 es uno de los avances más sorprendentes e impresionantes que he visto, y como código abierto, un regalo profundo para el mundo”.

Conclusión

La aparición de Deepseek-R1 marca un momento transformador para la industria de IA de código abierto. Su naturaleza de código abierto, su rentabilidad y capacidades de razonamiento avanzado desafían el dominio de los sistemas propietarios y redefinen las posibilidades de innovación de IA. En paralelo, los modelos O1 de OpenAI establecen puntos de referencia de seguridad y capacidad general. Juntos, estos modelos reflejan la naturaleza dinámica y competitiva del panorama de IA.

Fuentes


Además, no olvides seguirnos Gorjeo y únete a nuestro Canal de telegrama y LinkedIn GRsalpicar. No olvides unirte a nuestro 70k+ ml de subreddit.

🚨 [Recommended Read] Nebius AI Studio se expande con modelos de visión, nuevos modelos de idiomas, incrustaciones y Lora (Promocionado)


Sana Hassan, una pasante de consultoría en MarktechPost y estudiante de doble grado en IIT Madras, le apasiona aplicar tecnología e IA para abordar los desafíos del mundo real. Con un gran interés en resolver problemas prácticos, aporta una nueva perspectiva a la intersección de la IA y las soluciones de la vida real.

📄 Conoce ‘altura’: la única herramienta de gestión de proyectos autónomos (patrocinada)

Continue Reading

Trending