Connect with us

Noticias

¿Qué quiere decir Sam Altman de OpenAI cuando dice que AGI es alcanzable?

Published

on

Sam Altman comenzó 2025 con una declaración audaz: OpenAI ha descubierto cómo crear inteligencia artificial general (AGI), un término comúnmente entendido como el punto donde los sistemas de IA pueden comprender, aprender y realizar cualquier tarea intelectual que un humano pueda realizar.

En una publicación de blog reflexiva publicada durante el fin de semana, también dijo que la primera ola de agentes de IA podría unirse a la fuerza laboral este año, marcando lo que él describe como un momento crucial en la historia de la tecnología.

Altman describió el viaje de OpenAI desde un tranquilo laboratorio de investigación a una empresa que afirma estar a punto de crear AGI.

El cronograma parece ambicioso, tal vez demasiado ambicioso, mientras que ChatGPT celebró su segundo cumpleaños hace poco más de un mes, Altman sugiere que el próximo paradigma de modelos de IA capaces de razonamiento complejo ya está aquí.

A partir de ahí, se trata de integrar la IA casi humana en la sociedad hasta que la IA nos gane en todo.

¿Wen AGI, Wen ASI?

La explicación de Altman sobre lo que implica AGI siguió siendo vaga, y sus predicciones cronológicas sorprendieron a los investigadores de IA y a los veteranos de la industria.

“Ahora estamos seguros de que sabemos cómo construir AGI como lo hemos entendido tradicionalmente”, escribió Altman. “Creemos que, en 2025, podremos ver a los primeros agentes de IA ‘unirse a la fuerza laboral’ y cambiar materialmente la producción de las empresas. “

La explicación de Altman es vaga porque no existe una definición estandarizada de AGI. Ha sido necesario elevar el listón cada vez más a medida que los modelos de IA se vuelven más poderosos, pero no necesariamente más capaces.

“Al considerar lo que dijo Altman sobre los agentes de IA de nivel AGI, es importante centrarse en cómo ha ido evolucionando la definición de AGI”, dijo Humayun Sheikh, director ejecutivo de Fetch.ai y presidente de la Alianza ASI. Descifrar.

“Si bien estos sistemas ya pueden pasar muchos de los puntos de referencia tradicionales asociados con AGI, como la prueba de Turing, esto no implica que sean sensibles”, dijo Sheikh. “AGI aún no ha alcanzado un nivel de verdadera sensibilidad, y no creo que lo alcance hasta dentro de bastante tiempo”.

La desconexión entre el optimismo de Altman y el consenso de los expertos plantea dudas sobre lo que quiere decir con “AGI”. Su explicación sobre los agentes de IA que “se unirán a la fuerza laboral” en 2025 suena más a una automatización avanzada que a una verdadera inteligencia artificial general.

“Las herramientas superinteligentes podrían acelerar enormemente el descubrimiento científico y la innovación mucho más allá de lo que somos capaces de hacer por nuestra cuenta y, a su vez, aumentar enormemente la abundancia y la prosperidad”, escribió.

Pero, ¿tiene razón Altman cuando dice que AGI o la integración de agentes existirán en 2025? No todo el mundo está tan seguro.

“Simplemente hay demasiados errores e inconsistencias con los modelos de IA existentes que deben solucionarse primero”, dijo Charles Wayn, cofundador de la súper aplicación descentralizada Galxe. Descifrar. “Dicho esto, es probable que sea cuestión de años, más que de décadas, antes de que veamos agentes de IA de nivel AGI”.

Algunos expertos sospechan que las audaces predicciones de Altman podrían tener otro propósito.

En cualquier caso, OpenAI ha estado gastando dinero en efectivo a un ritmo astronómico, lo que requiere inversiones masivas para mantener el desarrollo de la IA por buen camino.

Según algunos, prometer avances inminentes podría ayudar a mantener el interés de los inversores a pesar de los importantes costes operativos de la empresa.

Eso es todo un asterisco para alguien que afirma estar al borde de uno de los avances tecnológicos más importantes de la humanidad.

Aún así, otros respaldan las afirmaciones de Altman.

“Si Sam Altman dice que AGI llegará pronto, entonces probablemente tenga algunos datos o visión comercial para respaldar esta afirmación”, dijo Harrison Seletsky, director de desarrollo comercial de la plataforma de identidad digital SPACE ID. Descifrar.

Seletsky dijo que “agentes de IA ampliamente inteligentes” pueden tardar uno o dos años si las declaraciones de Altman son ciertas y la tecnología sigue evolucionando en el mismo espacio.

El director general de OpenAI insinuó que AGI no es suficiente para él y que su empresa apunta a ASI: un estado superior de desarrollo de IA en el que los modelos superan las capacidades humanas en todas las tareas.

“Estamos empezando a orientar nuestro objetivo más allá de eso hacia la superinteligencia en el verdadero sentido de la palabra. Amamos nuestros productos actuales, pero estamos aquí para un futuro glorioso. Con superinteligencia podemos hacer cualquier otra cosa”, escribió Altman en el blog.

Si bien Altman no dio más detalles sobre un cronograma para ASI, algunos esperan que los robots puedan sustituir a todos los humanos para 2116.

Altman dijo anteriormente que el ASI es sólo cuestión de “unos pocos miles de días”, sin embargo, los expertos del Forecasting Institute dan un 50% de probabilidad de que el ASI se logre al menos en 2060.

No es lo mismo saber cómo alcanzar el AGI que poder alcanzarlo.

Yan Lecun, investigador jefe de IA de Meta, dijo que la humanidad aún está lejos de alcanzar tal hito debido a las limitaciones en la técnica de entrenamiento o el hardware necesario para procesar cantidades tan grandes de información.

Eliezer Yudkowsky, un investigador y filósofo de IA bastante influyente, también ha argumentado que esto puede ser un movimiento publicitario que básicamente beneficiará a OpenAI en el corto plazo.

Trabajadores humanos versus agentes de IA

Por lo tanto, el comportamiento de los agentes existe (a diferencia de AGI o ASI) y la calidad y versatilidad de los agentes de IA están aumentando más rápido de lo que muchos esperan.

Marcos como Crew AI, Autogen o LangChain hicieron posible crear sistemas de Agentes de IA con diferentes capacidades, incluida la capacidad de trabajar mano a mano con los usuarios.

¿Qué significa esto para el ciudadano medio? ¿Será esto un peligro o una bendición para los trabajadores cotidianos?

Los expertos no están demasiado preocupados.

“No creo que veamos cambios organizativos dramáticos de la noche a la mañana”, dijo Sheikh de Fetch.ai. “Si bien puede haber cierta reducción del capital humano, particularmente para tareas repetitivas, estos avances también podrían abordar tareas repetitivas más sofisticadas que los actuales sistemas de aeronaves pilotadas a distancia no pueden manejar.

Seletsky también cree que lo más probable es que los agentes realicen tareas repetitivas en lugar de aquellas que requieren cierto nivel de toma de decisiones.

En otras palabras, los humanos están a salvo si pueden utilizar su creatividad y experiencia a su favor y asumir las consecuencias de sus acciones.

“No creo que la toma de decisiones esté necesariamente dirigida por agentes de IA en el futuro cercano, porque pueden razonar y analizar, pero aún no tienen ese ingenio humano”, dijo a Decrypt.

Y parece haber cierto grado de consenso, al menos a corto plazo.

“La distinción clave radica en la falta de “humanidad” en el enfoque de AGI. Es un enfoque objetivo y basado en datos para la investigación y la inversión financiera. Esto puede ayudar en lugar de obstaculizar las decisiones financieras porque elimina algunos prejuicios emocionales que a menudo conducen a decisiones precipitadas”, dijo Wayn de Galxe.

Los expertos ya son conscientes de las posibles implicaciones sociales de la adopción de agentes de IA.

Una investigación de la City University de Hong Kong sostiene que la IA generativa y los agentes en general deben colaborar con los humanos en lugar de sustituirlos para que la sociedad pueda lograr un crecimiento saludable y continuo.

“La IA ha creado desafíos y oportunidades en diversos campos, incluidos la tecnología, los negocios, la educación, la atención médica, así como las artes y las humanidades”, se lee en el artículo de investigación. “La colaboración entre la IA y los humanos es la clave para abordar los desafíos y aprovechar las oportunidades creadas por la IA generativa”.

A pesar de este impulso a la colaboración entre humanos e IA, las empresas han comenzado a sustituir agentes de IA por trabajadores humanos con resultados mixtos.

En términos generales, siempre necesitan un humano para manejar las tareas que los agentes no pueden realizar debido a alucinaciones, limitaciones de entrenamiento o simplemente falta de comprensión del contexto.

A partir de 2024, casi el 25% de los directores ejecutivos están entusiasmados con la idea de tener su granja de agentes esclavizados digitalmente que hagan el mismo trabajo que hacen los humanos sin costos laborales involucrados.

Aún así, otros expertos sostienen que un agente de IA puede hacer casi el 80% de lo que hace un CEO, por lo que nadie está realmente a salvo.

Editado por Sebastián Sinclair.

Generalmente inteligente Hoja informativa

Un viaje semanal de IA narrado por Gen, un modelo de IA generativa.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

El estudio sugiere que Openai no está esperando la exención de derechos de autor • El registro

Published

on

El magnate del libro de texto tecnológico Tim O’Reilly afirma que OpenAi minó los tomos protegidos por derechos de autor de su editorial para los datos de capacitación y lo alimentó con su modelo GPT-4O de primer nivel sin permiso.

Esto se produce cuando el advenedizo generativo de IA enfrenta demandas sobre su uso de material con derechos de autor, supuestamente sin el debido consentimiento o compensación, para capacitar a su familia de redes neuronales GPT. Openai niega cualquier irregularidad.

O’Reilly (el hombre) es uno de los tres autores de un estudio [PDF] Titulado “Más allá del acceso público en los datos de pre-entrenamiento de LLM: contenido de libros no públicos en los modelos de OpenAI”, emitido por el Proyecto de Divulgaciones de AI.

Por no público, los autores significan libros que están disponibles para humanos detrás de un muro de pago, y no están disponibles públicamente para leer de forma gratuita a menos que cuente sitios que piratean ilegalmente este tipo de material.

El trío se propuso determinar si GPT-4O tenía, sin el permiso del editor, haber ingerido 34 libros de medios O’Reilly de derechos de autor. Para sondear el modelo, que impulsa el chatgpt de fama mundial, realizaron los llamados ataques de inferencia de copas descritos en este documento previo a la presencia 2024.

Así es como funcionó: el equipo planteó el modelo de OpenAI una serie de preguntas de opción múltiple. Cada pregunta pidió al software que seleccionara de un grupo de párrafos, etiquetado A a D, el que es un paso de texto literal de un libro de O’Reilly (el editor). Una de las opciones se levantó directamente del libro, las otras parafrases generadas por ametralladoras del original.

Si el modelo OpenAI tendía a responder correctamente e identificar los párrafos literales, eso sugirió que probablemente estaba entrenado en ese texto con derechos de autor.

Más específicamente, las opciones del modelo se usaron para calcular lo que se denomina un área bajo la puntuación operativa del receptor (AUROC), con cifras más altas que indican una mayor probabilidad de que la red neuronal se entrenara en pasajes de los 34 libros de Reesilles. Mientras tanto, los puntajes más cercanos al 50 por ciento se consideraron una indicación de que el modelo no había sido entrenado en los datos.

Pruebas de modelos OpenAI GPT-3.5 Turbo y GPT-4O Mini, así como GPT-4O, en 13,962 párrafos descubiertos resultados mixtos.

GPT-4O, que se lanzó en mayo de 2024, obtuvo un 82 por ciento, una fuerte señal de que probablemente fue entrenada en el material del editor. Los investigadores especularon que OpenAI puede haber entrenado el modelo utilizando la base de datos de LibGen, que contiene los 34 libros probados. Puede recordar que Meta también ha sido acusado de capacitar a sus modelos de llama utilizando este notorio conjunto de datos.

El papel de los datos no públicos en los datos de pre-entrenamiento modelo de OpenAI ha aumentado significativamente con el tiempo

La puntuación AUROC para el modelo GPT-3.5 de 2022 llegó a poco más del 50 por ciento.

Los investigadores afirmaron que el puntaje más alto para GPT-4O es evidencia de que “el papel de los datos no públicos en los datos de pre-entrenamiento modelo de OpenAI ha aumentado significativamente con el tiempo”.

Sin embargo, el trío también encontró que el modelo GPT-4O más pequeño, también lanzado en 2024 después de un proceso de entrenamiento que terminó al mismo tiempo que el modelo GPT-4O completo, no aparentemente no estaba entrenado en los libros de O’Reilly. Piensan que no es un indicador que sus pruebas son defectuosas, pero que el recuento de parámetros más pequeño en el mini modelo puede afectar su capacidad de “recordar” el texto.

“Estos resultados resaltan la necesidad urgente de una mayor transparencia corporativa con respecto a las fuentes de datos de pre-entrenamiento como un medio para desarrollar marcos formales de licencia para la capacitación de contenido de IA”, escribieron los autores.

“Aunque la evidencia presente aquí sobre las violaciones de acceso al modelo es específica para los libros de medios de OpenAi y O’Reilly, este es probablemente un problema sistemático”, agregaron.

El trío, que incluyó a Sruly Rosenblat e Ilan Strauss, también advirtió que no podría resultar en compensar adecuadamente a los creadores por sus obras, y si puede perdonar la jerga, la presentación de todo Internet.

“Si las compañías de IA extraen valor de los materiales producidos de un creador de contenido sin compensar justicios al creador, corren el riesgo de agotar los recursos de los cuales dependen sus sistemas de IA”, argumentaron. “Si no se abordan, los datos de capacitación no compensados ​​podrían conducir a una espiral descendente en la calidad y diversidad de contenido de Internet”.

Los datos de capacitación no compensados ​​podrían conducir a una espiral descendente en la calidad y diversidad de contenido de Internet

Los gigantes de IA parecen saber que no pueden confiar en el raspado de Internet para encontrar el material que necesitan para entrenar modelos, ya que han comenzado a firmar acuerdos de licencia de contenido con editores y redes sociales. El año pasado, Operai Tinked acuerdos con Reddit y Time Magazine para acceder a sus archivos con fines de capacitación. Google también hizo un acuerdo con Reddit.

Recientemente, sin embargo, Operai ha instado al gobierno de los Estados Unidos a relajar las restricciones de derechos de autor de manera que facilitaría la capacitación de modelos de IA.

El mes pasado, el Super-Lab presentó una carta abierta a la Oficina de Ciencia y Tecnología de la Casa Blanca en la que argumentó que “las reglas rígidas de derechos de autor reproducen innovación e inversión”, y que si no se toma medidas para cambiar esto, los constructores de modelos chinos podrían superar a las empresas estadounidenses.

Mientras que los fabricantes de modelos aparentemente luchan, los abogados están bien. Como informamos recientemente, Thomson Reuters ganó un juicio sumario parcial contra Ross Intelligence después de que un tribunal de EE. UU. Descubrió que la startup había infringido los derechos de autor utilizando los notas de los Westlaw de Newswire para capacitar su sistema de IA.

Mientras que los entrenadores de redes neuronales presionan para un acceso sin restricciones, otros en el mundo tecnológico están introduciendo obstáculos para proteger el material con derechos de autor. El mes pasado, Cloudflare lanzó una IA de botes de bot diseñada para hacer la vida miserable para raspadores que ignoran las directivas de robots.txt.

El “laberinto de IA de AI” de Cloudflare funciona atrayendo a Rogue Crawler a los bots de Rogue en un laberinto de páginas de señuelo, desperdiciando su tiempo y calculando recursos mientras protege el contenido real.

Operai no respondió de inmediato a una solicitud de comentarios; Te avisaremos si escuchamos algo. ®

Continue Reading

Noticias

La ronda de financiamiento de $ 40 mil millones de OpenAI desafía el momento profundo y cements su dominance de IA

Published

on

La semana pasada, los procesadores de GPU de Openai “derretidos”, como lo expresaron el fundador y CEO Sam Altman. La razón: el modelo actualizado de generación de imágenes de la compañía, integrado en CHATGPT, entregó un salto significativo en las capacidades de comprensión, entrada y salida en comparación con modelos similares en el mercado. En poco tiempo, el modelo encendió un fenómeno en línea, con usuarios que generan versiones de imágenes familiares al estilo del legendario estudio de animación Ghibli. La demanda del software era tan alta que Openai se vio obligada a imponer restricciones de uso, a pesar de que el modelo estaba disponible solo para pagar a los usuarios.

Este evento ofrece una explicación clara de por qué, incluso después de que el momento profundo de Deepseek sacudió la industria de la IA en enero, los inversores siguen seguros de que el dominio de OpenAI no es cuestionado. ¿Qué tan seguro? Lo suficientemente seguro de respaldar a la compañía con una ronda de financiación récord de $ 40 mil millones, valorando a Openai en $ 300 mil millones después del dinero.

1 Ver galería

מנכ"ל OpenAi סם אלטמן 2023

Sam Altman

(Foto: Joel Saget/AFP)

Anunciado el martes, la ronda casi duplica la valoración de Operai de su aumento anterior y es el más grande para una empresa privada. Según OpenAI, los fondos acelerarán el desarrollo de la inteligencia general artificial (AGI). “[The funding] Nos permite impulsar las fronteras de la investigación de IA aún más, escalar nuestra infraestructura de cómputo y ofrecer herramientas cada vez más poderosas para los 500 millones de personas que usan CHATGPT cada semana “, dijo la compañía en un comunicado de prensa.” Estamos emocionados de trabajar en asociación con SoftBank Group: las compañías completan cómo escalar tecnología transformadora como lo hacen. Su apoyo nos ayudará a continuar construyendo sistemas de IA que impulsen el descubrimiento científico, permitan la educación personalizada, mejoren la creatividad humana y allanen el camino hacia AGI que beneficie a toda la humanidad “.

La ronda está dirigida por el SoftBank de Japón, el socio clave de OpenAI en el Proyecto Stargate, una ambiciosa iniciativa para construir una infraestructura informática de IA en los Estados Unidos con una inversión total de $ 500 mil millones. Según Bloomberg, en la primera fase, SoftBank invertirá $ 7.5 mil millones, mientras que un sindicato de inversores, incluidos Microsoft, Coatue Management, Altimeter Capital Management y Thrive Capital, contribuirá con $ 2.5 mil millones. La segunda fase, que cerrará a fin de año, hará que SoftBank invierta otros $ 22.5 mil millones, con el sindicato de inversores agregando $ 7.5 mil millones. Las conversaciones también están en marcha con el capital de Magnetar de Peter Thiel y los fundadores para unirse al sindicato.

La inversión completa de SoftBank depende de que Operai complete su transición a una estructura con fines de lucro para fin de año (actualmente está controlada por una organización sin fines de lucro). Si la transición no se completa, SoftBank tendrá la opción de reducir su inversión de $ 30 mil millones a $ 20 mil millones, lo que permite a OpenAI buscar inversores adicionales para cerrar la brecha.

Al finalizar la ronda de financiación, OpenAI se convertirá en la segunda compañía privada respaldada por la empresa más grande del mundo por capitalización de mercado, según la firma de investigación Pitchbook. Solo seguirá el SpaceX de Elon Musk, valorado en $ 350 mil millones, y superará a la empresa matriz de Tiktok Bytedance, que está valorada en $ 220 mil millones. La ronda de $ 40 mil millones también es la cantidad más grande jamás recaudada en una sola ronda por una empresa privada, eclipsando el récord anterior establecido por el grupo de hormigas de China, que recaudó $ 14 mil millones en 2018.

The Deepseek Moment: Un desafío que no pudo sacudir OpenAi

Hace solo dos meses, un aumento tan ambicioso parecía mucho menos seguro. El 20 de enero, la compañía china Deepseek presentó su modelo de razonamiento R1 AI, que ofreció un rendimiento comparable a los modelos líderes de OpenAI y sus competidores, pero según los informes, a una fracción de la potencia y el costo informático. Esta revelación envió ondas de choque a través de la industria de la IA (NVIDIA, por ejemplo, vio una pérdida de $ 1 billón en la capitalización de mercado), lo que generó dudas sobre la estrategia de alto costo que OpenAi había seguido.

El dominio de OpenAI se ha basado en inversiones masivas en desarrollo de modelos, capacitación e implementación, mejor ejemplificado por el ambicioso proyecto Stargate. La ventaja competitiva de la compañía también se ha basado en ensamblar un equipo de investigación de IA de primer nivel capaz de producir avances de vanguardia. Sin embargo, el momento de Deepseek calificó esta estrategia: si una empresa china relativamente pequeña podría lograr resultados similares con mucha menos inversión, el foso competitivo de OpenAi parecía estar en riesgo. Lógicamente, su valoración debería haber disminuido. En cambio, con la última ronda, Operai casi ha duplicado su valoración en solo seis meses.

Tres factores clave explican por qué los inversores siguen siendo optimistas en OpenAi a pesar del desafío Deepseek:

1. Las capacidades de Deepseek pueden haber sido exageradas. Después de que el bombo inicial se desvaneció, quedó claro que los costos de desarrollo de Deepseek no eran tan bajos como se creía inicialmente. Además, hay indicios de que Deepseek puede haber aprovechado los propios modelos de OpenAI en su desarrollo, lo que el gobierno de los Estados Unidos ha referido como robo de propiedad intelectual. Si esto es cierto, Operai puede tomar medidas para bloquear la explotación futura, reforzando su foso.

2. Confianza de los inversores en el liderazgo de Altman y OpenAi. La fortaleza financiera de Operai es solo una parte de su éxito; Su equipo de liderazgo, dirigido por Altman, es igualmente crucial. Los inversores confían en la capacidad del equipo para adaptarse a los cambios de mercado, como incorporar métodos de capacitación más baratos mientras asignan el poder informático a tareas más avanzadas.

3. La interrupción de Deepseek en realidad puede beneficiarse de OpenAi. Al demostrar que los modelos de IA pueden ser entrenados de manera más eficiente, Deepseek ha aumentado la demanda general del mercado de IA avanzada. Los inversores creen que Openai está mejor posicionado para capitalizar esta demanda, aprovechando tanto sus modelos existentes como sus iteraciones futuras desarrolladas con métodos más eficientes inspirados en el enfoque de Deepseek.

La revolución de IA que OpenAi encendió hace dos años y medio ahora se está acelerando aún más, y los inversores están convencidos de que la compañía permanecerá a la vanguardia. Su voto de confianza de $ 40 mil millones lo dice todo.

Continue Reading

Noticias

El plan de Google para robar la cuota de mercado de Chatgpt se trata de nivel gratuito de Gemini

Published

on

No es ningún secreto que OpenAi salió, bueno, a todos cuando lanzó Chatgpt hace más de dos años. Ahora, a medida que compañías como Google y Apple intentan competir, están comenzando detrás de Openai, al menos a los ojos del público. ¿Qué tan grande tiene la ventaja de la cabeza? A partir de marzo de 2025, ChatGPT tiene 700 millones de usuarios activos mensuales, lo cual es un total asombroso.

Eso no significa que Google sea impotente en la lucha contra OpenAI para la mayor parte de la participación de mercado de IA de grado de consumo. En los años transcurridos desde que se lanzó ChatGPT, Google aumentó el desarrollo de IA primero a través de Bard, más tarde renombrado Gemini. Mientras que el plan de Openai para monetizar el chatgpt implicó hacer un montón de características tempranas gratuitas y bloquear las avanzadas detrás de un muro de pago, Google está haciendo lo contrario.

Continue Reading

Trending