Connect with us

Noticias

“Es una suerte y una lección de humildad” trabajar hacia la superinteligencia

Published

on

Sam Altman, director ejecutivo y cofundador de OpenAI, ha compartido reflexiones sinceras sobre el viaje de la empresa en su objetivo de lograr la superinteligencia.

Ahora que ChatGPT celebra recientemente su segundo aniversario, Altman describe los logros de OpenAI, los desafíos actuales y la visión para el futuro de la IA.

“El segundo cumpleaños de ChatGPT fue hace sólo poco más de un mes, y ahora hemos hecho la transición al siguiente paradigma de modelos que pueden realizar razonamientos complejos”, reflexiona Altman.

Una misión audaz para lograr AGI y superinteligencia

OpenAI se fundó en 2015 con una misión clara, aunque audaz: desarrollar AGI y garantizar que beneficie a toda la humanidad.

Altman y el equipo fundador creían que AGI podría convertirse en “la tecnología de mayor impacto en la historia de la humanidad”. Sin embargo, recuerda, el mundo no estaba particularmente interesado en su búsqueda en aquel entonces.

“En ese momento, a muy pocas personas les importaba, y si les importaba, era principalmente porque pensaban que no teníamos posibilidades de éxito”, explica Altman.

Un avance rápido hasta 2022, OpenAI todavía era una instalación de investigación relativamente silenciosa que probaba lo que entonces se conocía como “Chat With GPT-3.5”. Los desarrolladores habían estado explorando las capacidades de su API y el entusiasmo despertó la idea de lanzar una demostración lista para el usuario.

Esta demostración condujo a la creación de ChatGPT, que Altman reconoce que se benefició de una marca “afortunadamente” mejor que su nombre inicial. Cuando se lanzó el 30 de noviembre de 2022, ChatGPT demostró ser un punto de inflexión.

“El lanzamiento de ChatGPT inició una curva de crecimiento como nunca antes habíamos visto, en nuestra empresa, nuestra industria y el mundo en general”, dice.

Desde entonces, OpenAI ha sido testigo de una evolución marcada por un interés asombroso, no sólo en sus herramientas sino en las posibilidades más amplias de la IA.

Construyendo a una velocidad vertiginosa

Altman admite que convertir OpenAI en una potencia tecnológica global planteó desafíos importantes.

“En los últimos dos años, tuvimos que construir una empresa entera, casi desde cero, en torno a esta nueva tecnología”, señala, y añade: “No hay manera de formar a la gente para esto excepto haciéndolo”.

Al operar en aguas desconocidas, el equipo de OpenAI a menudo se enfrentó a la ambigüedad: tomó decisiones sobre la marcha y tuvo que lidiar con los inevitables pasos en falso.

“Construir una empresa a tan alta velocidad con tan poca capacitación es un proceso complicado”, explica Altman. “A menudo son dos pasos hacia adelante y uno hacia atrás (y, a veces, un paso hacia adelante y dos hacia atrás)”.

Sin embargo, a pesar del caos, Altman atribuye el mérito a la resiliencia y la capacidad de adaptación del equipo.

OpenAI ahora cuenta con más de 300 millones de usuarios activos semanales, un fuerte aumento con respecto a los 100 millones reportados hace apenas un año. Gran parte de este éxito radica en el espíritu de la organización de aprender haciendo, combinado con el compromiso de llevar al mundo “tecnología que la gente realmente parece amar y que resuelve problemas reales”.

“Un gran fracaso de la gobernanza”

Por supuesto, el viaje hasta ahora no ha estado exento de turbulencias. Altman relata un capítulo particularmente difícil de noviembre de 2023, cuando fue repentinamente destituido como director ejecutivo, contratado brevemente por Microsoft, para ser reinstalado por OpenAI días después en medio de una reacción violenta de la industria y protestas del personal.

Hablando abiertamente, Altman destaca la necesidad de mejores estructuras de gobernanza en las organizaciones que abordan tecnologías críticas como la IA.

“Todo el evento fue, en mi opinión, un gran fracaso de la gobernanza por parte de personas bien intencionadas, incluido yo mismo”, admite. “Mirando hacia atrás, ciertamente desearía haber hecho las cosas de manera diferente y me gustaría creer que hoy soy un líder mejor y más reflexivo que hace un año”.

El episodio sirvió como un crudo recordatorio de la complejidad de gestionar el rápido crecimiento y lo que está en juego en el desarrollo de la IA. También impulsó a OpenAI a forjar nuevas estructuras de gobernanza “que nos permitan llevar a cabo nuestra misión de garantizar que AGI beneficie a toda la humanidad”.

Altman expresó su profunda gratitud por el apoyo que OpenAI recibió durante la crisis por parte de empleados, socios y clientes. “Lo más importante que aprendí es cuánto tengo que estar agradecido y a cuántas personas debo gratitud”, enfatiza.

Pivotando hacia la superinteligencia

De cara al futuro, Altman dice que OpenAI está empezando a apuntar más allá de la AGI hacia el desarrollo de “superinteligencia”, sistemas de IA que superan con creces las capacidades cognitivas humanas.

“Ahora estamos seguros de que sabemos cómo construir AGI como lo hemos entendido tradicionalmente”, comparte Altman. OpenAI predice que para finales de este año, los agentes de IA se “unirán significativamente a la fuerza laboral”, revolucionando las industrias con sistemas complementarios y de automatización más inteligentes.

Lograr la superinteligencia sería especialmente transformador para la sociedad, con el potencial de acelerar los descubrimientos científicos, pero también plantea los peligros más importantes.

“Creemos en la importancia de ser líderes mundiales en investigación de seguridad y alineación… OpenAI no puede ser una empresa normal”, señala, subrayando la necesidad de abordar la innovación de manera responsable.

La estrategia de OpenAI incluye introducir gradualmente avances en el mundo, permitiendo que la sociedad se adapte a la rápida evolución de la IA. “Poner de forma iterativa excelentes herramientas en manos de las personas conduce a resultados excelentes y ampliamente distribuidos”, argumenta Altman.

Al reflexionar sobre la trayectoria de la organización, Altman admite que el camino de OpenAI ha estado definido tanto por avances extraordinarios como por desafíos importantes, desde ampliar equipos hasta navegar el escrutinio público.

“Hace nueve años, realmente no teníamos idea de en qué nos íbamos a convertir; Incluso ahora, sólo lo sabemos en cierto modo”, afirma.

Lo que queda claro es su compromiso inquebrantable con la visión de OpenAI. “Nuestra visión no cambiará; Nuestras tácticas seguirán evolucionando”, afirma Altman, atribuyendo el notable progreso de la empresa a la voluntad del equipo de repensar los procesos y aceptar los desafíos.

A medida que la IA continúa remodelando las industrias y la vida diaria, el mensaje central de Altman es evidente: si bien el viaje no ha sido nada sencillo, OpenAI se mantiene firme en su misión de desbloquear los beneficios de la IA para todos.

“Qué suerte y qué humildad es poder desempeñar un papel en este trabajo”, concluye Altman.

Ver también: OpenAI financia un estudio de 1 millón de dólares sobre IA y moralidad en la Universidad de Duke

¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Echa un vistazo a AI & Big Data Expo que se lleva a cabo en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos líderes, como la Conferencia de Automatización Inteligente, BlockX, la Semana de Transformación Digital y la Cyber ​​Security & Cloud Expo.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

Etiquetas: agi, ai, inteligencia artificial, desarrollo, ética, openai, sam altman, superinteligencia

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Las campanas de alarma suenan en nosotros sobre el mundo del proyecto criptoi de OpenAi

Published

on

World Network, el proyecto de identidad digital y cripto de OpenAI de Sam Altman, ha alarmado a los activistas de la privacidad antes de su lanzamiento de los Estados Unidos, con observadores preocupados por sus prácticas de recopilación y protección de datos.

El mundo “es lo contrario de la privacidad. Es una trampa”, dijo Nick Almond, CEO de Factorydao, en X., Si bien el proyecto afirma proteger la privacidad del usuario en la edad de proliferación de IA, se enfrenta a una serie de preocupaciones regulatorias en todo el mundo.

Anteriormente conocido como “WorldCoin”, la tecnología de escane de Iris y su esquema de pago de tokens criptográficos están siendo investigados por las autoridades en India, Corea del Sur, Italia, Colombia, Argentina, Portugal, Kenia e Indonesia. En España, Hong Kong y Brasil, está directamente prohibido.

La última incursión del mundo en los EE. UU. Podría ser el mayor desafío del CEO Sam Altman hasta el momento, donde las preocupaciones de privacidad aumentan por un mosaico de aplicación que difiere del estado por estado.

Las diferentes leyes de privacidad podrían dejar a los usuarios mundiales abiertos a la discriminación

El 30 de abril, Altman anunció que World se establecería en “Hubs de innovación clave” en cinco estados de los Estados Unidos: Atlanta, Austin, Los Ángeles, Miami, Nashville y San Francisco. Los aspirantes a humanos verificados pueden escanear sus iris en estos centros, dando a los marcadores biomédicos únicos del mundo.

Estos marcadores, por mundo, se pueden usar para demostrar la humanidad de uno al interactuar con otros en plataformas digitales.

Pero a medida que World se expande en los Estados Unidos, un paisaje regulatorio incierto podría desanimar a las personas y dificultar que la plataforma genere confianza de los usuarios.

Andrew Rossow, un abogado cibernético y de asuntos públicos de Rossow Law, dijo a CointeleGraph: “No existe una ley federal integral que regule específicamente los datos biométricos (como los escaneos de iris) en los Estados Unidos”.

De hecho, las leyes difieren estado por estado. Dos estados en los que operará el mundo, Texas y California, tienen alguna forma de protecciones legales en los libros para datos biométricos. Los usuarios de los tres estados restantes, Georgia, Tennessee y Florida, deben confiar en la ley federal, lo que requiere que “las empresas sean transparentes y justas, pero no hay reglas estatales especiales para los escaneos de iris”.

Pero incluso la existencia de la ley estatal no es garantía de protección. En Texas, no existe un derecho de acción privado para los datos biométricos, solo el Fiscal General del Estado (AG) puede hacer cumplir la captura o el uso de la ley de identificadores biométricos del estado.

https://www.youtube.com/watch?v=1x8tachbyjg

Altman anunció la incursión del mundo en el mercado estadounidense en un evento de la compañía hace dos semanas. Fuente: Mundo

“La efectividad de las protecciones de datos del usuario, en lo que respecta al mundo, depende casi por completo de las prioridades, los recursos y la voluntad de Texas AG para actuar”, dijo Rossow.

Una AG más agresiva podría significar protecciones más sólidas, mientras que “una administración menos agresiva podría depilar la aplicación, lo que deja a los consumidores abiertos y vulnerables a la explotación”.

El potencial de explotación es uno de los factores clave que impulsan los esfuerzos activistas contra sistemas como el mundo.

Privacy International, un grupo de protección de la privacidad que apoyó acciones legales en Kenia contra el mundo, afirma que en “la ausencia de marcos legales fuertes y salvaguardas estrictas, las tecnologías biométricas representan amenazas graves para la privacidad y la seguridad personal, a medida que su aplicación puede ampliarse para facilitar la discriminación, el perfil y la vigilancia masiva”.

Relacionado: Más de 70 empresas criptográficas unen fuerzas para abordar el monopolio de IA de Big Tech

Ya en 2021, Amnistía Internacional había planteado preocupaciones sobre la discriminación y las aplicaciones de los sistemas biométricos de metodologías dudosas. Dichos, dijeron, pueden “hacer inferencias y predicciones sobre cosas como el género de las personas, las emociones u otros atributos personales, sufren fallas serias y fundamentales en sus fundamentos científicos”.

“Esto significa que las inferencias que hacen sobre nosotros a menudo son inválidas, en algunos casos incluso operacionalizando las teorías eugenicistas de la frenología y la fisonomía”.

No todos están convencidos de las preocupaciones de los guardianes de privacidad. Tomasz Stańczak, director ejecutivo de la Fundación Ethereum, dijo que ha pasado “más de 100 horas” analizando World, que se está basando en la red Ethereum. Agregó que “parecía muy prometedor y mucho más robusto y centrado en la privacidad que mi intuición inicial”.

Paul Dylan-Ennis, un investigador y académico de Ethereum, dijo que cree que la tecnología del mundo “probablemente es fuerte en términos de privacidad”, pero admitió que la estética podría estar desanimando a las personas: “solo un espejo negro intangible para todo”.

WorldCoin Faces Monting Bans en todo el mundo

Operai puede estar duplicando una estrategia estadounidense, pero otras jurisdicciones en todo el mundo están investigando cada vez más, limitando o prohibiendo directamente las actividades de la empresa.

En 2023, los reguladores en India, Corea del Sur, Kenia, Alemania y Brasil comenzaron a investigar las prácticas de recopilación de datos de la empresa. España se convirtió en el primer país en prohibir la recopilación mundial de datos en marzo de 2024.

Relacionado: El espía norcoreano se desliza, revela lazos en la entrevista de trabajo falsa

La Agencia de Protección de Datos española dijo anteriormente a CointeleGraph que su curso de acción se basó en informes de ciudadanos españoles. Afirmó que los operadores de ORB proporcionaron “información insuficiente, datos recopilados de menores e incluso no permitieron el retiro del consentimiento”.

Después de la prohibición, World publicó una publicación de blog que indica que opera “legalmente en todos los lugares en los que está disponible”.

https://www.youtube.com/watch?v=RPU0SOARTV0

World ha hecho recientemente que sus orbes de escaneo de iris sean más compactos y transportables. Fuente: Mundo

Los reguladores globales no estuvieron de acuerdo. Hong Kong siguió a España en mayo de 2024 y ordenó a World que dejara de operar, ya que supuestamente violaba la ordenanza de privacidad de datos personales de la ciudad-estado.

Siguieron otras acusaciones de prácticas de recopilación de datos inadecuadas, y varios países como Alemania y, más recientemente, Kenia, han ordenado al mundo que elimine los datos de miles de usuarios, mientras que Colombia y Argentina han emitido fuertes multas.

En enero de 2025, la Autoridad Nacional de Protección de Datos de Brasil prohibió el mundo directamente, citando preocupación por la naturaleza irreversible de la recopilación de datos y el potencial para que el mundo influya en personas con desventajas económicas con la promesa de criptografía para sus datos.

Oportunidades en Japón y Estados Unidos

A pesar de las protestas en varios países, el sistema de identificación está haciendo incursiones. En Japón, el mundo ahora forma parte de las citas en línea.

Spencer Rascoff, CEO de Match Group, que incluye la aplicación de citas Tinder en su cartera, anunció el 1 de mayo que Tinder probaría el sistema de identificación mundial en Tinder en Japón, “dar a los usuarios una forma de privacidad de demostrar que son verdaderos humanos”.

Los usuarios de Tinder en Japón pueden deslizar bien con los usuarios verificados de ID. Fuente: Mundo

La integración en Japón aún no ha despegado, pero como Tinder es la aplicación de citas más popular en Japón, proporciona un caso de uso importante para la plataforma de identidad mundial. Solo en 2024, tenía unos 1.38 millones de descargas.

Si World pudiera obtener una asociación de Tinder en los Estados Unidos, adquiriría 7.8 millones de miembros activos mensuales durante la noche. Si se expandió a servicios similares como Bumble o Bishing, las próximas dos aplicaciones de citas más populares en el país, el mundo habrá capturado el 67% del mercado de citas en línea de los Estados Unidos, que comprenden las identidades personales y únicas de decenas de millones de usuarios.

Pero los derechos de privacidad en los Estados Unidos están lejos de establecerse. En Texas, uno de los estados donde el mundo planea operar, Google recientemente se estableció por una suma de $ 1.4 mil millones. La Compañía pagó la suma llamativa al estado de Texas después de establecer dos demandas alegando la empresa de seguimiento de datos de búsqueda y ubicación de los usuarios, así como recopilar información de reconocimiento facial.

En otros lugares, en Illinois y Nueva York, las empresas de biometría enfrentan procedimientos judiciales, mientras que los legisladores toman medidas para reducir la recopilación de datos biométricos.

Revista: Chatgpt un ‘misil de búsqueda de esquizofrenia’, AI Científicos Preparación para el 50% de muertes: AI Eye