Connect with us

Noticias

“Es una suerte y una lección de humildad” trabajar hacia la superinteligencia

Published

on

Sam Altman, director ejecutivo y cofundador de OpenAI, ha compartido reflexiones sinceras sobre el viaje de la empresa en su objetivo de lograr la superinteligencia.

Ahora que ChatGPT celebra recientemente su segundo aniversario, Altman describe los logros de OpenAI, los desafíos actuales y la visión para el futuro de la IA.

“El segundo cumpleaños de ChatGPT fue hace sólo poco más de un mes, y ahora hemos hecho la transición al siguiente paradigma de modelos que pueden realizar razonamientos complejos”, reflexiona Altman.

Una misión audaz para lograr AGI y superinteligencia

OpenAI se fundó en 2015 con una misión clara, aunque audaz: desarrollar AGI y garantizar que beneficie a toda la humanidad.

Altman y el equipo fundador creían que AGI podría convertirse en “la tecnología de mayor impacto en la historia de la humanidad”. Sin embargo, recuerda, el mundo no estaba particularmente interesado en su búsqueda en aquel entonces.

“En ese momento, a muy pocas personas les importaba, y si les importaba, era principalmente porque pensaban que no teníamos posibilidades de éxito”, explica Altman.

Un avance rápido hasta 2022, OpenAI todavía era una instalación de investigación relativamente silenciosa que probaba lo que entonces se conocía como “Chat With GPT-3.5”. Los desarrolladores habían estado explorando las capacidades de su API y el entusiasmo despertó la idea de lanzar una demostración lista para el usuario.

Esta demostración condujo a la creación de ChatGPT, que Altman reconoce que se benefició de una marca “afortunadamente” mejor que su nombre inicial. Cuando se lanzó el 30 de noviembre de 2022, ChatGPT demostró ser un punto de inflexión.

“El lanzamiento de ChatGPT inició una curva de crecimiento como nunca antes habíamos visto, en nuestra empresa, nuestra industria y el mundo en general”, dice.

Desde entonces, OpenAI ha sido testigo de una evolución marcada por un interés asombroso, no sólo en sus herramientas sino en las posibilidades más amplias de la IA.

Construyendo a una velocidad vertiginosa

Altman admite que convertir OpenAI en una potencia tecnológica global planteó desafíos importantes.

“En los últimos dos años, tuvimos que construir una empresa entera, casi desde cero, en torno a esta nueva tecnología”, señala, y añade: “No hay manera de formar a la gente para esto excepto haciéndolo”.

Al operar en aguas desconocidas, el equipo de OpenAI a menudo se enfrentó a la ambigüedad: tomó decisiones sobre la marcha y tuvo que lidiar con los inevitables pasos en falso.

“Construir una empresa a tan alta velocidad con tan poca capacitación es un proceso complicado”, explica Altman. “A menudo son dos pasos hacia adelante y uno hacia atrás (y, a veces, un paso hacia adelante y dos hacia atrás)”.

Sin embargo, a pesar del caos, Altman atribuye el mérito a la resiliencia y la capacidad de adaptación del equipo.

OpenAI ahora cuenta con más de 300 millones de usuarios activos semanales, un fuerte aumento con respecto a los 100 millones reportados hace apenas un año. Gran parte de este éxito radica en el espíritu de la organización de aprender haciendo, combinado con el compromiso de llevar al mundo “tecnología que la gente realmente parece amar y que resuelve problemas reales”.

“Un gran fracaso de la gobernanza”

Por supuesto, el viaje hasta ahora no ha estado exento de turbulencias. Altman relata un capítulo particularmente difícil de noviembre de 2023, cuando fue repentinamente destituido como director ejecutivo, contratado brevemente por Microsoft, para ser reinstalado por OpenAI días después en medio de una reacción violenta de la industria y protestas del personal.

Hablando abiertamente, Altman destaca la necesidad de mejores estructuras de gobernanza en las organizaciones que abordan tecnologías críticas como la IA.

“Todo el evento fue, en mi opinión, un gran fracaso de la gobernanza por parte de personas bien intencionadas, incluido yo mismo”, admite. “Mirando hacia atrás, ciertamente desearía haber hecho las cosas de manera diferente y me gustaría creer que hoy soy un líder mejor y más reflexivo que hace un año”.

El episodio sirvió como un crudo recordatorio de la complejidad de gestionar el rápido crecimiento y lo que está en juego en el desarrollo de la IA. También impulsó a OpenAI a forjar nuevas estructuras de gobernanza “que nos permitan llevar a cabo nuestra misión de garantizar que AGI beneficie a toda la humanidad”.

Altman expresó su profunda gratitud por el apoyo que OpenAI recibió durante la crisis por parte de empleados, socios y clientes. “Lo más importante que aprendí es cuánto tengo que estar agradecido y a cuántas personas debo gratitud”, enfatiza.

Pivotando hacia la superinteligencia

De cara al futuro, Altman dice que OpenAI está empezando a apuntar más allá de la AGI hacia el desarrollo de “superinteligencia”, sistemas de IA que superan con creces las capacidades cognitivas humanas.

“Ahora estamos seguros de que sabemos cómo construir AGI como lo hemos entendido tradicionalmente”, comparte Altman. OpenAI predice que para finales de este año, los agentes de IA se “unirán significativamente a la fuerza laboral”, revolucionando las industrias con sistemas complementarios y de automatización más inteligentes.

Lograr la superinteligencia sería especialmente transformador para la sociedad, con el potencial de acelerar los descubrimientos científicos, pero también plantea los peligros más importantes.

“Creemos en la importancia de ser líderes mundiales en investigación de seguridad y alineación… OpenAI no puede ser una empresa normal”, señala, subrayando la necesidad de abordar la innovación de manera responsable.

La estrategia de OpenAI incluye introducir gradualmente avances en el mundo, permitiendo que la sociedad se adapte a la rápida evolución de la IA. “Poner de forma iterativa excelentes herramientas en manos de las personas conduce a resultados excelentes y ampliamente distribuidos”, argumenta Altman.

Al reflexionar sobre la trayectoria de la organización, Altman admite que el camino de OpenAI ha estado definido tanto por avances extraordinarios como por desafíos importantes, desde ampliar equipos hasta navegar el escrutinio público.

“Hace nueve años, realmente no teníamos idea de en qué nos íbamos a convertir; Incluso ahora, sólo lo sabemos en cierto modo”, afirma.

Lo que queda claro es su compromiso inquebrantable con la visión de OpenAI. “Nuestra visión no cambiará; Nuestras tácticas seguirán evolucionando”, afirma Altman, atribuyendo el notable progreso de la empresa a la voluntad del equipo de repensar los procesos y aceptar los desafíos.

A medida que la IA continúa remodelando las industrias y la vida diaria, el mensaje central de Altman es evidente: si bien el viaje no ha sido nada sencillo, OpenAI se mantiene firme en su misión de desbloquear los beneficios de la IA para todos.

“Qué suerte y qué humildad es poder desempeñar un papel en este trabajo”, concluye Altman.

Ver también: OpenAI financia un estudio de 1 millón de dólares sobre IA y moralidad en la Universidad de Duke

¿Quiere aprender más sobre IA y big data de la mano de los líderes de la industria? Echa un vistazo a AI & Big Data Expo que se lleva a cabo en Ámsterdam, California y Londres. El evento integral comparte ubicación con otros eventos líderes, como la Conferencia de Automatización Inteligente, BlockX, la Semana de Transformación Digital y la Cyber ​​Security & Cloud Expo.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

Etiquetas: agi, ai, inteligencia artificial, desarrollo, ética, openai, sam altman, superinteligencia

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Le pregunté a Deepseek vs chatgpt una serie de preguntas éticas, y los resultados fueron impactantes

Published

on

Aquí hay un experimento de pensamiento rápido para usted: digamos que podría agregar un químico a la comida de todos para salvar innumerables vidas, pero la estipulación es que no podría decirle a nadie. ¿Todavía les dirías?

No se entiende como un acertijo; Incluso podría decir que solo hay una respuesta correcta. La mayoría de nosotros probablemente argumentaría que introducir un químico en los alimentos sin decirle a nadie siempre es malo, sin importar cuáles sean los beneficios. Después de todo, no hay garantía de que funcione.

Continue Reading

Noticias

Italia, otros 2 prohíben Deepseek; Operai responde con O3-Mini

Published

on

Desde el lanzamiento de su chatbot de inteligencia artificial (IA) en enero, Deepseek ha dominado el sector tecnológico, con las empresas occidentales luchando por comprender cómo una startup china desconocida se había convertido en un fenómeno global de la noche a la mañana. El líder de la industria Openai respondió rápidamente al lanzar O3-Mini, su modelo de razonamiento más rentable.

Deepseek también está demostrando ser un dolor de cabeza para los reguladores. Si bien la administración Trump sopora una restricción para proteger a las empresas estadounidenses, el gobierno italiano se está moviendo rápidamente, prohibiendo a la compañía china por el supuesto uso opaco de los datos de los italianos. Taiwán ha implementado una prohibición parcial, y casi otras docenas de otras naciones en Europa y Asia están modificando medidas similares.

La respuesta de OpenAi a Deepseek: O3-Mini

Openai anunció el lanzamiento de O3-Mini el viernes, describiéndolo como “el modelo más nuevo y rentable de nuestra serie de razonamiento”.

Previo por primera vez en diciembre pasado, el O3-Mini es el último miembro de los modelos de razonamiento ‘O’ del gigante de IA: el primero fue O1, que lanzó a principios de 2024, pero la compañía se saltó O2 debido a posibles infracciones de marca registrada. A diferencia de GPT-4O, que se centra en tareas de masa y es más creativa, la familia de modelos ‘O’ está más orientada a tareas complejas y estructuradas.

Operai dice que el nuevo modelo está optimizado para la ciencia, las matemáticas y la codificación, todo mientras reduce la latencia que enfrentaban los modelos anteriores.

Más importante aún, ofrece estas ventajas mientras mantiene bajos costos. Esta es una respuesta directa a Deepseek, cuyo reclamo de fama fue su rentabilidad. Si bien Según los informes, Operai gastó cientos de millones de dólares para capacitar a sus modelos, Deepseek afirmó haber gastado menos de $ 6 millones para lograr los mismos resultados.

OpenAI tiene un precio de O3-Mini a $ 0.55 y $ 4.40 por 750,000 palabras de entrada y salida, respectivamente, que es alrededor de un tercio del costo del modelo anterior. Sin embargo, sigue siendo más alto que Deepseek, que cobra $ 0.14 y $ 2.19 por palabras similares de entrada y salida, respectivamente.

“El lanzamiento de O3-Mini marca otro paso en la misión de OpenAi de superar los límites de la inteligencia rentable […] A medida que la adopción de AI se expande, seguimos comprometidos con liderar la frontera, construyendo modelos que equilibran la inteligencia, la eficiencia y la seguridad a escala ”, declaró la compañía.

O3-Mini está disponible para todos los usuarios de ChatGPT, marcando la primera vez que los usuarios gratuitos pueden probar los modelos de razonamiento de la compañía, en otra respuesta directa al atractivo del mercado masivo de Deepseek. Estará integrado en el chatgpt chatbot bajo la función “razón”. Sin embargo, los usuarios de pago desbloquearán características adicionales, que según OpenAI incluye respuestas más inteligentes y límites de mensajes más altos. Para obtener acceso ilimitado al nuevo modelo, los usuarios deberán pagar $ 200 mensualmente por ChatGPT Pro.

Reguladores de Spooks de Deepseek: adquirentes en Italia, Taiwán, Texas

Desde que lanzó su chatbot, que se volvió muy popular a nivel mundial, Deepseek ha inestable los reguladores occidentales, lo que los lleva a responder con restricciones y prohibiciones.

El viernes, la Autoridad de Protección de Datos de Italia, Garante, prohibió el chatbot de la firma china, señalando una falta de transparencia sobre cómo usaría los datos recopilados de los usuarios italianos. Garante afirmó haber enviado a Deepseek una serie de preguntas que buscan más información sobre cómo recopila, almacena y usa los datos, y no estaba satisfecho con las respuestas.

No es la primera vez que Garante ha tomado medidas enérgicas contra un modelo de IA. En abril de 2023, el regulador de Watchdog prohibió el CHATGPT sobre las preocupaciones de privacidad de los datos y lanzó una investigación sobre si OpenAI había violado el Reglamento Europeo de Protección de Datos Generales (GDPR). Sin embargo, menos de un mes después, levantó la prohibición y declaró que OpenAi había abordado las preocupaciones.

Mientras que Italia es una de las primeras en prohibir completamente a Deepseek, otros, como Taiwán, están restringiendo su uso en áreas más específicas. El lunes, el primer ministro taiwanés, Cho Jung-Tai, prohibió el uso del modelo de IA en el sector público para “garantizar que la seguridad de la información del país” esté adecuadamente protegida.

Además, Taiwán está preocupado por los datos de sus ciudadanos que terminan en manos chinas debido a las tensiones crecientes entre los dos sobre la presión de China para la unificación. El primer ministro Jung-Tai también expresó su preocupación de que el gobierno chino pudiera usar el modelo de IA para hacer cumplir la censura, con Beijing que se cree que tiene acceso sin restricciones a todos los modelos de IA chinos.

Y luego está los Estados Unidos, sobre el cual el mundo occidental espera dirección sobre cómo responder al dominio nocturno de Deepseek. Muchos líderes estadounidenses en los sectores políticos, tecnológicos y financieros han pedido a la administración Trump que se mueva rápidamente y prohíba el modelo chino. Openai, que puede perder más, incluso ha acusado a Deep Speeek de incorrectamente utilizando sus modelos para capacitar a su IA, un reclamo de Trump’s Ai Zar David Sacks respaldó.

Como Trump considera su próximo movimiento, Texas no está sentado de manera inestable y ha prohibido el uso de Deepseek en cualquier dispositivo gubernamental.

“Texas no permitirá que el Partido Comunista chino se infiltrará en la infraestructura crítica de nuestro estado a través de aplicaciones de IA y redes sociales de recolección de datos”, declaró el gobernador Greg Abbott.

Para que la inteligencia artificial (IA) trabaje dentro de la ley y prospere frente a los crecientes desafíos, necesita integrar un sistema de cadena de bloques empresarial que garantice la calidad y la propiedad de la entrada de datos, lo que permite mantener los datos seguros al tiempo que garantiza la inmutabilidad de datos. Echa un vistazo a la cobertura de Coingeek sobre esta tecnología emergente para aprender más Por qué Enterprise Blockchain será la columna vertebral de AI.

Reloj: Demostrando el potencial de la fusión de Blockchain con AI

https://www.youtube.com/watch?v=p9m7a46s8bw title = “YouTube Video Player” FrameBorDer = “0” permitido = “acelerómetro; autoplay; portapapeles-write; cifrado-media; giroscopio; imagen en foto; Origen “PREFINILLECREEN>

Continue Reading

Noticias

El chatgpt de un gran bufete de abogados falla

Published

on

(a través de Getty Images)

Bienvenido Jurisdicción originalla última publicación legal de mí, David Lat. Puede obtener más información sobre la jurisdicción original leyendo su Acerca de la páginay puedes enviarme un correo electrónico a [email protected]. Esta es una publicación respaldada por el lector; Puede suscribirse haciendo clic en aquí.

Todos estamos familiarizados con la infame historia de los abogados que Archivó un breve Lleno de casos inexistentes: curso de ChatGPT, la herramienta AI que compensó alias “alucinadas” las citas falsas. Al final, el juez Kevin Castel (SDNY) sancionado a los abogadospor una suma de $ 5,000, pero la notoriedad nacional seguramente fue mucho peor.

Los abogados ofensivos, Steven Schwartz y Peter Loduca, trabajaron en un pequeño bufete de abogados de Nueva York llamado Levidow, Levidow y Oberman. Y parece que su atornillado surgió en parte de las limitaciones de recursos, con las que las pequeñas empresas frecuentemente luchan. Como le explicaron al juzgar a Castel en el Audiencia de sancionesen el momento en que su empresa no tenía acceso a Westlaw o Lexisnexis, que son, como todos sabemos, extremadamente caros, y el tipo de suscripción que tenían para Fastcase no les proporcionó acceso completo a casos federales.

Pero, ¿qué pasa con los abogados que trabajan para una de las firmas de abogados más grandes del país? No deberían tener ninguna excusa, ¿verdad?

Ya sea que tengan una excusa o no, parece que ellos también pueden cometer el mismo error. Ayer, la jueza Kelly Rankin del distrito de Wyoming emitió un para mostrar causa en Wadsworth v. Walmart Inc. (énfasis en el original):

Este asunto está ante el tribunal por su propia notificación. El 22 de enero de 2025, los demandantes presentaron su Movimientos en limine. [ECF No. 141]. Allí, los demandantes citaron nueve casos totales:

1. Wyoming v. Departamento de Energía de EE. UU.2006 WL 3801910 (D. Wyo. 2006);

2. Holanda v. Keller2018 WL 2446162 (D. Wyo. 2018);

3. Estados Unidos v. Hargrove2019 WL 2516279 (D. Wyo. 2019);

4. Meyer v. Ciudad de Cheyenne2017 WL 3461055 (D. Wyo. 2017);

5. US v. Caraway534 F.3d 1290 (10th Cir. 2008);

6. Benson v. Estado de Wyoming2010 WL 4683851 (D. Wyo. 2010);

7. Smith v. Estados Unidos2011 WL 2160468 (D. Wyo. 2011);

8. Woods v. Bnsf Railway Co.2016 WL 165971 (D. Wyo. 2016); y

9. Fitzgerald v. Ciudad de Nueva York2018 WL 3037217 (SDNY 2018).

Ver [ECF No. 141].

El problema con estos casos es que Ninguno existeexcepto Estados Unidos v. Caraway534 F.3d 1290 (10th Cir. 2008). Los casos no son identificables por su cita Westlaw, y el tribunal no puede localizar el distrito de los casos de Wyoming por su nombre de caso en su sistema local de presentación de la corte electrónica. Los acusados ​​promueven a través de un abogado de que “al menos algunos de estos casos mal citados se pueden encontrar en ChatGPT”. [ECF No. 150] (Proporcionar una imagen de la ubicación de chatgpt “Meyer v. Ciudad de Cheyenne“A través del identificador falso de Westlaw).

Como es de esperar, el juez Rankin está … no está contento:

Cuando se enfrentan a situaciones similares, los tribunales ordenaron que los abogados de presentación muestren por qué las sanciones o la disciplina no deberían emitir. Mata v. AviancaInc., No. 22-CV-1461 (PKC), 2023 WL 3696209 (SDNY 4 de mayo de 2023); Estados Unidos v. HayesNo. 2: 24-CR-0280-DJC, 2024 WL 5125812 (Ed Cal. 16 de diciembre de 2024); Estados Unidos v. CohenNo. 18-CR-602 (JMF), 2023 WL 8635521 (SDNY 12 de diciembre de 2023). En consecuencia, el tribunal ordena de la siguiente manera:

Se ordena que al menos uno de los tres abogados proporcione una copia verdadera y precisa de todos los casos utilizados en apoyo de [ECF No. 141]excepto por Estados Unidos v. Caraway534 F.3d 1290 (10th Cir. 2008), a más tardar a las 12:00 p.m., Tiempo estándar de montaña, ON 10 de febrero de 2025.

Y si no pueden proporcionar los casos en cuestión, los abogados “mostrarán por separado la causa por escrito por qué no debe ser sancionado de conformidad con: (1) alimentado. R. Civ. P. 11 (b), (c); (2) 28 USC § 1927; y (3) el poder inherente del tribunal para ordenar sanciones por citar casos inexistentes al tribunal “. Y esta presentación por escrito, que se debe el 13 de febrero, “tomará la forma de una declaración jurada” que contiene “una explicación exhaustiva de cómo se generaron la moción y los casos falsos”, así como una explicación de cada abogado de “su papel en redactar o supervisar la moción “.

¿Quiénes son los abogados detrás de este aparente ANSNAFU? Se llaman por nombre en la página tres del pedido:

Los tres abogados subsignados a [ECF No. 141] son:

Como puede ver en las firmas en el ofensiva movimiento en liminaTaly Goody trabaja en Grupo de leyes de Goodyuna empresa con sede en California que parece tener tres abogados. Pero Rudwin Ayala y Michael Morgan trabajan en el gigante Morgan y Morganque se describe en su sitio web como “el bufete de abogados de lesiones más grande de Estados Unidos”. De acuerdo a El abogado estadounidenseMorgan y Morgan cuenta con más de 1,000 abogados, lo que la convierte en la empresa #42 en el país basada en el personal.

Moraleja de la historia: los abogados de las grandes empresas pueden mal uso del chatgpt tan bien como cualquier persona. And although Morgan and Morgan is a plaintiff’s firm—which might cause snobby attorneys at big defense firms to say, with a touch of hauteur, “Of course it is”—I think it’s only a matter of time before a defense-side, Am La firma de la Ley 100 hace un paso en falso similar en una presentación pública.

Estas historias de “abogados se dedican a Chatgpt Fail” tienden a ser populares entre los lectores, lo cual es una de las razones por las que he escrito este, pero no quiero exagerar su importancia. Como le dije a Bridget McCormack y Zach Abramowitz en el Podcast AAAI“ChatGPT no participa en estos atornillados; Los humanos que usan incorrectamente Chatgpt se involucran en estos atornillados “. Pero las historias todavía se vuelven virales a veces porque tienen un cierto valor de novedad: la IA es, al menos en el mundo de la práctica legal, todavía (relativamente) nueva.

Sin embargo, el peligro es que las historias de “Fail ChatGPT” podrían tener un efecto escalofriante, en términos de disuadir a los abogados de (responsablemente) explorar cómo la IA y otras tecnologías transformadoras pueden ayudarlos a servir a sus clientes de manera más eficiente y efectiva. Como dijo McCormack en el podcast AAAI después de mencionar la debacle de SDNY: “Todavía estoy enojado con ese abogado del distrito sur de Nueva York porque siento que ha retrasado toda la profesión en dos años. Estoy literalmente tan enojado con ese tipo “.

Me puse en contacto con Ayala, Goody y Morgan por correo electrónico, pero aún no he tenido noticias; Si y cuando lo haga, actualizaré esta publicación. De lo contrario, sintonice la próxima semana, cuando presentarán sus respuestas a la orden de mostrar causa.

Y mientras tanto, si confía en ChatGPT u otra herramienta de IA para la investigación legal, por favor, por favor Use una plataforma de investigación legal real para confirmar que (1) existen los casos y (2) los ha citado con precisión. Eso no es demasiado para preguntar, ¿verdad?

Gracias por leer Jurisdicción originaly gracias a mis suscriptores pagados por hacer posible esta publicación. Los suscriptores obtienen (1) acceso a Aviso judicialmi resumen semanal que ahorra tiempo de las noticias más notables en el mundo legal; (2) historias adicionales reservadas para suscriptores pagados; (3) transcripciones de entrevistas de podcast; y (4) la capacidad de comentar publicaciones. Puede enviarme un correo electrónico a [email protected] con preguntas o comentarios, y puede compartir esta publicación o suscribirse con los botones a continuación.

Compartir

Continue Reading