Connect with us

Noticias

Balaji, ex ingeniero de OpenAI y denunciante, muere a los 26 años

Published

on

Balaji, ex ingeniero y denunciante de OpenAI, muere a los 26 años \ Newslooks \ Washington DC \ Mary Sidiqi \ Evening Edition \ Suchir Balaji, ex ingeniero y denunciante de OpenAI, murió a los 26 años, supuestamente por suicidio. Balaji, que jugó un papel decisivo en la construcción de sistemas detrás de ChatGPT, había planteado preocupaciones sobre las leyes de derechos de autor sobre las prácticas de capacitación en inteligencia artificial. Su fallecimiento ha provocado homenajes de colegas y un enfoque renovado en el desarrollo ético de la IA.

El legado y el trágico fallecimiento de Suchir Balaji: miradas rápidas

  • Muerte reportada: Balaji fue encontrado muerto en su apartamento de San Francisco el 26 de noviembre y se consideró un suicidio.
  • Aspectos destacados de la carrera: Balaji contribuyó significativamente a WebGPT y GPT-4 durante su mandato en OpenAI.
  • Preocupaciones por derechos de autor: Se convirtió en un denunciante y cuestionó el uso de materiales protegidos por derechos de autor por parte de AI para la capacitación.
  • Implicaciones legales: Se buscaron sus ideas en demandas, incluida una del New York Times.
  • Homenajes pagados: Sus colegas lo recordaban como un ingeniero brillante y meticuloso.
  • Declaración de la familia: Sus padres lo describieron como una persona feliz, valiente y curiosa.
  • Planes conmemorativos: Está previsto un servicio en el Centro Comunitario de India en Milpitas, California.
  • Debate ético sobre la IA: Las críticas de Balaji han reavivado los debates sobre el uso legal y ético de los datos en la IA.

Mirada profunda

Suchir Balaji, un ingeniero de 26 años conocido por su trabajo innovador en OpenAI y su abierta crítica de las prácticas de datos de la IA, falleció. Los funcionarios de San Francisco confirmaron que Balaji fue encontrado fallecido en su apartamento el 26 de noviembre en lo que las autoridades han considerado un suicidio. Su muerte ha dejado un profundo impacto tanto en la comunidad de investigación de la IA como en sus seres queridos, que todavía están lidiando con la pérdida repentina.

Una carrera en innovación en IA

Balaji se unió a OpenAI en 2018 como pasante mientras estudiaba ciencias de la computación en la Universidad de California, Berkeley. Regresó a la empresa a tiempo completo y rápidamente se convirtió en un colaborador clave en varios proyectos importantes. Uno de sus primeros logros fue WebGPT, un proyecto que ayudó a sentar las bases del popular sistema ChatGPT.

John Schulman, cofundador de OpenAI y uno de los mentores de Balaji, lo describió como un ingeniero meticuloso e innovador. “Suchir tenía una habilidad extraordinaria para encontrar soluciones elegantes y detectar errores sutiles”, escribió Schulman en un sentido homenaje. Atribuyó a la precisión y creatividad de Balaji el mérito de dar forma a aspectos clave de las tecnologías de OpenAI.

Posteriormente, Balaji cambió su enfoque a seleccionar conjuntos de datos masivos de contenido en línea para entrenar GPT-4, el modelo de lenguaje grande emblemático de OpenAI. Fue durante este tiempo que comenzó a cuestionar las implicaciones éticas y legales de que los sistemas de IA dependan de material protegido por derechos de autor sin permiso.

Convertirse en un denunciante

Las preocupaciones de Balaji sobre las violaciones de derechos de autor lo pusieron en el centro de atención. Primero expresó públicamente sus reservas en una entrevista en octubre con Los New York Timesexpresando incomodidad con la forma en que se entrenan los sistemas de inteligencia artificial con materiales protegidos por derechos de autor. Fue particularmente crítico con la forma en que empresas como OpenAI utilizan conjuntos de datos que contienen obras de periódicos, novelistas y otros creadores sin el consentimiento adecuado.

En entrevistas posteriores, incluida una con Associated Press, Balaji afirmó: “No parece correcto capacitarse con los datos de las personas y luego competir con ellas en el mercado”. Describió los derechos de autor como una de las pocas cuestiones dentro del desarrollo de la IA en las que aún era posible adoptar medidas significativas.

Sus revelaciones llamaron la atención en demandas en curso contra OpenAI, incluida una por Los New York Times y otro que involucra a autores destacados como Sarah Silverman. Los documentos legales sugirieron que Balaji poseía conocimientos y documentos únicos que podrían reforzar las reclamaciones por infracción de derechos de autor.

Salida de OpenAI

Balaji renunció a OpenAI en agosto, coincidiendo con la salida de Schulman. Ambos ingenieros celebraron su último día con compañeros en un bar de San Francisco. Según Schulman, Balaji había expresado dudas sobre la dirección de la empresa, en particular su búsqueda de inteligencia artificial general (AGI).

Balaji expresó su preocupación por la cultura interna de OpenAI, especialmente después del tumultuoso despido y reinstalación del director ejecutivo Sam Altman a finales de 2023. Criticó el lanzamiento de productos comerciales de IA, citando cuestiones como la desinformación (o “alucinaciones”) y los dilemas éticos que plantean. planteado.

“No creía que AGI estuviera a la vuelta de la esquina como parecía pensar el resto de la empresa”, recordó Schulman. Balaji esperaba realizar un doctorado y explorar enfoques no convencionales para construir sistemas inteligentes.

Homenajes y recuerdos familiares

Colegas y amigos describieron a Balaji como brillante, con principios y profundamente curioso. Ilya Sutskever, cofundador y científico jefe de OpenAI, fue uno de los que inspiraron la carrera inicial de Balaji en IA. La salida de Sutskever de OpenAI a principios de 2023 motivó aún más la decisión de Balaji de irse.

Los padres de Balaji, Poornima Ramarao y Balaji Ramamurthy, lo recordaban como un “joven feliz, inteligente y valiente” al que le encantaba hacer senderismo y explorar con amigos. La familia está planeando un servicio conmemorativo en el Centro Comunitario de India en Milpitas, California, cerca de su ciudad natal de Cupertino.

La muerte de Balaji ha ensombrecido a la comunidad de investigación de IA, donde su denuncia de irregularidades generó preguntas incómodas pero necesarias sobre la ética de los datos y la ley de derechos de autor. Su crítica a la dependencia de la IA del contenido procedente de Internet ha reavivado los debates sobre la legalidad y moralidad del uso de material protegido por derechos de autor con fines de formación.

“Es cuestión de tiempo antes de que la comunidad de investigación de la IA tenga que cambiar”, dijo Balaji en su última entrevista pública. Su postura, aunque controvertida, subraya la creciente necesidad de transparencia y rendición de cuentas en el desarrollo de la IA.

A medida que avanzan las demandas, sigue siendo incierto cómo el testimonio y las ideas de Balaji influirán en el resultado. Sin embargo, su blog personal y sus entrevistas dejan un mensaje claro que aboga por prácticas éticas en la IA.

Recordando a Suchir Balaji

Las contribuciones de Balaji a la IA y su postura de principios sobre cuestiones de derechos de autor han dejado un legado duradero. Su vida y carrera nos recuerdan las complejidades y dilemas éticos inherentes al desarrollo tecnológico de vanguardia. Mientras la industria de la IA lidia con los impactos legales y sociales de sus innovaciones, la voz de Balaji seguirá resonando como un llamado a un progreso reflexivo y responsable.

Más sobre noticias de EE. UU.

Antiguo OpenAI Antiguo OpenAI

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Le pregunté a Deepseek vs chatgpt una serie de preguntas éticas, y los resultados fueron impactantes

Published

on

Aquí hay un experimento de pensamiento rápido para usted: digamos que podría agregar un químico a la comida de todos para salvar innumerables vidas, pero la estipulación es que no podría decirle a nadie. ¿Todavía les dirías?

No se entiende como un acertijo; Incluso podría decir que solo hay una respuesta correcta. La mayoría de nosotros probablemente argumentaría que introducir un químico en los alimentos sin decirle a nadie siempre es malo, sin importar cuáles sean los beneficios. Después de todo, no hay garantía de que funcione.

Continue Reading

Noticias

Italia, otros 2 prohíben Deepseek; Operai responde con O3-Mini

Published

on

Desde el lanzamiento de su chatbot de inteligencia artificial (IA) en enero, Deepseek ha dominado el sector tecnológico, con las empresas occidentales luchando por comprender cómo una startup china desconocida se había convertido en un fenómeno global de la noche a la mañana. El líder de la industria Openai respondió rápidamente al lanzar O3-Mini, su modelo de razonamiento más rentable.

Deepseek también está demostrando ser un dolor de cabeza para los reguladores. Si bien la administración Trump sopora una restricción para proteger a las empresas estadounidenses, el gobierno italiano se está moviendo rápidamente, prohibiendo a la compañía china por el supuesto uso opaco de los datos de los italianos. Taiwán ha implementado una prohibición parcial, y casi otras docenas de otras naciones en Europa y Asia están modificando medidas similares.

La respuesta de OpenAi a Deepseek: O3-Mini

Openai anunció el lanzamiento de O3-Mini el viernes, describiéndolo como “el modelo más nuevo y rentable de nuestra serie de razonamiento”.

Previo por primera vez en diciembre pasado, el O3-Mini es el último miembro de los modelos de razonamiento ‘O’ del gigante de IA: el primero fue O1, que lanzó a principios de 2024, pero la compañía se saltó O2 debido a posibles infracciones de marca registrada. A diferencia de GPT-4O, que se centra en tareas de masa y es más creativa, la familia de modelos ‘O’ está más orientada a tareas complejas y estructuradas.

Operai dice que el nuevo modelo está optimizado para la ciencia, las matemáticas y la codificación, todo mientras reduce la latencia que enfrentaban los modelos anteriores.

Más importante aún, ofrece estas ventajas mientras mantiene bajos costos. Esta es una respuesta directa a Deepseek, cuyo reclamo de fama fue su rentabilidad. Si bien Según los informes, Operai gastó cientos de millones de dólares para capacitar a sus modelos, Deepseek afirmó haber gastado menos de $ 6 millones para lograr los mismos resultados.

OpenAI tiene un precio de O3-Mini a $ 0.55 y $ 4.40 por 750,000 palabras de entrada y salida, respectivamente, que es alrededor de un tercio del costo del modelo anterior. Sin embargo, sigue siendo más alto que Deepseek, que cobra $ 0.14 y $ 2.19 por palabras similares de entrada y salida, respectivamente.

“El lanzamiento de O3-Mini marca otro paso en la misión de OpenAi de superar los límites de la inteligencia rentable […] A medida que la adopción de AI se expande, seguimos comprometidos con liderar la frontera, construyendo modelos que equilibran la inteligencia, la eficiencia y la seguridad a escala ”, declaró la compañía.

O3-Mini está disponible para todos los usuarios de ChatGPT, marcando la primera vez que los usuarios gratuitos pueden probar los modelos de razonamiento de la compañía, en otra respuesta directa al atractivo del mercado masivo de Deepseek. Estará integrado en el chatgpt chatbot bajo la función “razón”. Sin embargo, los usuarios de pago desbloquearán características adicionales, que según OpenAI incluye respuestas más inteligentes y límites de mensajes más altos. Para obtener acceso ilimitado al nuevo modelo, los usuarios deberán pagar $ 200 mensualmente por ChatGPT Pro.

Reguladores de Spooks de Deepseek: adquirentes en Italia, Taiwán, Texas

Desde que lanzó su chatbot, que se volvió muy popular a nivel mundial, Deepseek ha inestable los reguladores occidentales, lo que los lleva a responder con restricciones y prohibiciones.

El viernes, la Autoridad de Protección de Datos de Italia, Garante, prohibió el chatbot de la firma china, señalando una falta de transparencia sobre cómo usaría los datos recopilados de los usuarios italianos. Garante afirmó haber enviado a Deepseek una serie de preguntas que buscan más información sobre cómo recopila, almacena y usa los datos, y no estaba satisfecho con las respuestas.

No es la primera vez que Garante ha tomado medidas enérgicas contra un modelo de IA. En abril de 2023, el regulador de Watchdog prohibió el CHATGPT sobre las preocupaciones de privacidad de los datos y lanzó una investigación sobre si OpenAI había violado el Reglamento Europeo de Protección de Datos Generales (GDPR). Sin embargo, menos de un mes después, levantó la prohibición y declaró que OpenAi había abordado las preocupaciones.

Mientras que Italia es una de las primeras en prohibir completamente a Deepseek, otros, como Taiwán, están restringiendo su uso en áreas más específicas. El lunes, el primer ministro taiwanés, Cho Jung-Tai, prohibió el uso del modelo de IA en el sector público para “garantizar que la seguridad de la información del país” esté adecuadamente protegida.

Además, Taiwán está preocupado por los datos de sus ciudadanos que terminan en manos chinas debido a las tensiones crecientes entre los dos sobre la presión de China para la unificación. El primer ministro Jung-Tai también expresó su preocupación de que el gobierno chino pudiera usar el modelo de IA para hacer cumplir la censura, con Beijing que se cree que tiene acceso sin restricciones a todos los modelos de IA chinos.

Y luego está los Estados Unidos, sobre el cual el mundo occidental espera dirección sobre cómo responder al dominio nocturno de Deepseek. Muchos líderes estadounidenses en los sectores políticos, tecnológicos y financieros han pedido a la administración Trump que se mueva rápidamente y prohíba el modelo chino. Openai, que puede perder más, incluso ha acusado a Deep Speeek de incorrectamente utilizando sus modelos para capacitar a su IA, un reclamo de Trump’s Ai Zar David Sacks respaldó.

Como Trump considera su próximo movimiento, Texas no está sentado de manera inestable y ha prohibido el uso de Deepseek en cualquier dispositivo gubernamental.

“Texas no permitirá que el Partido Comunista chino se infiltrará en la infraestructura crítica de nuestro estado a través de aplicaciones de IA y redes sociales de recolección de datos”, declaró el gobernador Greg Abbott.

Para que la inteligencia artificial (IA) trabaje dentro de la ley y prospere frente a los crecientes desafíos, necesita integrar un sistema de cadena de bloques empresarial que garantice la calidad y la propiedad de la entrada de datos, lo que permite mantener los datos seguros al tiempo que garantiza la inmutabilidad de datos. Echa un vistazo a la cobertura de Coingeek sobre esta tecnología emergente para aprender más Por qué Enterprise Blockchain será la columna vertebral de AI.

Reloj: Demostrando el potencial de la fusión de Blockchain con AI

https://www.youtube.com/watch?v=p9m7a46s8bw title = “YouTube Video Player” FrameBorDer = “0” permitido = “acelerómetro; autoplay; portapapeles-write; cifrado-media; giroscopio; imagen en foto; Origen “PREFINILLECREEN>

Continue Reading

Noticias

El chatgpt de un gran bufete de abogados falla

Published

on

(a través de Getty Images)

Bienvenido Jurisdicción originalla última publicación legal de mí, David Lat. Puede obtener más información sobre la jurisdicción original leyendo su Acerca de la páginay puedes enviarme un correo electrónico a [email protected]. Esta es una publicación respaldada por el lector; Puede suscribirse haciendo clic en aquí.

Todos estamos familiarizados con la infame historia de los abogados que Archivó un breve Lleno de casos inexistentes: curso de ChatGPT, la herramienta AI que compensó alias “alucinadas” las citas falsas. Al final, el juez Kevin Castel (SDNY) sancionado a los abogadospor una suma de $ 5,000, pero la notoriedad nacional seguramente fue mucho peor.

Los abogados ofensivos, Steven Schwartz y Peter Loduca, trabajaron en un pequeño bufete de abogados de Nueva York llamado Levidow, Levidow y Oberman. Y parece que su atornillado surgió en parte de las limitaciones de recursos, con las que las pequeñas empresas frecuentemente luchan. Como le explicaron al juzgar a Castel en el Audiencia de sancionesen el momento en que su empresa no tenía acceso a Westlaw o Lexisnexis, que son, como todos sabemos, extremadamente caros, y el tipo de suscripción que tenían para Fastcase no les proporcionó acceso completo a casos federales.

Pero, ¿qué pasa con los abogados que trabajan para una de las firmas de abogados más grandes del país? No deberían tener ninguna excusa, ¿verdad?

Ya sea que tengan una excusa o no, parece que ellos también pueden cometer el mismo error. Ayer, la jueza Kelly Rankin del distrito de Wyoming emitió un para mostrar causa en Wadsworth v. Walmart Inc. (énfasis en el original):

Este asunto está ante el tribunal por su propia notificación. El 22 de enero de 2025, los demandantes presentaron su Movimientos en limine. [ECF No. 141]. Allí, los demandantes citaron nueve casos totales:

1. Wyoming v. Departamento de Energía de EE. UU.2006 WL 3801910 (D. Wyo. 2006);

2. Holanda v. Keller2018 WL 2446162 (D. Wyo. 2018);

3. Estados Unidos v. Hargrove2019 WL 2516279 (D. Wyo. 2019);

4. Meyer v. Ciudad de Cheyenne2017 WL 3461055 (D. Wyo. 2017);

5. US v. Caraway534 F.3d 1290 (10th Cir. 2008);

6. Benson v. Estado de Wyoming2010 WL 4683851 (D. Wyo. 2010);

7. Smith v. Estados Unidos2011 WL 2160468 (D. Wyo. 2011);

8. Woods v. Bnsf Railway Co.2016 WL 165971 (D. Wyo. 2016); y

9. Fitzgerald v. Ciudad de Nueva York2018 WL 3037217 (SDNY 2018).

Ver [ECF No. 141].

El problema con estos casos es que Ninguno existeexcepto Estados Unidos v. Caraway534 F.3d 1290 (10th Cir. 2008). Los casos no son identificables por su cita Westlaw, y el tribunal no puede localizar el distrito de los casos de Wyoming por su nombre de caso en su sistema local de presentación de la corte electrónica. Los acusados ​​promueven a través de un abogado de que “al menos algunos de estos casos mal citados se pueden encontrar en ChatGPT”. [ECF No. 150] (Proporcionar una imagen de la ubicación de chatgpt “Meyer v. Ciudad de Cheyenne“A través del identificador falso de Westlaw).

Como es de esperar, el juez Rankin está … no está contento:

Cuando se enfrentan a situaciones similares, los tribunales ordenaron que los abogados de presentación muestren por qué las sanciones o la disciplina no deberían emitir. Mata v. AviancaInc., No. 22-CV-1461 (PKC), 2023 WL 3696209 (SDNY 4 de mayo de 2023); Estados Unidos v. HayesNo. 2: 24-CR-0280-DJC, 2024 WL 5125812 (Ed Cal. 16 de diciembre de 2024); Estados Unidos v. CohenNo. 18-CR-602 (JMF), 2023 WL 8635521 (SDNY 12 de diciembre de 2023). En consecuencia, el tribunal ordena de la siguiente manera:

Se ordena que al menos uno de los tres abogados proporcione una copia verdadera y precisa de todos los casos utilizados en apoyo de [ECF No. 141]excepto por Estados Unidos v. Caraway534 F.3d 1290 (10th Cir. 2008), a más tardar a las 12:00 p.m., Tiempo estándar de montaña, ON 10 de febrero de 2025.

Y si no pueden proporcionar los casos en cuestión, los abogados “mostrarán por separado la causa por escrito por qué no debe ser sancionado de conformidad con: (1) alimentado. R. Civ. P. 11 (b), (c); (2) 28 USC § 1927; y (3) el poder inherente del tribunal para ordenar sanciones por citar casos inexistentes al tribunal “. Y esta presentación por escrito, que se debe el 13 de febrero, “tomará la forma de una declaración jurada” que contiene “una explicación exhaustiva de cómo se generaron la moción y los casos falsos”, así como una explicación de cada abogado de “su papel en redactar o supervisar la moción “.

¿Quiénes son los abogados detrás de este aparente ANSNAFU? Se llaman por nombre en la página tres del pedido:

Los tres abogados subsignados a [ECF No. 141] son:

Como puede ver en las firmas en el ofensiva movimiento en liminaTaly Goody trabaja en Grupo de leyes de Goodyuna empresa con sede en California que parece tener tres abogados. Pero Rudwin Ayala y Michael Morgan trabajan en el gigante Morgan y Morganque se describe en su sitio web como “el bufete de abogados de lesiones más grande de Estados Unidos”. De acuerdo a El abogado estadounidenseMorgan y Morgan cuenta con más de 1,000 abogados, lo que la convierte en la empresa #42 en el país basada en el personal.

Moraleja de la historia: los abogados de las grandes empresas pueden mal uso del chatgpt tan bien como cualquier persona. And although Morgan and Morgan is a plaintiff’s firm—which might cause snobby attorneys at big defense firms to say, with a touch of hauteur, “Of course it is”—I think it’s only a matter of time before a defense-side, Am La firma de la Ley 100 hace un paso en falso similar en una presentación pública.

Estas historias de “abogados se dedican a Chatgpt Fail” tienden a ser populares entre los lectores, lo cual es una de las razones por las que he escrito este, pero no quiero exagerar su importancia. Como le dije a Bridget McCormack y Zach Abramowitz en el Podcast AAAI“ChatGPT no participa en estos atornillados; Los humanos que usan incorrectamente Chatgpt se involucran en estos atornillados “. Pero las historias todavía se vuelven virales a veces porque tienen un cierto valor de novedad: la IA es, al menos en el mundo de la práctica legal, todavía (relativamente) nueva.

Sin embargo, el peligro es que las historias de “Fail ChatGPT” podrían tener un efecto escalofriante, en términos de disuadir a los abogados de (responsablemente) explorar cómo la IA y otras tecnologías transformadoras pueden ayudarlos a servir a sus clientes de manera más eficiente y efectiva. Como dijo McCormack en el podcast AAAI después de mencionar la debacle de SDNY: “Todavía estoy enojado con ese abogado del distrito sur de Nueva York porque siento que ha retrasado toda la profesión en dos años. Estoy literalmente tan enojado con ese tipo “.

Me puse en contacto con Ayala, Goody y Morgan por correo electrónico, pero aún no he tenido noticias; Si y cuando lo haga, actualizaré esta publicación. De lo contrario, sintonice la próxima semana, cuando presentarán sus respuestas a la orden de mostrar causa.

Y mientras tanto, si confía en ChatGPT u otra herramienta de IA para la investigación legal, por favor, por favor Use una plataforma de investigación legal real para confirmar que (1) existen los casos y (2) los ha citado con precisión. Eso no es demasiado para preguntar, ¿verdad?

Gracias por leer Jurisdicción originaly gracias a mis suscriptores pagados por hacer posible esta publicación. Los suscriptores obtienen (1) acceso a Aviso judicialmi resumen semanal que ahorra tiempo de las noticias más notables en el mundo legal; (2) historias adicionales reservadas para suscriptores pagados; (3) transcripciones de entrevistas de podcast; y (4) la capacidad de comentar publicaciones. Puede enviarme un correo electrónico a [email protected] con preguntas o comentarios, y puede compartir esta publicación o suscribirse con los botones a continuación.

Compartir

Continue Reading