Muere el ex ingeniero de OpenAI que expresó su preocupación por la IA

NOTA DEL EDITOR: Esta historia incluye una discusión sobre el suicidio. Si usted o alguien que conoce necesita ayuda, la línea de vida nacional contra el suicidio y las crisis en los EE. UU. está disponible llamando o enviando un mensaje de texto al 988. Suchir Balaji, un ex ingeniero de OpenAI y denunciante que ayudó a entrenar los sistemas de inteligencia artificial detrás de ChatGPT y luego dijo que creía en esos prácticas que violaban la ley de derechos de autor, falleció, según sus padres y funcionarios de San Francisco. Tenía 26 años. Balaji trabajó en OpenAI durante casi cuatro años antes de renunciar en agosto. Fue bien considerado por sus colegas de la compañía de San Francisco, donde un cofundador lo llamó esta semana uno de los contribuyentes más fuertes de OpenAI y que fue esencial para desarrollar algunos de sus productos. “Estamos devastados al enterarnos de esta noticia increíblemente triste y nuestra Nuestros corazones están con los seres queridos de Suchir durante este momento difícil”, dijo un comunicado de OpenAI. Balaji fue encontrado muerto en su apartamento de San Francisco el 26 de noviembre en lo que, según la policía, “parecía ser un suicidio”. Fue encontrado durante la investigación inicial.” La oficina del médico forense jefe de la ciudad confirmó que la forma de muerte fue un suicidio. Sus padres, Poornima Ramarao y Balaji Ramamurthy, dijeron que todavía están buscando respuestas y describieron a su hijo como un “joven feliz, inteligente y valiente” al que le encantaba caminar y regresó recientemente. de un viaje con amigos. Balaji creció en el Área de la Bahía de San Francisco y llegó por primera vez al incipiente laboratorio de investigación de IA para realizar una pasantía de verano en 2018 mientras estudiaba ciencias de la computación en la Universidad de California, Berkeley. Regresó unos años más tarde para trabajar en OpenAI, donde uno de sus primeros proyectos, llamado WebGPT, ayudó a allanar el camino para ChatGPT. “Las contribuciones de Suchir a este proyecto fueron esenciales y no habría tenido éxito sin él”, dijo OpenAI. cofundador John Schulman en una publicación en las redes sociales en memoria de Balaji. Schulman, quien reclutó a Balaji para su equipo, dijo que lo que lo convertía en un ingeniero y científico excepcional era su atención al detalle y su capacidad para detectar errores sutiles o lógicos.”Tenía una habilidad especial para encontrar soluciones simples y escribir código elegante que funcionaba, “, escribió Schulman. “Pensaba en los detalles de las cosas cuidadosa y rigurosamente”. Más tarde, Balaji pasó a organizar los enormes conjuntos de datos de escritos en línea y otros medios utilizados para entrenar GPT-4, la cuarta generación del modelo de lenguaje grande emblemático de OpenAI y una base para el el famoso chatbot de la compañía. Fue ese trabajo lo que finalmente hizo que Balaji cuestionara la tecnología que ayudó a construir, especialmente después de que periódicos, novelistas y otros comenzaron a demandar a OpenAI y otras empresas de inteligencia artificial por infracción de derechos de autor. Primero expresó sus preocupaciones al New York Times, que las informó en un perfil de Balaji en octubre. Más tarde dijo a The Associated Press que “trataría de testificar” en los casos más fuertes de infracción de derechos de autor y consideró una demanda presentada por The New York Times. El año pasado fue el “más serio”. Los abogados del Times lo nombraron en un expediente judicial del 18 de noviembre como alguien que podría tener “documentos únicos y relevantes” que respaldan las acusaciones de infracción deliberada de derechos de autor por parte de OpenAI. Sus registros también fueron buscados por abogados en un caso separado presentado por autores de libros, incluida la comediante Sarah Silverman, según un expediente judicial. “No se siente bien capacitarse con los datos de las personas y luego competir con ellas en el mercado”. Balaji dijo a la AP a finales de octubre. “No creo que debas poder hacer eso. No creo que puedas hacerlo legalmente”. Le dijo a la AP que gradualmente se fue desilusionando más con OpenAI, especialmente después de la agitación interna que llevó a su junta directiva. de directores para despedir y luego recontratar al CEO Sam Altman el año pasado. Balaji dijo que estaba muy preocupado por cómo se estaban implementando sus productos comerciales, incluida su propensión a emitir información falsa conocida como alucinaciones. Pero del “conjunto de cuestiones” que le preocupaban, dijo que se estaba centrando en los derechos de autor como el que Era “realmente posible hacer algo al respecto”. Reconoció que era una opinión impopular dentro de la comunidad de investigación de IA, que está acostumbrada a extraer datos de Internet, pero dijo que “tendrán que cambiar y es cuestión de tiempo”. Él no había sido depuesto y no está claro hasta qué punto sus revelaciones serán admitidas como prueba en cualquier caso legal después de su muerte. También publicó una publicación en su blog personal con sus opiniones sobre el tema. Schulman, quien renunció a OpenAI en agosto, dijo que él y Balaji se fueron casualmente el mismo día y celebraron con sus colegas esa noche con una cena y bebidas en un bar de San Francisco. Otro de los mentores de Balaji, el cofundador y científico jefe Ilya Sutskever, había dejado OpenAI varios meses antes, lo que Balaji vio como otro impulso para irse. Schulman dijo que Balaji le había contado a principios de este año sus planes de dejar OpenAI y que Balaji no lo hizo. No creo que una IA mejor que la humana, conocida como inteligencia artificial general, “estaba a la vuelta de la esquina, como parecía creer el resto de la empresa”. El joven ingeniero expresó interés en obtener un doctorado y explorar “algunas ideas más fuera de lo común sobre cómo desarrollar inteligencia”, dijo Schulman. La familia de Balaji dijo que se está planeando un monumento a finales de este mes en el Centro Comunitario de India en Milpitas. , California, no lejos de su ciudad natal de Cupertino. —————- Associated Press y OpenAI tienen un acuerdo de licencia y tecnología que permite a OpenAI acceder a parte de los archivos de texto de AP.