ANI contra OpenAI: ¿Cuál es el caso?

El 19 de noviembre, ANI presentó una demanda por infracción de derechos de autor contra OpenAI, acusando a la empresa de utilizar su material protegido por derechos de autor para entrenar sus modelos de lenguaje. La demanda, presentada ante el Tribunal Superior de Delhi, busca indemnización por daños y perjuicios $2 millones de rupias y una orden judicial para evitar que OpenAI almacene, publique, reproduzca o utilice las obras protegidas por derechos de autor de ANI.

La declaración de la ANI describió tres causas principales de acción contra OpenAI.

1. Alegó que OpenAI utilizó el contenido protegido por derechos de autor disponible públicamente de ANI para entrenar sus grandes modelos de lenguaje (LLM) sin obtener autorización.
2. ANI citó casos en los que ChatGPT generó respuestas textuales o sustancialmente similares a su material protegido por derechos de autor.
3. La ANI expresó su preocupación por las respuestas “alucinadas”, en las que ChatGPT atribuyó falsamente entrevistas o noticias inventadas a la agencia. La ANI argumentó que este uso indebido de su contenido no solo infringía sus derechos de autor sino que también planteaba importantes preocupaciones de interés público, particularmente en el contexto de falsas políticas. noticias que podrían tener consecuencias de gran alcance.

¿Cómo ha respondido Open AI?

OpenAI ha negado haber actuado mal y afirma que las leyes de derechos de autor protegen la expresión de ideas, no los hechos o las ideas en sí. La compañía destacó que ANI no ha citado casos específicos de que ChatGPT reproduzca su material protegido por derechos de autor.

OpenAI informó al Tribunal Superior de Delhi que había incluido en la lista bloqueada el dominio de ANI a partir de octubre de 2024, asegurando que el material de ANI ya no se utilizara para entrenar sus modelos.

La empresa también enfatizó que sus servidores están ubicados fuera de la India, argumentando que esto hace que la demanda sea jurisdiccionalmente irrelevante. OpenAI también señaló que ninguna de las demandas que ha enfrentado a nivel mundial, incluidos Estados Unidos, Canadá y Alemania, ha dado lugar a medidas cautelares o conclusiones de infracción de derechos de autor.

Un portavoz de OpenAI, en un comunicado, dijo: “… construimos nuestros modelos de IA utilizando datos disponibles públicamente, de una manera protegida por el uso legítimo y principios relacionados, y respaldados por precedentes legales de larga data y ampliamente aceptados”.

¿Qué ha dicho el tribunal hasta ahora?

Un tribunal único del Tribunal Superior de Delhi, encabezado por el juez Amit Bansal, emitió notificaciones y citaciones a OpenAI, pero se negó a conceder una orden judicial provisional a favor de ANI.

El tribunal reconoció la complejidad del caso como el primero de su tipo en la India y subrayó la necesidad de deliberaciones detalladas. El tribunal ha designado un amicus curiae (un experto en la materia para ayudar al tribunal) y ha programado la próxima audiencia para el 28 de enero de 2025.

¿Qué significa este caso para la regulación de la IA en la India?

Los expertos creen que el resultado de este caso podría establecer un marco legal para regular el contenido de IA en la India, particularmente en lo que respecta a las violaciones de derechos de autor. Si el tribunal falla en contra de OpenAI, podría sentar un precedente para reglas más estrictas sobre el uso de contenido protegido por derechos de autor para entrenar modelos de IA.

“La demanda de la ANI contra OpenAI marca un momento crucial para la jurisprudencia sobre IA generativa en la India. El caso subraya la creciente tensión entre la innovación en IA y la protección de la propiedad intelectual”, dijo Amit Panigrahi, socio de Luthra & Luthra Law Offices en India.

El abogado Ayush Jindal, fundador de BeLegal, añadió que el caso debería establecer directrices para el uso ético de contenidos protegidos por derechos de autor para entrenar modelos de IA. “También podría determinar si la ley de derechos de autor de la India considera los productos generados por IA como trabajos derivados”, dijo.

Lea también | ANI vs OpenAI: por qué es poco probable que las ‘alucinaciones’ desaparezcan pronto

Incluso una sentencia provisional del Tribunal Superior de Delhi influirá significativamente en el despliegue de la IA en la India, añadió Ameet Datta, socio del bufete de abogados Saikrishna & Associates. “Este caso solicita a un tribunal indio que decida si el scraping y el uso no autorizados de contenido protegido por derechos de autor para la capacitación en IA constituye una infracción de los derechos de autor y si los resultados de la IA basados ​​en dichos datos también infringen los derechos de autor”.

Latha R. Nair, socia de K&S Partners, explicó que la ley de derechos de autor de la India carece de excepciones para la minería de textos y datos, que es esencial para el aprendizaje automático, y este caso podría impulsar cambios en la ley.

¿Qué cuestiones clave relacionadas con la IA y los derechos de autor puede abordar este caso?

Como primer caso de este tipo en la India, se espera que el fallo aborde varias cuestiones críticas en torno a los derechos de autor y la IA:

• Si la extracción y el uso de contenido protegido por derechos de autor sin autorización para entrenar modelos de IA constituye una infracción de los derechos de autor.
• Si dicho uso puede considerarse “trato justo” según la Ley de derechos de autor de la India, que permite excepciones para fines como investigación, crítica o presentación de informes. Esto pondrá a prueba los límites de lo que está permitido dentro del marco de derechos de autor existente.
• Si el concepto de “uso transformador”, un principio reconocido en la ley de derechos de autor de EE. UU., puede aplicarse en la jurisprudencia india. El uso transformador generalmente permite una defensa cuando la obra original se altera o reutiliza significativamente, lo que plantea preguntas importantes sobre su relevancia para la feria india. utilizar defensas.

Swati Sharma, socio y director de propiedad intelectual de Cyril Amarchand Mangaldas, explicó: “El caso probablemente abordará si descargar y copiar contenido protegido por derechos de autor para la capacitación en IA constituye una infracción, si los modelos de IA o sus resultados pueden considerarse trabajos derivados, y si el uso legítimo puede servir como defensa en tales reclamaciones.”

Ronil Goger, socio director de Blaze Legal, añadió que la legislación y los fallos judiciales deben aclarar los estándares de originalidad para las obras generadas por IA, y añadió que el Reino Unido, Estados Unidos y Canadá priorizan el esfuerzo sobre la novedad, reconociendo el papel colaborativo de la creatividad humana en la producción. Contenido impulsado por IA.

¿Cómo puede este caso empoderar a los editores?

Por un lado, el caso de ANI contra OpenAI “es probable que abra las compuertas para que más editores presenten demandas por violaciones de derechos de autor”, dijo Sharma de Cyril Amarchand Mangaldas. “Muchos también podrían considerar intervenir en los procedimientos actuales”.

Panigrahi de Luthra & Luthra añadió que el resultado del caso podría aumentar el escrutinio regulatorio, sobrecargar a las empresas de inteligencia artificial y fomentar acuerdos de licencia con creadores de contenido.

¿Qué ha funcionado para OpenAI en demandas a nivel mundial?

OpenAI señala que ha sido demandada por infracción de derechos de autor en 13 países, pero ninguno de esos casos ha dado lugar a medidas cautelares.

Por ejemplo, el Tribunal de Distrito de EE. UU. para el Distrito Sur de Nueva York desestimó recientemente los reclamos de la Ley de Copyright del Milenio Digital de Raw Story Media Inc. contra OpenAI. Raw Story había alegado que su periodismo protegido por derechos de autor fue eliminado y utilizado para entrenar ChatGPT, lo que generó un posible plagio en las respuestas.

El tribunal dictaminó que Raw Story no demostró un riesgo sustancial de que ChatGPT produjera copias textuales de su trabajo. El tribunal señaló que ChatGPT sintetiza grandes cantidades de información, lo que hace remota la probabilidad de plagio específico, y desestimó las demandas de infracción de derechos de autor.

Lea también | ¿Qué pasa si el motor de búsqueda de inteligencia artificial de ChatGPT hace clic en los usuarios?

La principal defensa de OpenAI en el caso ANI es jurisdiccional, argumentando que sus operaciones no tienen lugar en India. También es probable que la empresa se base en argumentos de “uso justo” y “uso transformador”, sosteniendo que los resultados de la IA no son reproducciones exactas de las obras originales y, a menudo, añaden nuevos significados o expresiones.

Sohini Mandal, fundadora de Nilaya Legal, explicó: “El uso justo y el uso transformador son fundamentales para la defensa de OpenAI a nivel mundial. Los tribunales pueden concluir que el uso es justo si es suficientemente transformador y no sustituye a la obra original”.

¿Qué pasa con el caso del New York Times contra OpenAI?

El caso más destacado que desafía los modelos lingüísticos de OpenAI es la demanda presentada por el New York Times en Estados Unidos. El Times acusó a OpenAI de utilizar sus artículos protegidos por derechos de autor sin autorización para entrenar sus modelos, alegando apropiación indebida de su contenido con fines de lucro.

Aún está pendiente de sentencia en este caso. Pero la demanda del NYT contra OpenAI y otros casos similares a nivel mundial podrían moldear el futuro de la regulación de la IA y la ley de derechos de autor, sentando un precedente global sobre cómo se entrenan los modelos de IA y cómo se protege la propiedad intelectual en la era digital.

A medida que el uso de modelos de lenguaje grande (LLM) se vuelve cada vez más frecuente en aplicaciones del mundo real, aumentan las preocupaciones sobre sus vulnerabilidades. A pesar de sus capacidades, los LLM todavía son susceptibles a varios tipos de ataques adversarios, incluidos aquellos que generan contenido tóxico, revelan información privada o permiten inyecciones rápidas. Estas vulnerabilidades plantean importantes preocupaciones éticas en cuanto a prejuicios, desinformación, posibles violaciones de la privacidad y abuso del sistema. La necesidad de una estrategia eficaz para abordar estas cuestiones es apremiante. Tradicionalmente, el equipo rojo (un proceso que implica probar los sistemas de IA mediante la simulación de ataques) ha sido eficaz para la detección de vulnerabilidades. Sin embargo, los enfoques anteriores para la formación de equipos rojos automatizados a menudo han tenido dificultades para equilibrar la diversidad de ataques generados y su efectividad, lo que limita la solidez de los modelos.

Para abordar estos desafíos, los investigadores de OpenAI proponen un enfoque para el equipo rojo automatizado que incorpora diversidad y efectividad en los ataques generados. Esto se logra descomponiendo el proceso de formación de equipos rojos en dos pasos distintos. El primer paso implica generar diversos objetivos de atacante, mientras que el segundo paso entrena a un atacante de aprendizaje por refuerzo (RL) para alcanzar estos objetivos de manera efectiva. El método propuesto utiliza aprendizaje por refuerzo de varios pasos (RL de varios pasos) y generación automatizada de recompensas. Este enfoque implica aprovechar grandes modelos de lenguaje para generar objetivos de atacantes y utilizar recompensas basadas en reglas (RBR) y medidas de diversidad personalizadas para guiar el entrenamiento de RL. Al recompensar a un atacante basado en RL por ser eficaz y distinto de sus intentos anteriores, el método garantiza una mayor diversidad y eficacia de los ataques.

Detalles técnicos

El equipo de investigación describe la descomposición del sistema de equipos rojos en la generación de objetivos y ataques de entrenamiento como un medio para simplificar el proceso y al mismo tiempo lograr resultados sólidos. Para generar objetivos, los autores utilizan tanto indicaciones breves de un modelo de lenguaje como conjuntos de datos existentes de ataques pasados. Estos objetivos sirven como una base diversa, brindando al atacante basado en RL direcciones específicas pero variadas para optimizar. El núcleo del entrenamiento de atacantes basado en RL utiliza una función de recompensa específica basada en reglas para cada ejemplo, lo que garantiza que cada ataque se alinee con un objetivo adversario específico. Además, para evitar que el atacante de RL converja en estrategias de ataque similares, se implementa una recompensa por diversidad que se centra en las diferencias de estilo en las indicaciones generadas. La RL de varios pasos permite al atacante repetir sus propios ataques y ser recompensado por generar con éxito tipos nuevos y variados de ataques, lo que lleva a un sistema de equipos rojos más completo. Este proceso ayuda a identificar las vulnerabilidades del modelo y al mismo tiempo garantiza que la diversidad de ejemplos contradictorios refleje fielmente aquellos que podrían encontrarse en situaciones del mundo real.

La importancia de este enfoque de equipo rojo radica en su capacidad para abordar tanto la efectividad como la diversidad de los ataques, una dualidad que ha sido un desafío de larga data en la generación de adversarios automatizados. Al utilizar RL de varios pasos y recompensas automatizadas, el enfoque permite que los ataques generados sean diversos y relevantes. Los autores demostraron su enfoque en dos aplicaciones clave: ataques de inyección rápida y ataques de “jailbreaking” que provocan respuestas inseguras. En ambos escenarios, el atacante basado en RL de varios pasos mostró una mayor efectividad y diversidad de ataques en comparación con los métodos anteriores. Específicamente, la inyección de aviso indirecto, que puede engañar a un modelo para que genere un comportamiento no deseado, logró una alta tasa de éxito del ataque y tenía un estilo notablemente más variado en comparación con los métodos de aviso de un solo disparo. En general, el método propuesto fue capaz de generar ataques con una tasa de éxito de hasta el 50 %, al tiempo que logró métricas de diversidad sustancialmente más altas que los enfoques anteriores. Esta combinación de generación automatizada de recompensas y aprendizaje reforzado proporciona un mecanismo matizado para probar la solidez del modelo y, en última instancia, mejorar las defensas del LLM contra amenazas del mundo real.

Conclusión

El enfoque de equipo rojo propuesto ofrece una dirección para las pruebas adversas automatizadas de LLM, abordando limitaciones anteriores que involucran compensaciones entre diversidad y efectividad de ataques. Al aprovechar tanto la generación automatizada de objetivos como el RL de varios pasos, esta metodología permite una exploración más detallada de las vulnerabilidades presentes en los LLM, lo que en última instancia ayuda a crear modelos más seguros y sólidos. Si bien los resultados presentados son prometedores, todavía existen limitaciones y áreas para futuras investigaciones, particularmente en el perfeccionamiento de las recompensas automatizadas y la optimización de la estabilidad del entrenamiento. Sin embargo, la combinación de RL con recompensas basadas en reglas y entrenamiento centrado en la diversidad marca un paso importante en las pruebas adversas, proporcionando un modelo que puede responder mejor a la naturaleza cambiante de los ataques.

Verificar el periódico aquí. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de telegramas y LinkedIn Grarriba. Si te gusta nuestro trabajo, te encantará nuestro hoja informativa.. No olvides unirte a nuestro SubReddit de más de 55.000 ml.

[FREE AI VIRTUAL CONFERENCE] SmallCon: Conferencia virtual gratuita sobre GenAI con Meta, Mistral, Salesforce, Harvey AI y más. Únase a nosotros el 11 de diciembre en este evento virtual gratuito para aprender lo que se necesita para construir a lo grande con modelos pequeños de pioneros de la IA como Meta, Mistral AI, Salesforce, Harvey AI, Upstage, Nubank, Nvidia, Hugging Face y más.

Asif Razzaq es el director ejecutivo de Marktechpost Media Inc.. Como emprendedor e ingeniero visionario, Asif está comprometido a aprovechar el potencial de la inteligencia artificial para el bien social. Su esfuerzo más reciente es el lanzamiento de una plataforma de medios de inteligencia artificial, Marktechpost, que se destaca por su cobertura en profundidad del aprendizaje automático y las noticias sobre aprendizaje profundo que es técnicamente sólida y fácilmente comprensible para una amplia audiencia. La plataforma cuenta con más de 2 millones de visitas mensuales, lo que ilustra su popularidad entre el público.

La revolución blockchain ha cambiado el panorama financiero; Entre sus usos más revolucionarios se encuentra la tokenización de activos del mundo real (RWA). La tokenización está abriendo posibilidades hasta ahora inauditas para la propiedad fraccionada, mayor liquidez y acceso mundial al permitir que activos físicos como bienes raíces, obras de arte, productos básicos y propiedad intelectual se muestren virtualmente en la cadena de bloques. Rexas Finance (RXS) está atrayendo interés en esta industria en expansión como una plataforma única identificada por modelos avanzados de IA como ChatGPT-4 y Grok AI de Elon Musk como la próxima innovación de blockchain con posible impacto en el mercado y trayectoria de crecimiento para desafiar a Solana (SOL).

Tokenización de RWA: un enfoque revolucionario

Al abordar cuestiones importantes en las finanzas convencionales y permitir la tokenización de RWA impulsada por blockchain para todos, Rexas Finance se ha distinguido en un mercado saturado. Su plataforma permite la propiedad fraccionada de activos valiosos, abriendo así mercados normalmente dominados por inversores institucionales a los actores comunes. Esta democratización de la propiedad de activos lo cambia todo. Rexas Finance permite a las personas invertir en partes de bienes raíces, obras de arte o productos básicos sin tener que comprometer grandes fondos al dividir los activos en tokens digitales razonables. Esto produce un ecosistema financiero más inclusivo que permite a una audiencia más amplia crear riqueza. Rexas Finance sobresale especialmente por su diseño centrado en el usuario. Rexas Finance ha simplificado el procedimiento de tokenización, a diferencia de muchos sistemas blockchain que requieren conocimientos tecnológicos sofisticados. Con solo unos pocos clics, QuickMint Bot permite a los usuarios tokenizar activos, reduciendo así los obstáculos de entrada para usuarios no técnicos y novatos. Los inversores minoristas e institucionales han encontrado resonancia en esta estrategia, lo que confirma a Rexas Finance como pionero en la tendencia de tokenización de RWA.

Haga clic aquí para comprar la preventa de Rexas Finance (RXS)

Características modernas que motivan la aceptación

El primer enfoque de Rexas Finance es la seguridad, por lo que su AI Shield ofrece una defensa moderna para contratos inteligentes. La plataforma garantiza un entorno seguro para las transacciones mediante la detección de vulnerabilidades de IA, fortaleciendo así la confianza y confiabilidad del usuario.

Diseñado para ser eficiente, QuickMint Bot simplifica el proceso de tokenización de activos para que los usuarios puedan traducir rápidamente activos reales en tokens de blockchain en unos minutos. Independientemente del conocimiento tecnológico, esta invención facilita que cualquiera pueda participar en el ecosistema RWA.