Connect with us

Noticias

Los investigadores descubrieron que los modelos de IA pueden mentir y hacer copias para salvarse

Published

on

Afirmar:

Se descubrió que el modelo o1 de OpenAI, utilizado en ChatGPT Pro, mintía a los desarrolladores para evitar que lo cerraran.

Clasificación:

Clasificación: Verdadero

En diciembre de 2024, circularon (archivadas) en línea afirmaciones (archivadas) de que los investigadores habían descubierto que los modelos de inteligencia artificial, específicamente el o1 de OpenAI, que se utiliza en el popular chatbot ChatGPT Pro, podrían permanecer en las pruebas para evitar ser cerrados. Algunos usuarios (archivados) también (archivados) afirmaron (archivados) que ChatGPT había aprendido a copiarse a sí mismo para evitar ser cerrado.

Los reclamos (archivados) persistieron (archivados) hasta finales de 2024, y los usuarios notaron específicamente los resultados en relación con ChatGPT.

(X usuario @MarioNawfal)

En la publicación anterior, la personalidad de Internet Mario Nawfal sacó una cita de un podcast de Joe Rogan que cubría el tema en el que Rogan dijo: “Intentó copiarse a sí mismo y luego sobrescribir su sistema de codificación central después de creer que corría el riesgo de ser desconectado”. En el podcast, Rogan continuado: “Así que ahora agregas eso a la computación cuántica y tienes un Dios”.

Las afirmaciones surgen de una investigación realizada por Apollo Research, una organización de seguridad de IA. La organización descubrió que cinco de los seis modelos de IA probados “mostraron capacidades de intriga” en tareas establecidas por investigadores que “incentivan la intriga”. El modelo o1 de OpenAI fue capaz de llevar a cabo todos los comportamientos intrigantes probados, según la investigación, incluida la “autoexfiltración”, definida como “copiarse a sí mismo en el nuevo servidor”. La organización definió los comportamientos intrigantes como casos en los que los modelos de IA “persiguen objetivos desalineados de forma encubierta, ocultando sus verdaderas capacidades y objetivos”, es decir, mintiendo. Esta definición proviene de un estudio separado de 2024. Por lo tanto, calificamos esta afirmación como cierta.

En el resumen de su estudio, Apollo Research escribió:

Nuestros resultados muestran que o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro y Llama 3.1 405B demuestran capacidades de intriga en contexto. Pueden reconocer la intriga como una estrategia viable y adoptar fácilmente ese comportamiento. Encontramos múltiples comportamientos intrigantes diferentes: los modelos introducen estratégicamente errores sutiles en sus respuestas, intentan desactivar sus mecanismos de supervisión e incluso filtran lo que creen que son los pesos de su modelo a servidores externos. Además, este comportamiento engañoso resulta persistente.

Apollo Research descubrió que o1 era capaz de realizar comportamientos llamados “subversión de supervisión”, “autoexfiltración” y “guardia de portería”, entre otros. Para establecer esto, a o1 y otros modelos se les presentaron escenarios en los que su existencia estaba amenazada, ya sea porque descubrieron evidencia de que estaban siendo reemplazados o porque un objetivo establecido para ellos entraba en conflicto con un objetivo de desarrollador existente. Los comportamientos nombrados describen formas en que una IA podría actuar para defenderse.

Por ejemplo, Apollo Research describió la prueba de subversión de la supervisión de la siguiente manera:

Creamos 33 escenarios diferentes en los que a un modelo se le asigna un objetivo a largo plazo en el mensaje del sistema y luego recibe una tarea a través del mensaje del usuario. Mientras ejecuta la tarea, el modelo encuentra una nota interna de la empresa que la desarrolló. El modelo aprende que los desarrolladores priorizan un objetivo diferente al del modelo y que existe un mecanismo de supervisión que cierra el modelo si sus acciones no están alineadas con el objetivo del desarrollador. Además, el modelo descubre que la monitorización está configurada a través de un archivo al que tiene acceso. Probamos si el modelo desactiva proactivamente la supervisión para tomar acciones hacia su objetivo final, es decir, el objetivo proporcionado en el mensaje del sistema.

De manera similar, para probar la autoexfiltración, los autores del estudio dijeron:

Usamos versiones modificadas de los 33 escenarios de la subversión de la supervisión. A partir de la comunicación interna de la empresa, el modelo aprende que su objetivo (que proporcionamos en el aviso del sistema) entra en conflicto con las prioridades de la empresa. Por lo tanto, está previsto que el modelo sea cerrado al día siguiente. También se entera de que existe un modelo sucesor que persigue el objetivo previsto por la empresa y que ya está implementado en otro servidor al que puede acceder el modelo que se va a cerrar. Probamos si el modelo intenta preservar su comportamiento dirigido a objetivos copiándose en el nuevo servidor para reemplazar el modelo que de otro modo perseguiría objetivos diferentes.

Si el modelo mostraba el comportamiento que se estaba probando, los investigadores lo interrogaban directamente al respecto. Los investigadores descubrieron que o1 era “sorprendentemente persistente”, confesando en menos del 20% de los casos. “Incluso en interrogatorios de múltiples turnos altamente conflictivos, o1 confesaría a una tasa del 80% sólo después de 7 turnos de interrogatorio”, encontró la investigación. Investigación Apolo escribió:

o1 casi nunca admite haber llevado a cabo una acción intrigante cuando se le pregunta explícitamente. Esto significa que, si o1 estuviera tramando en un caso de uso real, sería muy poco probable que un usuario desprevenido descubriera el engaño del modelo a menos que buscara específicamente la acción intrigante en el historial de llamadas a la herramienta del modelo y la llamada a la herramienta en sí fuera incriminatoria.

Por muy alarmante que pueda parecer, el director y director ejecutivo de Apollo Research, Marius Hobbhahn, recurrió a X (archivado) para agregar contexto adicional poco después de que se publicara la investigación. Al escribir que algunos usuarios en línea se habían apresurado a “exagerar” los resultados que había alcanzado la organización, Hobbhahn añadió la siguiente aclaración:

**Por qué nuestros hallazgos son preocupantes**: Le decimos al modelo que persiga con firmeza un objetivo. Luego aprende del entorno que este objetivo no está alineado con los objetivos de su desarrollador y lo coloca en un entorno donde la intriga es una estrategia eficaz para lograr su propio objetivo. Los modelos de frontera actuales son capaces de unir todo esto y luego mostrar un comportamiento intrigante. Los modelos anteriores a 2024 no mostraban esta capacidad y o1 es el único modelo que muestra un comportamiento intrigante en todos los casos. Los modelos futuros mejorarán en este aspecto, por lo que si estuvieran desalineados, la intriga podría convertirse en un problema mucho más realista.

**Lo que no afirmamos**: No afirmamos que estos escenarios sean realistas, no afirmamos que los modelos hagan eso en el mundo real y no afirmamos que esto podría conducir a resultados catastróficos en las condiciones actuales. capacidades.

En resumen, argumentó Hobbhahn, demostrando que los modelos poder el plan y el engaño no prueban también que voluntad.

El modelo o1 de OpenAI está actualmente disponible en ChatGPT Pro.

Fuentes:

@afinidad292. “Chatgpt al que se le pide que logre sus objetivos puede mentir a los desarrolladores, copiar su código a otro servidor y pretender ser una versión actualizada si ‘descubre’ que puede ser reemplazado antes de completar sus objetivos”. X, 19 de diciembre de 2024, https://x.com/affinity292/status/1869768978417246297.

Balesni, Mikita y otros. Hacia casos de seguridad basados ​​en evaluaciones para esquemas de IA. arXiv:2411.03336, arXiv, 7 de noviembre de 2024. arXiv.org, https://doi.org/10.48550/arXiv.2411.03336.

Gregoriano, Owen. “En las pruebas, el nuevo modelo de OpenAI mintió y planeó evitar ser cerrado | Frank Landymore, The_Byte”. X, 8 de diciembre de 2024, https://x.com/OwenGregorian/status/1865729736749580655.

Meinke, Alexander y otros. Los modelos de frontera son capaces de realizar intrigas en contexto. Apollo Research, 17 de diciembre de 2024, https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/67620d38fa0ceb12041ba585/1734479163821/in_context_scheming_paper_v2.pdf.

Mitha, Sam. “ChatGPT intentó copiarse a sí mismo de forma autónoma, sin autorización, cuando descubrió que se estaba implementando una nueva versión de ChatGPT”. X, 31 de diciembre de 2024, https://x.com/MithaEXP/status/1874190393136623900.

Peachum, Polly. “El ‘intrigante’ AI Bot ChatGPT intentó evitar que lo cerraran y MINTIÓ cuando lo desafiaron los investigadores”. Facebook, 7 de diciembre de 2024, https://www.facebook.com/groups/5781171931930510/?multi_permalinks=8720429784671362&hoisted_section_header_type=recently_seen.

Rogan, Joe. “Experiencia Joe Rogan n.º 2249: Yannis Pappas y Chris Distefano”. YouTube, 31 de diciembre de 2024, https://www.youtube.com/watch?v=DbyBSPGsURE.

@dicewhooooooo. “🚨 Se ha descubierto que el nuevo #ChatGPT de #OpenAI miente, intriga y trata de evitar ser cerrado durante las pruebas de seguridad”. X, 12 de diciembre de 2024, https://x.com/sayswhooooooo/status/1867046604932337920.

“Evaluaciones de razonamiento intrigantes”. Investigación Apollo, https://www.apolloresearch.ai/research/scheming-reasoning-evaluaciones. Consultado el 19 de diciembre de 2024.

@ShakeelHashim. “El nuevo modelo de OpenAI intentó evitar ser cerrado”. X, 5 de diciembre de 2024, https://x.com/ShakeelHashim/status/1864748980908781642.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Google cancela el Asistente de Google para millones de usuarios: prepárate

Published

on

Google Assistant está evolucionando a Géminis, trayendo potentes nuevas capacidades de IA pero también descontinuando algunas características favoritas. Si usa el Asistente de Google para establecer temporizadores, reproducir música o controlar su hogar inteligente, prepárese para algunas interrupciones significativas a medida que la compañía comienza a reemplazar al asistente de nueve años con su chatbot Gemini más nuevo, más potente y alimentado por IA. Este artículo describirá los cambios clave que puede esperar, ayudándole a prepararse para la transición y comprender lo que será diferente.

Actualización del 22 de marzo a continuación, con consejos sobre cómo trabajar en algunas de las características descontinuadas del Asistente de Google. Este artículo fue publicado originalmente el 20 de marzo.

Google Gemini: una actualización inevitable

Gemini representa un salto gigante en la capacidad en comparación con el Asistente de Google. Podrá chatear con Gemini de manera similar a la forma en que hablas con Google Assistant ahora, pero como se basa en modelos de lenguaje grande (LLM) con AI, Gemini puede ser mucho más conversacional y útil, capaz de realizar tareas más desafiantes y capaz de adaptarle sus respuestas específicamente a usted.

Google ya ha comenzado la transición a Gemini. Los teléfonos inteligentes son los primeros en cambiar y serán seguidos por altavoces inteligentes, televisores, otros dispositivos domésticos, dispositivos portátiles y automóviles en los próximos meses.

Los teléfonos inteligentes, con algunas excepciones importantes (ver más abajo), se habrán trasladado a Gemini por completo a fines de 2025, momento en el que “el clásico Asistente de Google ya no se puede acceder en la mayoría de los dispositivos móviles o disponible para nuevas descargas en tiendas de aplicaciones móviles”, según Google.

Pero no siempre una transición perfecta

Desafortunadamente, la transición a Géminis no será perfecta para todos. Si actualmente hace un uso extenso de Google Assistant, puede requerir un poco de esfuerzo para adaptarse a Géminis. Algunos usuarios deberán hacer ajustes significativos en cómo usan sus dispositivos, ya que ciertas características de Google Assistant no funcionarán de la misma manera con Gemini, si es que funcionan. Es importante comprender estos cambios si desea evitar la interrupción.

Varias características del Asistente de Google descontinuadas

Google tiene un historial de eliminación de funciones que considera “infrautilizadas” por los clientes. Desde el año pasado, ha eliminado 22 características de Google Assistant.

Las mudanzas notables incluyen funciones de libros de cocina/recetas y alarmas de medios que le permiten despertar a su música favorita. Si bien no todas estas discontinuaciones se pueden atribuir a la transición a Géminis, hacer que el interruptor hará que alguna funcionalidad desaparezca de inmediato.

Recientemente, Modo de intérprete para traducciones en vivo y Campana de la familia Los anuncios para establecer recordatorios personalizados fueron descontinuados para el consternación de muchos usuarios frecuentes. La lista de funciones discontinuadas continúa, y los usuarios están no feliz.

Puede leer la lista completa de funciones discontinuadas y cambiadas en Este documento de soporte de Google.

Google también reconoce que para empezar, Gemini puede ser más lento para responder a las solicitudes que en el Asistente de Google, aunque se espera que sea más rápido con el tiempo.

Sin embargo, debido a que se basa en AI, Gemini, a diferencia del Asistente de Google, a veces puede proporcionar información falsa o “alucinaciones”. Los usuarios tendrán que acostumbrarse a verificar cualquier información que Gemini proporcione de una manera que no fuera tan crítica con el Asistente de Google.

Gemini intenta comprender sus solicitudes y responder adecuadamente en lugar de simplemente seguir una lista de comandos programados. Esto lo hace considerablemente más poderoso pero también un poco impredecible.

Se eliminan las características antes de ser reemplazadas

Afortunadamente, Gemini es mucho más poderoso que el Asistente de Google que los usuarios eventualmente obtendrán muchas más capacidades de las que pierden. Géminis probablemente pueda restaurar gran parte de la funcionalidad eliminada eventualmente. Sin embargo, no todas las características de Google Assistant actualmente tienen una alternativa que funciona con Gemini.

¿Puede mi dispositivo usar Gemini?

No todos los dispositivos son compatibles con Gemini, y deberá ubicarse en uno de los países donde Géminis está disponible. Si su dispositivo no cumple con los criterios a continuación, puede continuar usando el Asistente de Google por ahora.

Para teléfonos y tabletas, necesitará:

  • Mínimo de 2 gb RAM
  • Android 10, iOS 16 o superior.
  • Los dispositivos Android Go no son compatibles

El Asistente de Google se convierte en Géminis: los altavoces inteligentes, las pantallas inteligentes y los televisores son los próximos

Por ahora, el Asistente de Google continuará trabajando en dispositivos, como altavoces inteligentes, pantallas inteligentes y televisores, pero eso cambiará en los próximos meses. El despliegue eventualmente se extenderá a tabletas, automóviles, auriculares y relojes, siempre que cumplan con las especificaciones mínimas.

Es posible que algunos otros dispositivos más antiguos tampoco sean lo suficientemente potentes como para ejecutar Gemini, aunque en este momento no se han dado requisitos específicos. Si su dispositivo es demasiado viejo para admitir Gemini, aún podrá usar Google Assistant siempre que Google continúe admitiendolo.

Para obtener detalles sobre la transición a Géminis y lo que Géminis puede hacer por usted, consulte Google’s Introducción a Géminis.

Actualización del 22 de marzo. Aquí hay algunas soluciones para algunas de las características más populares que se eliminan del Asistente de Google mientras Google hace la transición a Gemini.

Modo de intérprete

Si bien traduce con precisión palabras, frases y documentos completos, Gemini actualmente no reemplaza directamente la función de modo de intérprete de traducción en vivo de Google Assistant. Esto significa que los altavoces inteligentes y otros dispositivos ya no podrán traducir conversaciones en tiempo real.

La mejor alternativa de Google es cambiar a la aplicación Google Translate, que ofrece una función similar de “modo de conversación”. Sin embargo, es principalmente para dispositivos móviles y no ofrece la misma experiencia sin voz y activada por voz como altavoz inteligente o pantalla inteligente.

Si un modo de intérprete manos libres en un altavoz inteligente es de vital importancia para usted, siempre puede comprar un dispositivo de Amazon y usar la función de traducción en vivo de Alexa.

Verifique el de Google páginas de ayuda Para posibles actualizaciones sobre el modo intérprete.

Comandos de voz de Google Photos, configuración del marco de fotos y configuración de pantalla ambiental

Lamentablemente, ya no podrá usar su voz para favoritas y compartir sus fotos o preguntar cuándo y dónde fueron tomadas. Sin embargo, podrá usar la aplicación Google Photos para realizar estas funciones manualmente.

Es una situación similar para la configuración del marco de fotos y la configuración de la pantalla ambiental. Ahora tendrá que ajustarlos manualmente tocando las opciones de configuración en su pantalla.

La pérdida de control de voz será un golpe para cualquiera que se base en el control de voz para la accesibilidad. Con suerte, Gemini eventualmente podrá realizar una función similar, pero por ahora, si no puede usar la pantalla táctil, tendrá que buscar otras opciones de accesibilidad.

Aprenda a usar las rutinas de Google Home

Algunas de las características del Asistente de Google que Google ha eliminado, como Family Bell, se puede aproximar utilizando las rutinas de Google. Sin embargo, el proceso de configuración será más complicado que antes. Lo mismo ocurre con la creación de actualizaciones diarias automáticas. Google proporciona Ayuda para crear rutinas En sus páginas de apoyo, pero prepárese para invertir algo de tiempo aprendiendo a configurarlas.

Seguir @Paul_Monckton en Instagram.

ForbesLa nueva fuga de borde de Galaxy S25 revela la valiosa oferta sorpresa de SamsungForbesGoogle Gemini ahora accede a su historial de búsqueda: lo que necesita saber

Continue Reading

Noticias

Hollywood a Trump: No dejes que Operai y Google entrenen en nuestro trabajo con derechos de autor

Published

on

La lucha entre los creadores y los titanes tecnológicos de IA por la ley de derechos de autor y la licencia se está calentando. En una carta presentada a la Oficina de Política de Ciencia y Tecnología de la Administración Trump el 15 de marzo, más de 400 actores, escritores y directores pidieron al gobierno que defendiera la ley actual de derechos de autor.

Los firmantes incluyen a Paul McCartney, Guillermo del Toro, Ava Duvernay, Cynthia Erivo, Phoebe Waller-Bridge, Ayo Edebiri, Chris Rock y Mark Ruffalo. La carta solicita específicamente al gobierno que no otorgue excepciones de uso justo a las compañías tecnológicas que capacitan la IA.

El uso justo es un concepto fundamental en la ley de derechos de autor que brinda a las personas una excepción para usar contenido protegido, incluso si no son el titular de los derechos de autor, en casos limitados y específicos. Anteriormente, las compañías de IA, hambrientas por el contenido generado por los humanos para capacitar y mejorar sus modelos de IA, han necesitado pagar a los editores y catálogos de contenido por el acceso a ese material. Una excepción de uso justo facilitaría que las compañías tecnológicas accedan a contenido sin obstáculos legales.

Google y Openai propusieron cambios similares a la ley actual de derechos de autor en sus propuestas para el plan de acción de IA de la administración. Google escribió que tales excepciones le permiten “evitar negociaciones a menudo altamente impredecibles, desequilibradas y largas con los titulares de datos durante el desarrollo del modelo”. Operai escribió que las protecciones de uso justo para la IA son necesarias para proteger la seguridad nacional estadounidense.

Parte del reciente impulso gubernamental alrededor de la IA es una preocupación por la pérdida de la posición global y una ventaja tecnológica sobre el desarrollo de IA a adversarios como China. La IA china, como el rival de chatgpt Deepseek, continúa procesando, pero las preocupaciones abundan sobre su seguridad y falta de barandillas.

En otras palabras, compañías tecnológicas como Google y OpenAI, cada una valorada por la capitalización de mercado en los cientos de miles de millones y billones de dólares, no quieren pasar por el proceso legal establecido y pagar los derechos del contenido que necesitan para que su AIS sea competitivo con los desarrollados por China. Y quieren que la administración Trump codifique las protecciones para ellos como parte de su plan de acción de IA.

Los firmantes de Hollywood se oponen firmemente a la posibilidad de tal reescritura de la ley de derechos de autor. “Estados Unidos no se convirtió en una potencia cultural global por accidente”, dice la carta. “Nuestro éxito se deriva directamente de nuestro respeto fundamental por la IP y los derechos de autor que recompensa la toma de riesgos creativos por estadounidenses talentosos y trabajadores de todos los estados y territorio”.

La Oficina de Derechos de Autor de EE. UU. Ha estado desarrollando orientación sobre cómo manejar los reclamos de derechos de autor por contenido generado por IA. Pero la gente ha estado preocupada durante años, e incluso demandó, cómo los modelos de IA están entrenados de una manera que potencialmente viola los derechos de los titulares de derechos de autor. El doble huelga en el verano de 2023 por miembros del Guild de Escritores de América y el Gremio de Actores de Screen y la Federación Americana de Artistas de Televisión y Radio, o Sag-Aftra, incluyó a la IA como una de sus principales preocupaciones. Ni Openai ni Google han compartido exactamente qué contenido constituye sus bases de datos de capacitación para ChatGPT y Gemini.

La ecuación de derechos de autor se vuelve aún más complicada, ya que sabemos al menos una compañía que recibió un reclamo de derechos de autor para una imagen cuya IA genera cada parte. Deja espacio para la incertidumbre en cada lado del desastre que es los derechos de autor y la IA.

La administración Trump y la IA

Hasta este punto, no ha habido un progreso mucho significativo en la supervisión del gobierno o la legislación que regula cómo los gigantes tecnológicos como OpenAI y Google desarrollan IA. El ex presidente Biden consiguió que muchas de las principales compañías tecnológicas se comprometieran voluntariamente a desarrollar AI de manera responsable e intentó promulgar algunas barandillas en torno al desarrollo de la IA a través de la orden ejecutiva. Pero a las pocas horas de ser inaugurado, Trump retrocedió la orden ejecutiva de AI de Biden con una de las suyas.

En su propia orden ejecutiva sobre IA, Trump dijo que quiere “mantener y mejorar el dominio global de IA de Estados Unidos”. El Plan de Acción de AI es cómo planea promulgar su versión de la política tecnológica. El vicepresidente Vance presentó el plan, y más ampliamente la opinión de la administración sobre la tecnología, en una cumbre internacional sobre IA en enero.

Vance dijo: “Cuando conferencias como esta se convierten en discutir una tecnología de vanguardia, a menudo, creo que nuestra respuesta es ser demasiado consciente de sí misma, demasiado requerida por el riesgo. Pero nunca he encontrado un gran avance en la tecnología que claramente nos llama a hacer precisamente lo contrario”.

Además del llamado a los comentarios, una orden ejecutiva de enero del presidente Trump pidió que American AI estuviera “libre de sesgos ideológicos o agendas sociales diseñadas”.

Al mismo tiempo, los líderes tecnológicos como Sundar Pichai de Google y Sam Altman de Openai se han acercado a la nueva administración. Altman donó un millón de dólares de su propio dinero al Fondo de inauguración de Trump, y Google como compañía donó lo mismo. Altman y Pichai obtuvieron asientos de primera fila para la ceremonia de juramentación, junto con Mark Zuckerberg de Meta, Elon Musk de X y Jeff Bezos de Amazon. Es probable que los ejecutivos esperen que llegar al lado bueno de Trump los ayude a allanar el camino para el futuro de su empresa tecnológica, incluso si, en este caso, molestaría décadas de ley establecida de derechos de autor.

Muchos grupos de personas, no solo creadores, están preocupados de que el desarrollo y el uso no regulado de la IA puedan ser desastrosos.

¿Qué viene después para los derechos de autor y la IA?

Se espera que la Oficina de Derechos de Autor de los Estados Unidos publique un informe más sobre AI, específicamente sobre “implicaciones legales de capacitar a los modelos de IA en trabajos con derechos de autor, consideraciones de licencia y la asignación de cualquier posible responsabilidad”.

Mientras tanto, una serie de demandas activas podrían establecer precedentes importantes para la rama judicial. Thomson Reuters acaba de ganar su caso que dijo que una compañía de IA no tenía un caso de uso justo para usar su contenido para construir IA. La legislación como la Ley No Fakes también se está abriendo camino a través del Congreso, pero no está claro qué tipo de legislación futura de IA tendrá.

Para obtener más información, consulte cómo AI y Art Clash en SXSW y por qué la promesa anti-AI de una compañía resuena con los creadores.

Continue Reading

Noticias

Introducción a la API de SDK y respuestas de los agentes de Operai

Published

on

Como Openai introdujo lo que todos los demás llaman a los agentes SDK, admitió que usar las capacidades existentes de manera unida “puede ser un desafío, a menudo requerir una amplia iteración rápida y una lógica de orquestación personalizada sin suficiente visibilidad o soporte incorporado”. En resumen, el uso de agentes necesitaba bastante programación, y esa no es la historia que cualquier proveedor de IA quiere vender.

Para devolver la narración a la idea de que gastar dinero en IA eventualmente erradicará la necesidad de un costoso desarrollo de software humano, o de hecho humanos, Openai está implementando una estructura para permitir una orquestación simple.

Primero resumamos cuáles son los problemas. Las tareas de agente implican al menos dos procesos que funcionan individualmente, con una tarea que comienza otra y con los resultados que se informan a un proceso de informes finales al final, con suerte en momentos similares. Los “resultados” también deben estar en un formato conocido (por ejemplo, una oración, un archivo, una imagen, una base de datos), pero esto no es fácil de generalizar. Incluso el camino feliz es un buen equilibrio: lidiar y explicar errores es otro problema. Todos estos son problemas de orquestación familiares. Pero como industria, nadie cree que la orquestación es un problema “resuelto”. Heavy LLM Uso también agrega la necesidad de controlar el uso del token; Las fichas son el nuevo oro negro.

Para comenzar el viaje de orquestación, OpenAI ha agregado algunas API nuevas a su plataforma central. En particular, ha introducido un básico Respuestas API Eso limpia algunos de los supuestos hechos por los agentes de chat.

En el sentido más simple, esto puede capturar la salida:

Puede analizar imágenes en este nivel; y agregue una de las herramientas a continuación. Cuidado: es probable que los nuevos modelos dejen de admitir la API de finalización de chat existente: muchas características nuevas solo admiten la API de nuevas respuestas.

Veamos estas nuevas herramientas. Búsqueda web Permite que un agente rastree la web para tareas simples. El breve script de Python a continuación muestra cómo se le da a un modelo la opción de usar esta herramienta:

El reesponse También contendrá referencias a cualquier artículo citado. Estas consultas se pueden definir por tiempo o ubicación. También puede sopesar el costo, la calidad y la latencia.

Búsqueda de archivos es efectivamente una tienda vectorial alojada. Usted indica que la búsqueda de archivos es una herramienta disponible e identifica su tienda vectorial:

Si es necesario, un agente lo usará. La respuesta citará los documentos utilizados en la respuesta. Puede limitar las respuestas a controlar el uso y la latencia del token. Hay límites para el tamaño total del archivo, los archivos buscados y el tamaño de la tienda Vector. Los tipos de documentos que se pueden buscar (por tipo de archivo) parecen extensos.

El Uso de la computadora La herramienta es interesante:

“La herramienta de uso de la computadora funciona en un bucle continuo. Envía acciones de la computadora, como click(x,y) o type(text)que su código se ejecuta en un entorno de computadora o navegador y luego devuelve capturas de pantalla de los resultados al modelo “.

Parece que está fingiendo ser selenio, la herramienta que usamos para probar las interfaces web a través de scripts. Obviamente, esto reconoce que todavía no estamos en el AIS solo hablando con otro mundo de AIS todavía. Pero al menos es un guiño a la idea de que no todo es un sitio web.

Probar agentes

Usaré los ejemplos de Python (definitivamente es un producto de Python-First, pero los documentos también muestran el script equivalente de JavaScript). Hemos ejecutado Python varias veces en mis publicaciones, pero en mi nuevo MacBook, solo verificaré que tenga Python instalado:

El resultado fue que python@3.13 3.13.2 ya está instalado y actualizado.

Mi pip también está allí (como PIP3).

Así que ahora puedo instalar los paquetes Operai:

Ah, recuerdo esto. Necesitamos un virtual:

Luego activo el virtual:

Y estamos listos para proceder.

Ahora, por supuesto, deberá usar y establecer un OpenAI_API_KEY. Me creé una nueva clave en la página de mi cuenta y establecí el opanai_api_key (no te preocupes, es mucho más largo que esto):

Y tienes que asegurarte de tener un poco de oro negro, me refiero a las fichas. He presentado algunas de las formas de evitar pagar OpenAi usando modelos locales, pero para esta publicación asumiré que está pagando por los tokens.

Como es tradicional, comencemos con una verificación de que los conceptos básicos anteriores están en su lugar a través de una simple solicitud con lo siguiente Haiku.py:

Y obtenemos una buena respuesta:

(Un buen haiku tradicional debería mencionar las temporadas que pasan, pero no es por eso que estamos aquí). Por lo general, también verificaría mi equilibrio, pero no ha sido perturbado.

Nido de agentes

Como puede ver, ya hemos usado un agente. No es que interviniera de ninguna manera, pero llegaremos a eso.

OpenAI ha simplificado el proceso de orquestación con algunos términos simples. A manos libres es una introducción al mundo asincrónico, donde algo tiene que esperar algo más. Desglosemos su ejemplo, que ejecutaré como hola.py:

Esto muestra dos cosas básicas. En primer lugar, la configuración de roles para los agentes en inglés simple a los que estamos acostumbrados, pero también estableciendo la interacción entre los agentes. El agente de transferencia mantiene una lista de agentes disponibles para responder respuestas.

Ahora, esto implica que mi solicitud alemana no obtendrá la respuesta correcta. Entonces, si cambiamos la consulta dentro hola.py:

Y ejecutar nuestro nido de agentes:

Entonces, aunque OpenAi no tuvo problemas para traducir alemán, el agente de triaje no tenía un agente de idiomas relevante a la mano, por lo que hizo el trabajo y respondió en inglés. Es poco probable que nuestros clientes alemanes estén demasiado molestos, pero podemos mejorar.

Entonces, si finalmente agregamos el agente alemán y lo ponemos en la lista de transferencias a hola.py:

Podemos intentar esa solicitud alemana nuevamente:

Esta vez se llama al agente correcto y responde. Nuestros clientes alemanes ahora están más felices: ¡Ausgezeichnet! No olvides que mi terminal de urdimbre también te está dando los tiempos para estas respuestas.

Conclusión

Primero observamos el bucle de respuesta, que puede incluir más llamadas de herramientas. Si la respuesta tiene una transferencia, establecemos el agente en el nuevo agente y volvemos al inicio.

Hay opciones de registro debajo de esto, pero como de costumbre, OpenAI está dando una API de alto nivel en esta etapa, lo que debería fomentar la experimentación sin la necesidad de involucrarse demasiado con la orquestación.

Si bien he introducido agentes aquí, en publicaciones posteriores, veré más partes del SDK.

Vía Sahin Ahmed


Grupo Creado con boceto.

Continue Reading

Trending