Como Openai introdujo lo que todos los demás llaman a los agentes SDK, admitió que usar las capacidades existentes de manera unida “puede ser un desafío, a menudo requerir una amplia iteración rápida y una lógica de orquestación personalizada sin suficiente visibilidad o soporte incorporado”. En resumen, el uso de agentes necesitaba bastante programación, y esa no es la historia que cualquier proveedor de IA quiere vender.
Para devolver la narración a la idea de que gastar dinero en IA eventualmente erradicará la necesidad de un costoso desarrollo de software humano, o de hecho humanos, Openai está implementando una estructura para permitir una orquestación simple.
Primero resumamos cuáles son los problemas. Las tareas de agente implican al menos dos procesos que funcionan individualmente, con una tarea que comienza otra y con los resultados que se informan a un proceso de informes finales al final, con suerte en momentos similares. Los “resultados” también deben estar en un formato conocido (por ejemplo, una oración, un archivo, una imagen, una base de datos), pero esto no es fácil de generalizar. Incluso el camino feliz es un buen equilibrio: lidiar y explicar errores es otro problema. Todos estos son problemas de orquestación familiares. Pero como industria, nadie cree que la orquestación es un problema “resuelto”. Heavy LLM Uso también agrega la necesidad de controlar el uso del token; Las fichas son el nuevo oro negro.
Para comenzar el viaje de orquestación, OpenAI ha agregado algunas API nuevas a su plataforma central. En particular, ha introducido un básico Respuestas API Eso limpia algunos de los supuestos hechos por los agentes de chat.
En el sentido más simple, esto puede capturar la salida:
Desde Operai Import OpenAI Client = OpenAI () respuesta = Client.Responses.Create (Model = “GPT-4O”, input = “Escriba una historia de una oración a la hora de acostarse sobre un unicornio”) print (respuesta.output_text)
|
|
de opadai importar Opadai cliente = Opadai() respuesta = cliente.respuestas.crear( modelo=“GPT-4O”, aporte=“Escribe una historia de una oración a la hora de dormir sobre un unicornio”. ) imprimir(respuesta.output_text) |
Puede analizar imágenes en este nivel; y agregue una de las herramientas a continuación. Cuidado: es probable que los nuevos modelos dejen de admitir la API de finalización de chat existente: muchas características nuevas solo admiten la API de nuevas respuestas.
Veamos estas nuevas herramientas. Búsqueda web Permite que un agente rastree la web para tareas simples. El breve script de Python a continuación muestra cómo se le da a un modelo la opción de usar esta herramienta:
Desde Operai Import OpenAI Client = OpenAI () Respuesta = Client.Responses.Create (Model = “GPT-4O”, Tools =[{“type”: “web_search_preview”}]input = “¿Qué historia de Kubernetes apareció hoy?” ) print (respuesta.output_text)
|
|
de opadai importar Opadai cliente = Opadai() respuesta = cliente.respuestas.crear( modelo=“GPT-4O”, herramientas=[{“type”: “web_search_preview”}], aporte=“¿Qué historia de Kubernetes apareció hoy?” ) imprimir(respuesta.output_text) |
El reesponse También contendrá referencias a cualquier artículo citado. Estas consultas se pueden definir por tiempo o ubicación. También puede sopesar el costo, la calidad y la latencia.
Búsqueda de archivos es efectivamente una tienda vectorial alojada. Usted indica que la búsqueda de archivos es una herramienta disponible e identifica su tienda vectorial:
Desde Operai Import OpenAI Client = OpenAI () respuesta = Client.Responses.Create (Model = “GPT-4O-Mini”, input = “¿Qué es la investigación profunda de OpenAI?”, Tools =[{
“type”: “file_search”,
“vector_store_ids”: [“<vector_store_id>”]}]) imprimir (respuesta)
|
|
de opadai importar Opadai cliente = Opadai() respuesta = cliente.respuestas.crear( modelo=“GPT-4O-Mini”, aporte=“¿Qué es la investigación profunda de Operai?”, herramientas=[{ “type”: “file_search”, “vector_store_ids”: [“<vector_store_id>”] }] ) imprimir(respuesta) |
Si es necesario, un agente lo usará. La respuesta citará los documentos utilizados en la respuesta. Puede limitar las respuestas a controlar el uso y la latencia del token. Hay límites para el tamaño total del archivo, los archivos buscados y el tamaño de la tienda Vector. Los tipos de documentos que se pueden buscar (por tipo de archivo) parecen extensos.
El Uso de la computadora La herramienta es interesante:
“La herramienta de uso de la computadora funciona en un bucle continuo. Envía acciones de la computadora, como click(x,y) o type(text)que su código se ejecuta en un entorno de computadora o navegador y luego devuelve capturas de pantalla de los resultados al modelo “.
Parece que está fingiendo ser selenio, la herramienta que usamos para probar las interfaces web a través de scripts. Obviamente, esto reconoce que todavía no estamos en el AIS solo hablando con otro mundo de AIS todavía. Pero al menos es un guiño a la idea de que no todo es un sitio web.
Usaré los ejemplos de Python (definitivamente es un producto de Python-First, pero los documentos también muestran el script equivalente de JavaScript). Hemos ejecutado Python varias veces en mis publicaciones, pero en mi nuevo MacBook, solo verificaré que tenga Python instalado:
El resultado fue que python@3.13 3.13.2 ya está instalado y actualizado.
Mi pip también está allí (como PIP3).
Así que ahora puedo instalar los paquetes Operai:
Ah, recuerdo esto. Necesitamos un virtual:
Luego activo el virtual:
Y estamos listos para proceder.
Ahora, por supuesto, deberá usar y establecer un OpenAI_API_KEY. Me creé una nueva clave en la página de mi cuenta y establecí el opanai_api_key (no te preocupes, es mucho más largo que esto):
Y tienes que asegurarte de tener un poco de oro negro, me refiero a las fichas. He presentado algunas de las formas de evitar pagar OpenAi usando modelos locales, pero para esta publicación asumiré que está pagando por los tokens.
Como es tradicional, comencemos con una verificación de que los conceptos básicos anteriores están en su lugar a través de una simple solicitud con lo siguiente Haiku.py:
Desde Agents Import Agent, Runner Agent = Agent (name = “Assistant”, Instrucciones = “Usted es un asistente útil”) Result = Runner.run_sync (agente, “Escriba un haiku sobre la recursión en la programación”) imprime (resultado.final_output)
|
|
de agentes importar Agente, Corredor agente = Agente(nombre=“Asistente”, instrucciones=“Eres un asistente útil”) resultado = Corredor.run_sync(agente, “Escribe un haiku sobre la recursión en la programación”.) imprimir(resultado.final_output) |
Y obtenemos una buena respuesta:
(Un buen haiku tradicional debería mencionar las temporadas que pasan, pero no es por eso que estamos aquí). Por lo general, también verificaría mi equilibrio, pero no ha sido perturbado.
Como puede ver, ya hemos usado un agente. No es que interviniera de ninguna manera, pero llegaremos a eso.
OpenAI ha simplificado el proceso de orquestación con algunos términos simples. A manos libres es una introducción al mundo asincrónico, donde algo tiene que esperar algo más. Desglosemos su ejemplo, que ejecutaré como hola.py:
Desde Agents Import Agent, Runner Import Asyncio Spanish_agent = agente (name = “español agente”, instrucciones = “solo hablas español.”,) inglés_agent = agente (name = “English Agent”, Instrucciones = “Solo hablas inglés”,) triage_agent = agente (name = “triage agente”, instrucciones = “Entrena al agente apropiado basado en el idioma de la solicitud”, handoffs =[spanish_agent, english_agent],) async def main (): result = Await Runner.run (triage_agent, input = “hola, ¿cómo estás?”) Impresión (result.final_output) if __name__ == “__main__”: asyncio.run (main ())
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
|
de agentes importar Agente, Corredor importar asincio español_agent = Agente( nombre=“Agente español”, instrucciones=“Solo hablas español”., ) inglés_agent = Agente( nombre=“Agente inglés”, instrucciones=“Solo hablas inglés”, ) triaje_agent = Agente( nombre=“Agente de triaje”, instrucciones=“Se transmite al agente apropiado basado en el idioma de la solicitud”., traspaso=[spanish_agent, english_agent], ) asíncrata defensor principal(): resultado = esperar Corredor.correr(triaje_agent, aporte=“Hola, ¿Cómo Estás?”) imprimir(resultado.final_output) si __nombre__ == “__principal__”: asincio.correr(principal()) |
Esto muestra dos cosas básicas. En primer lugar, la configuración de roles para los agentes en inglés simple a los que estamos acostumbrados, pero también estableciendo la interacción entre los agentes. El agente de transferencia mantiene una lista de agentes disponibles para responder respuestas.
Ahora, esto implica que mi solicitud alemana no obtendrá la respuesta correcta. Entonces, si cambiamos la consulta dentro hola.py:
… async def main (): resultado = ALEA Runner.run (triage_agent, input = “wie geht es ihnen?”) …
|
|
… asíncrata defensor principal(): resultado = esperar Corredor.correr(triaje_agent, aporte=“Wie Geht es Ihnen?”) … |
Y ejecutar nuestro nido de agentes:
Entonces, aunque OpenAi no tuvo problemas para traducir alemán, el agente de triaje no tenía un agente de idiomas relevante a la mano, por lo que hizo el trabajo y respondió en inglés. Es poco probable que nuestros clientes alemanes estén demasiado molestos, pero podemos mejorar.
Entonces, si finalmente agregamos el agente alemán y lo ponemos en la lista de transferencias a hola.py:
… German_agent = agente (name = “German Agent”, Instrucions = “Solo hablas alemán”,) triage_agent = agente (name = “triage agente”, instrucciones = “Entrada al agente apropiado basado en el idioma de la solicitud.”, HomedOffs =[spanish_agent, english_agent, german_agent],) …
|
|
… German_agent = Agente( nombre=“Agente alemán”, instrucciones=“Solo hablas alemán”, ) triaje_agent = Agente( nombre=“Agente de triaje”, instrucciones=“Se transmite al agente apropiado basado en el idioma de la solicitud”., traspaso=[spanish_agent, english_agent, german_agent], ) … |
Podemos intentar esa solicitud alemana nuevamente:
Esta vez se llama al agente correcto y responde. Nuestros clientes alemanes ahora están más felices: ¡Ausgezeichnet! No olvides que mi terminal de urdimbre también te está dando los tiempos para estas respuestas.
Primero observamos el bucle de respuesta, que puede incluir más llamadas de herramientas. Si la respuesta tiene una transferencia, establecemos el agente en el nuevo agente y volvemos al inicio.
Hay opciones de registro debajo de esto, pero como de costumbre, OpenAI está dando una API de alto nivel en esta etapa, lo que debería fomentar la experimentación sin la necesidad de involucrarse demasiado con la orquestación.
Si bien he introducido agentes aquí, en publicaciones posteriores, veré más partes del SDK.
Vía Sahin Ahmed
Youtube.com/thenewstack
La tecnología se mueve rápidamente, no te pierdas un episodio. Suscríbase a nuestro canal de YouTube para transmitir todos nuestros podcasts, entrevistas, demostraciones y más.
SUSCRIBIR
