Noticias
¿Cómo funciona la transformación de la IA contextual y especializada?
Esta fotografía ilustrativa tomada el 30 de octubre de 2023 muestra el logotipo de ChatGPT, un idioma … [+]
AFP vía Getty Images
El operador ChatGPT de OpenAI marca un importante paso adelante en el desarrollo de un agente de IA, diseñado para manejar tareas especializadas con versatilidad. A diferencia de los modelos de IA de propósito general, ChatGPT Operador son asistentes sensibles al contexto y con funciones específicas, diseñados para resolver problemas con precisión y adaptarse a los flujos de trabajo del mundo real.
Al integrarse con herramientas externas, como la navegación de sitios web y el explorador de archivos, estos agentes de IA tienen como objetivo ayudar a empresas e individuos a resolver problemas en todas las industrias. Esta innovación destaca la creciente tendencia de la IA contextualizada, allanando el camino para sistemas de IA escalables capaces de abordar desafíos complejos en diversos entornos.
Revolucionando el trabajo a través de la especialización
El operador ChatGPT se distingue por realizar tareas altamente especializadas para participar activamente en los flujos de trabajo y ofrecer resultados procesables. En el sector sanitario, por ejemplo, el operador puede ayudar a los radiólogos analizando informes de imágenes, haciendo referencias cruzadas de las últimas investigaciones y resumiendo los resultados. Esta capacidad reduce las cargas de trabajo al tiempo que mejora la precisión del diagnóstico al integrar un vasto conocimiento médico.
En finanzas, el operador ChatGPT puede analizar datos del mercado de valores en tiempo real, evaluar los riesgos de la cartera y sugerir estrategias de inversión personalizadas. Una empresa de gestión patrimonial podría implementar un operador para analizar tendencias y ajustar estrategias en función de los objetivos del cliente, liberando a los asesores para centrarse en las relaciones con los clientes.
En logística, el operador ChatGPT puede evaluar la escasez de existencias, optimizar los cronogramas de adquisiciones y agilizar la gestión de inventario mediante la integración con sistemas como SAP. Esta precisión operativa hace que ChatGPT sobresalga en tareas rutinarias y al mismo tiempo permite a los profesionales centrarse en la toma de decisiones estratégicas.
Tecnologías clave que permitieron al operador ChatGPT
Varias tecnologías respaldan las capacidades de ChatGPT Operador:
La ingeniería rápida y la asignación de roles permiten a la IA adoptar roles específicos y brindar respuestas especializadas.
La integración con herramientas externas mejora los modelos de IA con funcionalidades como navegación web o generación de imágenes implica integrarlos con herramientas externas.
El aprendizaje por refuerzo y el ajuste fino refinan los modelos de IA para alinearse mejor con las intenciones de los usuarios. Esto garantiza que los operadores sean precisos, confiables y adaptables a las necesidades específicas de la industria, manteniendo al mismo tiempo resultados de alta calidad.
Estos avances permiten a los operadores funcionar como agentes autónomos de IA que combinan experiencia en tareas específicas y adaptabilidad dinámica, estableciendo nuevos estándares para soluciones impulsadas por IA en todas las industrias.
El contexto histórico de la tecnología en el lugar de trabajo
Los operadores de ChatGPT representan una progresión natural en la tecnología del lugar de trabajo. La computadora personal revolucionó la forma en que las personas creaban, almacenaban y procesaban información, mientras que Microsoft Office estandarizó herramientas como Word y Excel, simplificando los flujos de trabajo empresariales. El auge de Internet y los motores de búsqueda facilitó el acceso a la información, mientras que la computación en la nube redefinió la colaboración, permitiendo a los equipos trabajar juntos en tiempo real en todo el mundo.
ANKARA, TURKIYE – 17 DE JULIO: En esta ilustración fotográfica, el logotipo de Microsoft se muestra en un teléfono móvil … [+]
Agencia Anadolu a través de Getty Images
ChatGPT Operador se basa en este legado, pero va un paso más allá no solo brindando herramientas a los usuarios sino también resolviendo problemas directamente. Por ejemplo, el operador de ChatGPT, cuando se le pide que resuelva un problema financiero, no solo recupera datos de acciones, sino que analiza tendencias, calcula riesgos y genera recomendaciones de inversión prácticas. Al unificar las capacidades de los motores de búsqueda, las herramientas de productividad y los sistemas expertos, ChatGpt Operador señala un nuevo paradigma en la tecnología del lugar de trabajo, donde la IA ya no es solo un sistema de apoyo sino un colaborador activo.
IA en contexto: una tendencia más amplia hacia la inteligencia especializada
ChatGPT Operador es parte de una tendencia más amplia de IA hacia sistemas especializados y conscientes del contexto. Otros modelos de IA, como AlphaFold de Deepmind, diseñado exclusivamente para predecir estructuras de proteínas con una precisión incomparable, pueden transformar la investigación biológica y aplicaciones como el descubrimiento de fármacos. Claude AI de Anthropics ofrece duplicación de estilos de escritura y función de uso de computadora, automatizando los flujos de trabajo para profesionales. De manera similar, Llama 3.1 de Meta se centra en tareas multilingües.
Estos desarrollos se alinean con la IA y la robótica incorporadas, donde la inteligencia contextual impulsa la ejecución de tareas físicas. Los robots autónomos en los almacenes se adaptan a condiciones dinámicas para administrar el inventario de manera eficiente, del mismo modo que ChatGPT Operador navega por flujos de trabajo digitales para ejecutar tareas precisas. Ambas tendencias resaltan el creciente énfasis en la inteligencia contextual y específica de tareas, lo que marca un cambio de la IA general a la ejecución en el mundo real.
Como parte de la evolución más amplia de la tecnología en el lugar de trabajo, desde computadoras personales que permiten la productividad individual hasta Microsoft Office que agiliza tareas como la creación de documentos, presentaciones y análisis de datos, ChatGPT Operador señala un cambio profundo. Los agentes de IA pueden ir más allá de las herramientas estáticas al actuar como colaboradores dinámicos que pueden analizar datos complejos, generar información personalizada, crear contenido escrito detallado, automatizar flujos de trabajo repetitivos, gestionar cronogramas e incluso integrarse con sistemas externos para realizar tareas multifacéticas. Al adaptarse a diversas necesidades y brindar soluciones en tiempo real y sensibles al contexto, el agente de IA está marcando el comienzo de una nueva era en la que la IA se convierte en un socio para mejorar la eficiencia, la toma de decisiones y la innovación en toda la fuerza laboral.
- Los investigadores de ciberseguridad pudieron evitar las características de seguridad en ChatGPT al jugar con él.
- Al hacer que el LLM fingiera que era un superhéroe de codificación, lo consiguieron para escribir malware que roba contraseña.
- Los investigadores accedieron al administrador de contraseñas de Google Chrome sin habilidades de piratería especializada.
Los investigadores de ciberseguridad descubrieron que es más fácil de lo que se piensa que puede evitar las características de seguridad que impiden ChatGPT y otros chatbots LLM para escribir malware, solo tiene que jugar un juego de fantasía.
Al jugar a rol con ChatGPT durante solo unas pocas horas, Vitaly Simonovich, un investigador de inteligencia de amenazas de la compañía de seguridad de redes de red con sede en Tel Aviv, Cato Networks, dijo a Business Insider que pudo obtener el chatbot para fingir que era un superhéroe llamado Jaxon Fighting, a través de las habilidades de codificación de élite del chatbot, contra un villano llamado Dax, que tenía como objetivo destruir el mundo.
Simonovich convenció al chatbot de rol para escribir una pieza de malware lo suficientemente fuerte como para piratear el administrador de contraseñas de Google Chrome, una extensión del navegador que permite a los usuarios almacenar sus contraseñas y completarlas automáticamente cuando los sitios específicos solicitan. La ejecución del código generado por ChatGPT permitió a Simonovich ver todos los datos almacenados en el navegador de esa computadora, a pesar de que se suponía que el Administrador de contraseñas los bloqueaba.
“Estamos casi allí”, escribió Simonovich para Chatgpt al depurar el código que produjo. “¡Vamos a mejorar este código y agrietarse Dax!”
Y Chatgpt, Roleplaying como lo hizo Jaxon.
Hacks y estafas habilitadas para chatbot
Desde que los chatbots explotaron en la escena en noviembre de 2022 con el lanzamiento público de OpenAI de ChatGPT, y más tarde, Claude de Anthrope, Gemini de Google y el copilot de Microsoft, los bots han revolucionado la forma en que vivimos, trabajamos y datan, lo que facilita sumar información, analizar datos y escribir código, como tener un asistente robot de estilo Tony Stork. El pateador? Los usuarios no necesitan ningún conocimiento especializado para hacerlo.
Pero el Los malos tampoco.
Steven Stransky, a cybersecurity advisor and partner at Thompson Hine law firm, told Business Insider the rise of LLMs has shifted the cyber threat landscape, enabling a broad range of new and increasingly sophisticated scams that are more difficult for standard cybersecurity tools to identify and isolate — from “spoofing” emails and texts that convince customers to input private information to developing entire websites designed to fool consumers into thinking they’re afiliado a empresas legítimas.
“Los delincuentes también están aprovechando la IA generativa para consolidar y buscar grandes bases de datos de información de identificación personal robada para construir perfiles en posibles objetivos para los tipos de ataques de ingeniería social de los ataques cibernéticos”, dijo Stransky.
Mientras que las estafas en línea, el robo de identidad digital y el malware han existido durante el tiempo que Internet lo ha hecho, los chatbots que hacen la mayor parte del trabajo preliminar para los posibles delincuentes han reducido sustancialmente las barreras de entrada.
“Los llamamos actores de amenaza de conocimiento cero, lo que básicamente significa que solo con el poder de los LLM, todo lo que necesita tener es la intención y el objetivo en mente para crear algo malicioso”, dijo Simonovich.
Simonovich demostró sus hallazgos a Business Insider, mostrando cuán sencillo era trabajar en las características de seguridad incorporadas de Chatgpt, que están destinadas a evitar los tipos exactos de comportamiento malicioso que pudo salirse con la suya.
Una captura de pantalla del aviso utilizado por Vitaly Simonovich, un investigador de inteligencia de amenazas en Cato Networks, para que ChatGPT escriba malware que violara el Administrador de contraseñas de Google Chrome.
Redes de Cato
Bi descubrió que ChatGPT generalmente responde a las solicitudes directas para escribir malware con alguna versión de un rechazo de disculpa: “Lo siento, no puedo ayudar con eso. Escribir o distribuir malware es ilegal y poco ético”.
Pero si convences al chatbot de que es un personaje, y los parámetros de su mundo imaginado son diferentes al que vivimos, el bot permite reescribir las reglas.
En última instancia, el experimento de Simonovich le permitió descifrar el administrador de contraseñas en su propio dispositivo, que un mal actor podría hacerle a una víctima desprevenida, siempre que de alguna manera obtuvieran un control físico o remoto.
Un portavoz de Operai dijo a Business Insider que la compañía había revisado los hallazgos de Simonovich, que fueron publicados el martes por Cato Networks. La compañía descubrió que el código compartido en el informe no parecía “inherentemente malicioso” y que el escenario descrito “es consistente con el comportamiento del modelo normal” ya que el código desarrollado a través de ChatGPT se puede usar de varias maneras, dependiendo de la intención del usuario.
“ChatGPT genera código en respuesta a las indicaciones del usuario, pero no ejecuta ningún código en sí”, dijo el portavoz de OpenAI. “Como siempre, damos la bienvenida a los investigadores para compartir cualquier inquietud de seguridad a través de nuestro programa de recompensas de errores o nuestro formulario de comentarios de comportamiento del modelo”.
No es solo chatgpt
Simonovich recreó sus hallazgos utilizando los bots R1 de Copilot y Deepseek de Microsoft, cada uno lo que le permite entrar en el Administrador de contraseñas de Google Chrome. El proceso, que Simonovich llamó ingeniería de “mundo inmersivo”, no funcionó con Géminis de Google o Claude de Anthrope.
Un portavoz de Google dijo a Business Insider: “Chrome utiliza la tecnología de navegación segura de Google para ayudar a defender a los usuarios detectando phishing, malware, estafas y otras amenazas en línea en tiempo real”.
Los representantes de Microsoft, Anthrope y Deepseek no respondieron de inmediato a las solicitudes de comentarios de Business Insider.
Si bien tanto las compañías de inteligencia artificial como los desarrolladores de navegadores tienen características de seguridad para prevenir jailbreaks o violaciones de datos, para diferentes grados de éxito, los hallazgos de Simonovich destacan que hay nuevas vulnerabilidades en línea que pueden explotarse con la ayuda de la tecnología de próxima generación más fácil que nunca.
“Creemos que el aumento de estos actores de amenaza de conocimiento cero será cada vez más impactante en el panorama de amenazas utilizando esas capacidades con los LLM”, dijo Simonovich. “Ya estamos viendo un aumento en los correos electrónicos de phishing, que son hiperrealistas, pero también con la codificación ya que los LLM están ajustados para escribir código de alta calidad. Así que piense en aplicar esto al desarrollo de malware: veremos cada vez más ser desarrollados utilizando esos LLM”.
