Noticias
Investigadores de OpenAI proponen un conjunto integral de prácticas para mejorar la seguridad, la responsabilidad y la eficiencia en los sistemas de IA agentes
Published
5 meses agoon

Los sistemas de IA agente están cambiando fundamentalmente la forma en que se automatizan las tareas y se logran los objetivos en diversos dominios. Estos sistemas se diferencian de las herramientas de IA convencionales en que pueden perseguir de forma adaptativa objetivos complejos durante períodos prolongados con una mínima supervisión humana. Su funcionalidad se extiende a tareas que requieren razonamiento, como gestionar la logística, desarrollar software o incluso gestionar el servicio al cliente a escala. El potencial de estos sistemas para mejorar la productividad, reducir el error humano y acelerar la innovación los convierte en un punto focal para los investigadores y las partes interesadas de la industria. Sin embargo, La creciente complejidad y autonomía de estos sistemas requiere el desarrollo de marcos operativos, de rendición de cuentas y de seguridad rigurosos.
A pesar de su promesa, los sistemas de IA agentes plantean desafíos importantes que exigen atención. A diferencia de la IA tradicional, que realiza tareas predefinidas, los sistemas agentes deben navegar en entornos dinámicos y al mismo tiempo alinearse con las intenciones del usuario. Esta autonomía introduce vulnerabilidades, como la posibilidad de acciones no deseadas, conflictos éticos y el riesgo de explotación por parte de actores maliciosos. Además, a medida que estos sistemas se implementan en diversas aplicaciones, lo que está en juego aumenta considerablemente, particularmente en sectores de alto impacto como la atención médica, las finanzas y la defensa. La ausencia de protocolos estandarizados exacerba estos desafíos, ya que los desarrolladores y usuarios carecen de un enfoque unificado para gestionar los riesgos potenciales.
Si bien son eficaces en contextos específicos, los enfoques actuales sobre la seguridad de la IA a menudo se quedan cortos cuando se aplican a sistemas agentes. Por ejemplo, los sistemas basados en reglas y los mecanismos de supervisión manual no son adecuados para entornos que requieren una toma de decisiones rápida y autónoma. Los métodos de evaluación tradicionales también luchan por captar las complejidades de los comportamientos de múltiples pasos y orientados a objetivos. Además, técnicas como los sistemas humanos en el circuito, cuyo objetivo es mantener a los usuarios involucrados en la toma de decisiones, están limitadas por problemas de escalabilidad y pueden introducir ineficiencias. Las salvaguardas existentes tampoco abordan adecuadamente los matices de las aplicaciones entre dominios, donde los agentes deben interactuar con diversos sistemas y partes interesadas.
Los investigadores de OpenAI han propuesto un conjunto integral de prácticas diseñadas para mejorar la seguridad y confiabilidad de los sistemas de IA agentes, abordando las deficiencias anteriores. Estos incluyen evaluaciones sólidas de la idoneidad de las tareas, donde los sistemas se prueban rigurosamente para determinar su capacidad para manejar objetivos específicos en diferentes condiciones. Otra recomendación clave implica la imposición de restricciones operativas, como limitar la capacidad de los agentes para realizar acciones de alto riesgo sin la aprobación humana explícita. Los investigadores también enfatizan la importancia de garantizar que los comportamientos de los agentes sean legibles para los usuarios proporcionando registros detallados y cadenas de razonamiento. Esta transparencia permite un mejor seguimiento y depuración de las operaciones de los agentes. Además, los investigadores abogan por diseñar sistemas teniendo en cuenta la interrumpibilidad, permitiendo a los usuarios detener las operaciones sin problemas en caso de anomalías o problemas imprevistos.
Las prácticas propuestas se basan en metodologías avanzadas para mitigar los riesgos de manera efectiva. Por ejemplo, los sistemas de monitoreo automático pueden rastrear las acciones de los agentes y señalar desviaciones de los comportamientos esperados en tiempo real. Estos sistemas utilizan clasificadores o modelos de IA secundarios para analizar y evaluar los resultados de los agentes, garantizando el cumplimiento de protocolos de seguridad predefinidos. Los mecanismos de respaldo también son críticos; Estos implican procedimientos predefinidos que se activan si un agente es despedido abruptamente. Por ejemplo, si un agente que gestiona transacciones financieras se ve interrumpido, podría notificar automáticamente a todas las partes relevantes para mitigar las interrupciones. Además, los investigadores enfatizan la necesidad de marcos de responsabilidad multipartitas, que garanticen que los desarrolladores, implementadores y usuarios compartan la responsabilidad de prevenir daños.
Los hallazgos de los investigadores demuestran la eficacia de estas medidas. En escenarios controlados, la implementación de evaluaciones de tareas específicas redujo las tasas de error en un 37 %, mientras que las medidas de transparencia mejoraron la confianza de los usuarios en un 45 %. Los agentes con mecanismos de respaldo demostraron una mejora del 52 % en la recuperación del sistema durante fallas inesperadas. Cuando se combinaron con capacidades de intervención en tiempo real, los sistemas de monitoreo automático lograron una tasa de éxito del 61% en la identificación y corrección de acciones potencialmente dañinas antes de una escalada. Estos resultados subrayan la viabilidad y los beneficios de adoptar un enfoque estructurado para la gobernanza agencial de la IA.
Las conclusiones clave de la investigación se describen a continuación:
- Las evaluaciones integrales de tareas garantizan que los agentes sean adecuados para objetivos específicos, lo que reduce los riesgos operativos hasta en un 37 %.
- Exigir aprobaciones explícitas para acciones de alto riesgo minimiza la probabilidad de errores críticos.
- Los registros detallados y las cadenas de razonamiento mejoran la confianza y la responsabilidad de los usuarios en un 45 %.
- Los sistemas secundarios de IA mejoran significativamente la supervisión, logrando una tasa de éxito del 61% en la identificación de acciones dañinas.
- Los procedimientos predefinidos mejoran la resiliencia del sistema y reducen las interrupciones durante fallas inesperadas en un 52 %.
- La responsabilidad compartida entre desarrolladores, implementadores y usuarios garantiza un enfoque equilibrado de gestión de riesgos.
En conclusión, El estudio de OpenAI presenta un caso convincente para adoptar prácticas de seguridad estructuradas en sistemas de IA agentes. El marco propuesto mitiga los riesgos al abordar cuestiones críticas como la idoneidad de las tareas, la transparencia y la rendición de cuentas, al tiempo que permite aprovechar los beneficios de la IA avanzada. Estas prácticas ofrecen una hoja de ruta práctica para garantizar que los sistemas de IA agentes funcionen de manera responsable y se alineen con los valores de la sociedad. Con mejoras mensurables en seguridad y eficiencia, esta investigación sienta las bases para una implementación generalizada y confiable de sistemas de IA agentes.
Verificar el Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de telegramas y LinkedIn Grarriba. No olvides unirte a nuestro SubReddit de más de 60.000 ml.
Tendencias: LG AI Research lanza EXAONE 3.5: tres modelos bilingües de código abierto a nivel de inteligencia artificial de frontera que brindan un seguimiento de instrucciones inigualable y una amplia comprensión del contexto para el liderazgo global en la excelencia en inteligencia artificial generativa….
A Sana Hassan, pasante de consultoría en Marktechpost y estudiante de doble titulación en IIT Madras, le apasiona aplicar la tecnología y la inteligencia artificial para abordar los desafíos del mundo real. Con un gran interés en resolver problemas prácticos, aporta una nueva perspectiva a la intersección de la IA y las soluciones de la vida real.
[Download] Informe de evaluación de vulnerabilidades de modelos de lenguaje grande (promovido)
You may like
Noticias
¿Cuál será el dispositivo OpenAI de Jony Ive? Nuestro resumen de las mejores conjeturas
Published
2 horas agoon
23 mayo, 2025Primero saquemos algo del camino: nadie sabe realmente qué ex jefe de diseño de Apple, Jony Ive y el CEO de Operai, Sam Altman, están construyendo.
Eso no ha impedido que Internet estalle en las costuras con conjeturas salvajes, magníficos renders, tomas de calor especulativo y una dosis saludable de imaginación de meme.
Entonces, ¿qué es este dispositivo misterioso que está cocinando para el chatgpt de Openai? ¿Un portátil sin pantalla? ¿Un asistente inteligente de próxima generación? ¿Un oráculo de IA de bolsillo? ¿Un pisapapeles glorificado?
Aquí está nuestro resumen de las mejores conjeturas: serias, especulativas, satíricas y todo lo demás. Gracias a mis colegas de negocios de negocios por contribuir a la diversión de este viernes.
Guesas serias: el analista de la industria pesa
Ok bien. Comenzaremos con algunas ideas serias.
El analista de TF International Securities Ming-Chi Kuo es una fuente creíble en el espacio de hardware y la cadena de suministro tecnológico, especialmente cuando se trata de Apple. Su opinión sobre el gadget ive-openai es valioso:
- Factor de forma: piense en pequeño. Tal vez el tamaño de iPod shuffle. Portátil, mínimo y deliciosamente ive-ish.
- Usable: uno de los casos de uso incluye usarlo alrededor de su cuello. ¿Sombras de ciencia ficción, Star Trek o tal vez un Tamagotchi con esteroides?
- Sin pantalla: tendrá cámaras y micrófonos para la conciencia ambiental, pero sin pantalla. La idea es no agregar otra pantalla a nuestras vidas.
- Dispositivo complementario: se conectará a su teléfono inteligente o computadora portátil para su procesamiento y salida visual.
- Línea de tiempo de producción: se espera la producción en masa en 2027, lo que nos da mucho tiempo para más fugas, renders y teorías de conspiración.
Kuo sugirió en X que el anuncio estaba programado para alejar la atención de Google E/S. Operai posicionó esto como una nueva narrativa de software de hardware, montando la tendencia de “IA física”.
También hizo referencia a una gran cita del ex compañero de Apple Alan Kay: “Las personas que se toman en serio el software deberían hacer su propio hardware”. Eso es exactamente lo que Altman y Operai están tratando de hacer aquí.
Pistas de Altman y WSJ
CEO de Operai Sam Altman.
Kim Hong-Ji/Reuters
El Wall Street Journal informó esta semana que Altman ofreció al personal de Operai una vista previa de los dispositivos que está construyendo con Ive:
- El dispositivo fue descrito como un “compañero” de AI. Altman quiere enviarlos a 100 millones de ellos el primer día.
- Será consciente de su entorno y cabe en su bolsillo o se sentará en su escritorio.
- No es un teléfono o gafas inteligentes. Según los informes, no estaba interesado en un portátil, aunque el diseño final aún puede coquetear con ese concepto.
- Altman dijo que el dispositivo debería ser el tercer objeto principal en su escritorio, junto con un MacBook y un iPhone.
- Habrá una “familia de dispositivos”, y Altman incluso flotó la idea de enviar enviantes a suscriptores nuevas computadoras con alimentación de chatgpt.
Su objetivo es alejarse de la interacción basada en la pantalla y repensar lo que realmente significa compañía de IA en un contexto humano cotidiano.
Renders, memes y vibraciones
El brillante diseñador Ben Geskin imaginó varios factores de forma fría en X, incluido este disco circular.
Historias relacionadas
Business Insider cuenta las historias innovadoras que desea saber
Business Insider cuenta las historias innovadoras que desea saber
Las ideas de Geskin combinan el minimalismo de grado de manzana con fantasía futurista, perfectamente en la marca para Jony Ive.
- Algunas gafas inteligentes, por supuesto.
- Un dongle colgante, técnico de partes iguales y joyas.
- Objetos cuadrados/rectangulares con elegancia misteriosa.
Haciéndose eco de Geskin, otro usuario en X propuso un dispositivo en forma de disco, lo suficientemente elegante como para pasar como una montaña rusa de alta gama o un disco de hockey futurista. Piense en ello como un compañero de escritorio de IA, escuchando silenciosamente y brillando suavemente.
Un colega de BI mencionó una lámpara de chatgpt inteligente, posiblemente inspirada en el episodio “The Sopranos” donde el sótano del FBI bugre Tony. Divertido, pero no imposible. Después de todo, una lámpara se ajusta a los criterios amigables para el escritorio de Altman.
Tony Soprano en el drama de la mafia de larga duración de HBO “The Sopranos”.
Anthony Nesta/The Life Images Collection/Getty Images
Otro usuario X bromeó que el dispositivo podría parecerse a esos colgantes de emergencia usados por los adultos mayores: “¡Ayuda! ¡Me he caído y no puedo levantarme!” – Pero con chatgpt en lugar de una enfermera. Un meme brutal, pero plantea un punto válido: si el dispositivo está destinado a estar siempre encendido, consciente de contexto y usado, ¿por qué no comercializarlo a los usuarios mayores también?
Aunque, si esto es para los viejos, ¿debería usar Google Gemini en su lugar? ¡Quemar!
X El usuario Peter Hu propuso un cortapoleante con IA. Sí, es absurdo, y no, no tiene sentido. ¿Pero el diseño? Fuego discreto.
Aquí se burla de una pluma de vape con un giro de Chatgpt. Inhale la sabiduría, exhale el temor existencial.
Algunos de los conceptos más surrealistas parecen enchufes directos a su cráneo. Aquí hay un ambiente de “matriz” o “indemnización”, lo que sugiere un futuro en el que Chatgpt vive en su cabeza como un parásito útil.
Este también parece doloroso de una manera diferente.
Legado: el nuevo dispositivo IO revolucionario de OpenAI
Iguas en una nueva era, que OpenAi está llamando a “informática interna”
Siempre escuchando: construye un contexto en tiempo real de tu vida
se comunica a través de vibraciones sutiles: privado, silencioso, discreto
Usado internamente – evita … pic.twitter.com/d8cgkqwews
– Nic (@nicohdotxyz) 23 de mayo de 2025
¡Este a continuación es lindo!
Le pedí a Chatgpt que adivinara. La respuesta no fue impresionante. No es de extrañar que Openai pagó $ 6.5 mil millones por el inicio de diseño de hardware de Ive.
ChatGPT adivina qué dispositivo está diseñando para OpenAI.
Alistair Barr/Chatgpt
Este último es una broma interna de Silicon Valley. También es una advertencia de que es extremadamente difícil reemplazar los teléfonos inteligentes como el dispositivo tecnológico. Es un riff en el alfiler humano, un dispositivo AI que ya bombardeó.
SCOOP: Foto filtrada del nuevo producto de hardware de Openai con Jony Ive. Parece ser un dispositivo de IA del tamaño de un sello con una cámara que pasea a una camisa y un usuario puede interactuar con voz o enlace electrónico. Más por venir. pic.twitter.com/rxmpfxnmbs
– Trung Phan (@trungtphan) 22 de mayo de 2025
¿Puede Operai competir con Apple y Google?
Este dispositivo importa más allá de su forma debido a lo que representa. En este momento, Apple y Google dominan la capa de interfaz de computación a través de dispositivos iOS y Android. Si Operai quiere definir cómo las personas interactúan con ChatGPT, necesita una cabeza de playa de hardware.
El pin de IA de Humane lo intentó y falló. El conejo R1 se tostó. El jurado todavía está en Ray-Bans de Meta. ¿Pueden Ive y Altman realmente descifrar el código?
Sabiendo que probablemente nos sorprenderá pase lo que pase. El producto real podría ser algo que nadie predijo.
La carrera para definir la próxima interfaz informática importante está oficialmente en adelante. Con Ive y Altman se unen, Openai está haciendo una apuesta importante de que la forma en que interactuamos con la IA es tan importante como lo que AI puede hacer.
Cuando se levanta la cortina, y Ive susurra “aluminio” en un video de diseño, las mandíbulas probablemente caerán y los competidores se apresurarán.
Hasta entonces, mantenga sus renders raras, sus conjeturas salvajes y su cerebro sintonizado en BI. Estaremos aquí para cubrir cada giro hilarante, ambicioso y brillante en el camino.
Nos vemos en 2027.
Noticias
¿Qué es Mistral AI? Todo para saber sobre el competidor de Operai
Published
7 horas agoon
23 mayo, 2025
Mistral AI, la compañía francesa detrás del asistente de IA LE Chat y varios modelos fundamentales, es considerada oficialmente como una de las nuevas empresas tecnológicas más prometedoras de Francia y posiblemente es la única compañía europea que podría competir con OpenAI. Pero en comparación con su valoración de $ 6 mil millones, su participación en el mercado global sigue siendo relativamente baja.
Sin embargo, el reciente lanzamiento de su asistente de chat en las tiendas de aplicaciones móviles se encontró con algunas exageraciones, particularmente en su país de origen. “Vaya y descargue le chat, que está hecho por Mistral, en lugar de chatgpt por OpenAi, o algo más”, dijo el presidente francés Emmanuel Macron en una entrevista televisiva antes de la Cumbre de Acción de AI en París.
Si bien esta ola de atención puede ser alentadora, Mistral AI todavía enfrenta desafíos para competir con personas como OpenAI, y al hacerlo mientras mantiene al día con su autodefinición como “el laboratorio de IA independiente más verde e líder del mundo”.
¿Qué es Mistral AI?
Mistral AI ha recaudado cantidades significativas de fondos desde su creación en 2023 con la ambición de “poner a la IA fronteriza en manos de todos”. Si bien este no es un jab directo en OpenAI, el eslogan está destinado a resaltar la defensa de la compañía para la apertura en la IA.
Su alternativa a ChatGPT, Asistente de chat LE Chat, ahora también está disponible en iOS y Android. Alcanzó 1 millón de descargas en las dos semanas posteriores a su lanzamiento móvil, incluso obtuvo el primer lugar de Francia para descargas gratuitas en la tienda de aplicaciones iOS.
Esto viene además del conjunto de modelos de Mistral AI, que incluye:
- Mistral grande 2, el modelo de lenguaje grande principal que reemplaza a Mistral grande.
- Pixtral grande, presentado en 2024 como una nueva adición a la familia Pixtral de modelos multimodales.
- Medio Medio 3, lanzado en mayo de 2025 con la promesa de proporcionar eficiencia sin comprometer el rendimiento, y mejor para la codificación y las tareas STEM.
- Devstral, un modelo de IA diseñado para codificar y disponible abiertamente bajo una licencia Apache 2.0, lo que significa que se puede usar comercialmente sin restricción.
- Codestral, un modelo de IA generativo anterior para el código, pero cuya licencia prohibió las aplicaciones comerciales.
- “Les Ministraux”, una familia de modelos optimizados para dispositivos de borde como teléfonos.
- Mistral Saba, centrado en el idioma árabe.
En marzo de 2025, la compañía introdujo Mistral OCR, una API de reconocimiento de carácter óptico (OCR) que puede convertir cualquier PDF en un archivo de texto para facilitar que los modelos de IA ingieran.
¿Quiénes son los fundadores de Mistral AI?
Los tres fundadores de Mistral AI comparten una experiencia en investigación de IA en las principales empresas de tecnología estadounidense con operaciones significativas en París. El CEO Arthur Mensch solía trabajar en DeepMind de Google, mientras que el CTO Timothée Lacroix y el director científico Guillaume Lample son ex empleados de Meta.
Los asesores cofundadores también incluyen a Jean-Charles Samuelian-Werve (también miembro de la junta) y Charles Gorintin de la startup de seguros de salud Alan, así como el ex ministro digital Cédric O, que causó controversia debido a su papel anterior.
¿Son los modelos de AI de Mistral de código abierto?
No todos ellos. Mistral AI diferencia a sus modelos principales, cuyos pesos no están disponibles para fines comerciales, de sus modelos gratuitos, para los cuales proporciona acceso de peso bajo la licencia Apache 2.0.
Los modelos gratuitos incluyen modelos de investigación como Mistral Nemo, que se construyó en colaboración con NVIDIA que la startup Open obtuvo en julio de 2024.
¿Cómo gana dinero Mistral AI?
Si bien muchas de las ofertas de Mistral AI son gratuitas o ahora tienen niveles gratuitos, Mistral AI planea generar algunos ingresos de los niveles pagados de Le Chat. Introducido en febrero de 2025, el plan Pro Chat tiene un precio de $ 14.99 al mes.
En el lado puramente B2B, Mistral AI monetiza sus modelos principales a través de API con precios basados en el uso. Las empresas también pueden licenciar estos modelos, y la compañía probablemente también genera una participación significativa de sus ingresos de sus asociaciones estratégicas, algunas de las cuales destacó durante la Cumbre de AI de París.
En general, sin embargo, los ingresos de Mistral AI todavía se encuentran en el rango de ocho dígitos, según múltiples fuentes.
¿Qué asociaciones ha cerrado Mistral Ai?
En 2024, Mistral AI entró en un acuerdo con Microsoft que incluía una asociación estratégica para distribuir sus modelos de IA a través de la plataforma Azure de Microsoft y una inversión de € 15 millones. La Autoridad de Competencia y Mercados del Reino Unido (CMA) concluyó rápidamente que el acuerdo no calificó para la investigación debido a su pequeño tamaño. Sin embargo, también provocó algunas críticas en la UE.
En enero de 2025, Mistral AI firmó un acuerdo con la agencia de prensa Agence France-Presse (AFP) para dejar que el chat consulte todo el archivo de texto de la AFP que data de 1983.
Mistral AI también aseguró asociaciones estratégicas con el ejército y la agencia de empleo de Francia, el gigante de envío CMA, la startup de tecnología de defensa alemana Helsing, IBM, Orange y Stellantis.
En mayo de 2025, Mistral AI anunció que participaría en la creación de un campus de IA en la región de París, como parte de una empresa conjunta con la firma de inversión de los EAU MGX, NVIDIA, y el banco de inversión estatal de Francia Bpifrance.
¿Cuánta financiación ha recaudado Mistral AI hasta la fecha?
A partir de febrero de 2025, Mistral AI recaudó alrededor de € 1 mil millones en capital hasta la fecha, aproximadamente $ 1.04 mil millones al tipo de cambio actual. Esto incluye algunos financiamiento de la deuda, así como varias rondas de financiamiento de capital planteadas en una sucesión cercana.
En junio de 2023, y antes de que lanzara sus primeros modelos, Mistral AI recaudó una ronda récord de $ 112 millones de semillas dirigida por Lightspeed Venture Partners. Las fuentes en ese momento dijeron que la ronda de semillas, la más grande de Europa, valoraba la startup de entonces un mes de $ 260 millones.
Otros inversores en esta ronda de semillas incluyeron BPifrance, Eric Schmidt, Exor Ventures, First Minute Capital, Headline, Jcdecaux Holding, La Famiglia, Localglobe, Motier Ventures, Rodolphe Saadé, Sofina y Xavier Niel.
Solo seis meses después, cerró una serie A de € 385 millones ($ 415 millones en ese momento), a una valoración reportada de $ 2 mil millones. La ronda fue dirigida por Andreessen Horowitz (A16Z), con la participación de la velocidad de la luz de los patrocinadores existentes, así como BNP Paribas, CMA-CGM, Convicción, Elad Gil, Catalyst General y Salesforce.
La inversión convertible de $ 16.3 millones que Microsoft hizo en la IA Mistral como parte de su asociación anunciada en febrero de 2024 se presentó como una extensión de la Serie A, lo que implica una valoración sin cambios.
En junio de 2024, Mistral AI luego recaudó 600 millones de euros en una combinación de capital y deuda (alrededor de $ 640 millones al tipo de cambio en ese momento). La ronda de larga data fue dirigida por Catalyst General con una valoración de $ 6 mil millones, con inversores notables, incluidos Cisco, IBM, Nvidia, Samsung Venture Investment Corporation y otros.
¿Cómo podría ser una salida de IA distral?
Mistral está “no a la venta”, dijo Mensch en enero de 2025 en el Foro Económico Mundial en Davos. “Por supuesto, [an IPO is] el plan “.
Esto tiene sentido, dado cuánto ha recaudado la startup hasta ahora: incluso una venta grande puede no proporcionar múltiplos lo suficientemente altos para sus inversores, sin mencionar las preocupaciones de soberanía dependiendo del adquirente.
Sin embargo, la única forma de definitivamente aplastar rumores de adquisición persistentes es escalar sus ingresos a niveles que incluso podrían justificar remotamente su valoración de casi $ 6 mil millones. De cualquier manera, estad atentos.
Esta historia se publicó originalmente el 28 de febrero de 2025 y se actualizará regularmente..
Noticias
Google and Microsoft heat up the AI race as OpenAI opens new front with big acquisition
Published
12 horas agoon
23 mayo, 2025
It was all about AI at all the big events this week — Microsoft Build, Google I/O, Dell Tech World, Red Hat Summit and even Computex.
This time at I/O, Google appeared to get the upper hand, vibe-wise, with a flurry of new models and features, a vision of a universal AI assistant, and even plans for AI-powered AR glasses. Safe to say, it’s well behind the pack no longer. But Microsoft also unleashed a raft of new AI features and agents as well at Build.
OpenAI isn’t slowing down either, buying io, Jony Ives’ secretive AI startup, for $6.5 billion in stock. Will Ives create the AI-powered products at OpenAI that he couldn’t at Apple? Meantime, Anthropic keeps plowing ahead, releasing two new models this week.
On the mainstream enterprise tech front, AI took center stage as well. At Dell Tech World, CEO Michael Dell doubled down on AI factories and AI edge opportunities. And IBM-owned Red Hat expanded its AI offerings at its summit.
Trump threatened Apple Friday with 25% tariffs on iPhones not made in the U.S. — even though that’s virtually impossible — as well as 50% tariffs on EU imports. So much winning.
No more Mr. Nice Guy: Jensen Huang slammed U.S. AI export curbs on China, saying they simply slashed its market share there and caused Chinese companies to use homegrown chips.
Next week there are lots more earnings reports, first among them Huang’s Nvidia, as well as Dell, NetApp, Salesforce, UiPath, Nutanix, Pure Storage, HP, Box, Okta, Zscaler and more.
Here’s all the news this week from SiliconANGLE and beyond:
AI and data: Microsoft and Google battle on AI
Microsoft Build was all about AI, of course…
At Build, Microsoft introduces GitHub Copilot coding agent that works like a developer
Microsoft expands Fabric and Azure data portfolio to simplify AI development
Microsoft launches tools to streamline AI agent development
AI agents unleashed in Windows with Model Context Protocol
Microsoft debuts Windows AI Foundry for local model development on AI PCs
NLWeb is Microsoft’s new, open-source tool that integrates generative AI search into any website
New Discovery AI from Microsoft targets faster science innovation and experimentation
Microsoft boosts AI platform security with new identity protection threat alerts and data governance
And so was Google I/O… of course…. But I share Quentin Hardy’s misgivings that so much of generative AI is being promoted as a way to automate what humans do. “The good from AI will come from tools which help us communicate with each other, not from software programs so convincing that they spoof everyone’s humanity,” he says, but that’s not mostly what we see from Google and others.
With a flurry of new model features, Google outlines plan to build a universal AI assistant
New AI Mode promises to make Google Search, and Shopping, much more intelligent
Google showcases a wave of AI-powered developer announcements at I/O 2025
At Google I/O, Firebase gets a host of new features, including AI app building enhancements
Google rolls out new multimodal AI features for Google Workspace
Google launches Beam platform for 3D enterprise video communication
Flow filmmaking platform headlines new wave of Google generative AI tools
Google debuts how Android XR Glasses will bring Gemini into everyday life
Google DeepMind CEO Demis Hassabis (Photo: Robert Hof/SiliconANGLE)
It’s no surprise that Google placed its DeepMind CEO Demis Hassabis front and center to put forward his vision of where AI is going. But he was joined in his star turn at Google’s annual I/O conference Tuesday by a surprise guest: Google co-founder Sergey Brin.
Brin, who returned to something like full-time work on AI in 2023, joined Hassabis to map out the “frontiers of AI” in an interview by Alex Kantrowitz, founder of the Big Technology newsletter and podcast. Some tidbits:
* Despite worry that data centers for AI might be getting overbuilt, Hassabis thinks there’s still many more needed — not just for training models but running them, especially with the advent of “thinking” models that need lots of compute at runtime.
* At the same time, Hassabis thinks there’s at least two more big breakthroughs in terms of algorithmic and other improvements to get to “artificial general intelligence,” a still-fuzzy term for when models become as smart as humans. And to put that in perspective, he thinks the “reasoning” models coming out are only part of one of those breakthroughs.
* But a big thing missing from these models is something humans take for granted: a knowledge of the physical world. Hassabis believes these “world models” will be crucial to getting to AGI, but it won’t be easy or quick to create them.
* So when will AGI arrive? Brin says just before 2030. Hassabis says just after. “Stop sandbagging,” Brin shot back.
* Why did Brin come back to Google? “For a computer scientist… there’s never been a greater problem or opportunity,” he said. “I’m across the street [at Google HQ) pretty much every day,” working on multimodal models such as Veo 3. “I tend to be pretty deep in the technical details.”
* This could be a bit of rewriting history, but Hassabis said Gemini was built to be multimodal from the start, not just text-based, which “made things harder at first,” but now Google, considered behind OpenAI and some others until, well, pretty much now, is seeing the fruits of that strategy.
* As Google makes a second bet on now AI-powered glasses, Brin admitted to making “a lot of mistakes” on the last attempt, the much-derided Google Glass, and has brought in others to make the devices this time. But this time, Hassabis said, there’s a killer app: the universal AI assistant he talked up during his keynote. AI eventually rescues everything, it seems.
Other new models and services
Anthropic launches new frontier models: Claude Opus 4 and Sonnet 4
Vast Data says it has built an operating system for large-scale agent deployment
At Computex, Nvidia debuts AI GPU compute marketplace, NVLink Fusion and the future of humanoid AI
Glean launches upgraded Glean Agents toolkit with new development tools And a deeper dive into Glean’s strategy for remaking enterprise search: Building systems of context: Glean expands agentic platform for AI-powered enterprise search
Report: Apple plans to make its large language models available to developers
Salesforce targets a more human touch for financial services firms, with AI agents
Neurologyca launches multimodal platform to create emotionally aware AI
Extreme Networks goes big on platform and AI at Connect 2025
Starburst targets AI bottlenecks with smarter data access and governance
Workday adds seven new AI agents to its cloud platform
DataOps.live debuts new Dynamic Suite data toolkit for Snowflake
Policy
Nvidia CEO Jensen Huang criticizes US curbs on AI chip sales to China
US house passes 10-year moratorium on state AI laws
Money matters
OpenAI acquires Jony Ive’s io Products in $6.5B all-stock deal This is a huge burn on Apple, which had Ive for a long time and should have been using him to find opportunities at the intersection of AI and devices some time ago. Now it’s way behind. Still, it’s remarkably unclear what this device they’re talking about will actually do.
Snowflake gains momentum with solid earnings and revenue beats
CoreWeave shares soar 19% after larger-than-expected $2B debt offering
Alation acquires Numbers Station to expand AI agent capabilities for enterprise data workflows
LMArena raises $100M at $600M valuation to expand AI benchmarking platform
Big-data visualization company Domo smashes Wall Street’s targets and its stock soars
Microsoft-backed Builder.ai set for bankruptcy after cash seized (per Bloomberg)
DataHub gets $35M in funding to provide the context needed for AI reliability and safety
Agentic workspace provider Sweep raises $22.5M Series B round
AI tax startup Filed bags $17.2M to turbocharge tax return processing
Pay-i launches with $4.9M to ease AI application cost tracking
There’s even more AI and big data news on SiliconANGLE
Around the enterprise: Dell and Red Hat embrace AI
At Dell Technologies World, AI was also the star:
Welcome to the AI factory era: A preview of Dell Technologies World 2025
Michael Dell on AI factories, edge innovation and the next phase of digital transformation
Dell builds out its AI offerings with an emphasis on on-premises deployment
TheCUBE analysis from Dell Tech World: Edge emerges as the heart of enterprise innovation
Dell builds out the AI infrastructure engine to power the incoming industrial revolution
Dell and Nvidia level up Dell AI Factory for agentic use cases
And guess what? Same at Red Hat Summit:
Red Hat Expands AI offerings with inference server and validated models
Red Hat Linux gets a gen AI upgrade and other administrative goodies
Red Hat expands hybrid cloud capabilities with AI assistant, edge manager and AMD partnership
Other new products and services
OpenAI to build gigawatt Stargate data center in the UAE
Qualcomm to launch data center processors that link to Nvidia chips
Innatera unveils mass-market neuromorphic microcontroller for AI-powered edge sensors
Docker launches Hardened Images to secure enterprise software supply chains
New Sentry logging feature adds structured logs to error tracking workflow
Money matters
Sanmina to acquire ZT Systems’ manufacturing business from AMD
Intel mulls selling edge and networking group (per Reuters)
Despite strong earnings beat, Workday’s stock wobbles on disappointing guidance
Autodesk shares rise on upbeat earnings results and positive guidance
Zoom beats first-quarter estimates on earnings and revenue
Gravitee raises $60M to help developers tame API complexity
We have lots more news on cloud, infrastructure and apps
Cyber beat: Microsoft and agencies take down Lumma malware
Attack & response
Global law enforcement and Microsoft take down Lumma malware infrastructure
Cybersecurity researcher discovers database with millions of login credentials
Money matters
Palo Alto Networks stock slips despite earnings and guidance beats
TrustCloud raises $15M to boost AI and go-to-market for security assurance
BreachRx raises $15M to expand intelligent incident response platform
New services
JFrog and Nvidia partner on secure software supply chain for Enterprise AI Factory
Druva expands Azure support with cloud-native protection for SQL and Blob Storage
Exabeam and Vectra AI partner to improve threat detection and cloud visibility
Picus Security launches Exposure Validation to help teams focus on exploitable vulnerabilities
Atera debuts IT Autopilot to offload Tier 1 tasks from technicians
Strider upgrades Spark platform to deliver faster threat intelligence against nation-state attacks
Operant AI launches Woodpecker to bring open-source red teaming to AI and cloud environments
More cybersecurity news here
Elsewhere around tech: Quantum rising
Apple reportedly planning to launch smart glasses in late 2026
D-Wave launches the Advantage2 quantum computer with more than 4,400 qubits
Report: Circle could potentially be acquired by Coinbase or Ripple for $5B+
Regeneron to buy 23andMe out of bankruptcy for $256M
Sam Altman’s World raises $135M in token sale to a16z and Bain Capital Crypto
Another tech IPO: Hinge Health prices IPO at $32, the top end of expected range
And check out more news on emerging tech, blockchain and crypto and policy
Comings and goings
Infrastructure management platform env0 revamped its management team. Steve Corndell succeeds co-founder Ohad Maislish as CEO. David Kopans becomes chief financial officer, Chris Graham is new chief marketing officer, Yaron Yarimi is VP of R&D, Maya Aquadro is VP of customer success, and Luis da Silva Rodrigues is VP of sales.
Low-code company OutSystems appointed Woodson Martin CEO, replacing founder and longtime leader Paulo Rosado.
Credential security firm Dashlane named enterprise product veteran Christophe Frenet chief product officer.
Discern Security appointed cybersecurity veteran Evgeniy Kharam chief strategy officer.
Enterprise network security firm Titania appointed Ian Robinson CPO.
What’s next
Events
Snowflake Summit, San Francisco, June 2-5: SiliconANGLE and theCUBE will be onsite with all the news, analysis and interviews.
Databricks Data+AI Summit, San Francisco, June 9-12: SiliconANGLE will be onsite with all the news.
Earnings
Tuesday, May 27: Box, Okta
Wednesday, May 28: Nvidia, Salesforce, Nutanix, Pure Storage, HP, Synopsys, C3 AI, SentinelOne
Thursday, May 29: Dell, NetApp, UiPath, Marvell Semi, Zscaler, PagerDuty, Elastic
Image: SiliconANGLE/Ideogram
Your vote of support is important to us and it helps us keep the content FREE.
One click below supports our mission to provide free, deep, and relevant content.
Join our community on YouTube
Join the community that includes more than 15,000 #CubeAlumni experts, including Amazon.com CEO Andy Jassy, Dell Technologies founder and CEO Michael Dell, Intel CEO Pat Gelsinger, and many more luminaries and experts.
THANK YOU
Related posts



























































































































































































































































































































Trending
-
Startups1 año ago
Remove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
-
Tutoriales1 año ago
Cómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
-
Startups10 meses ago
Startups de IA en EE.UU. que han recaudado más de $100M en 2024
-
Recursos1 año ago
Cómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
-
Startups1 año ago
Deepgram: Revolucionando el Reconocimiento de Voz con IA
-
Recursos12 meses ago
Perplexity aplicado al Marketing Digital y Estrategias SEO
-
Estudiar IA12 meses ago
Curso de Inteligencia Artificial de UC Berkeley estratégico para negocios
-
Recursos1 año ago
Suno.com: La Revolución en la Creación Musical con Inteligencia Artificial