Al igual que los modelos de IA, AI News nunca duerme.
Cada semana, estamos inundados con nuevos modelos, productos, rumores de la industria, crisis legales y éticas y tendencias virales. Si eso no es suficiente, el rival AI Hype/Doom Chatter en línea hace que sea difícil hacer un seguimiento de lo que es realmente importante. Pero hemos examinado todo para recapitular las noticias de IA más notables de la semana de los pesos pesados como OpenAi y Googleasí como el ecosistema AI en general. Lea nuestro último resumeny vuelva a consultar la próxima semana para obtener una nueva edición.
Otra semana, otro lote de noticias de AI que se acercan.
Esta semana, Meta celebró su evento inaugural de Llamacon para desarrolladores de IA, OpenAi luchó con el comportamiento modelo, y LM Arena fue acusado de ayudar a las compañías de IA a jugar el sistema. El Congreso también aprobó nuevas leyes que protegen a las víctimas de los profundos, y una nueva investigación examina los daños actuales y potenciales de la IA. Además, Duolingo y Wikipedia tienen enfoques muy diferentes para sus nuevas estrategias de IA.
¿Qué pasó en el primer llameón de Meta?
Crédito: Chris Unger / Zuffa LLC / Getty Images
En Llamacon, la primera conferencia de Meta para desarrolladores de IA, los dos grandes anuncios fueron el lanzamiento de un Aplicación de meta ai independiente para competir más directamente con chatgpt y el API de llamasahora en una vista previa limitada. Siguiendo los informes de que Esto estaba en procesoEl CEO Sam Altman bromeó una vez que tal vez Operai debería hacer su propia aplicación de redes sociales, pero ahora eso es Según se informa que sucede verdadero.
También fuimos prácticos con la nueva aplicación Meta AI con alimentación de LLAMA. Para más detalles sobre Las principales características de Meta AILeer el desglose de Mashable.
Durante la nota clave de cierre de Llamacon, Mark Zuckerberg entrevistó a la CEO de Microsoft, Satya Nadella, sobre un montón de tendencias, que van desde capacidades de IA de agente hasta cómo debemos medir los avances de IA. Nadella también reveló que hasta el 30 por ciento del código de Microsoft está escrito por AI. No para ser superado, Zuckerberg dijo que quiere Ai para escribir la mitad del código de Meta por el próximo año.
Chatgpt tiene problemas de seguridad, va de compras
Meta ai y Chatgpt Ambos fueron arrestados esta semana para el sexting menores.
Operai dijo que este era un error y están trabajando para solucionarlo. Otro problema de ChatGPT esta semana hizo que la última actualización de GPT-4O sea demasiado chupada. Altman describió el comportamiento del modelo como “sycophant-y y molesto,” pero usuarios eran preocupado sobre los peligros de liberar un modelo como este, destacando problemas con el despliegue iterativo y el aprendizaje de refuerzo.
Operai incluso fue acusado de ajustar intencionalmente el modelo para mantener a los usuarios más comprometidos. Joanne Jang, jefe de comportamiento modelo de OpenAi, se subió a un Reddit AMA Para hacer control de daños. “Personalmente, la parte más dolorosa de las últimas discusiones de la sycophancy ha sido que las personas asuman que mis colegas están tratando de maximizar irresponsablemente el compromiso en aras”. escribió Jang.
A principios de la semana, Operai anunció nuevas funciones para hacer productos mencionados en Respuestas de chatgpt más comprables. La compañía dijo que no está ganando comisiones de compra, pero huele mucho a los inicios de un competidor de Google Shopping. Mencionamos OpenAi compraría cromo ¿Si Google se ve obligado a desestimarlo? Porque lo harían totalmente, FYI.
Velocidad de luz mashable
El fabricante de chatgpt ha tenido algunos problemas más con sus modelos recientes. La semana pasada, informamos que O3 y O4-Mini alucinan más que los modelos anteriores, por la propia admisión de Openai.
Cualquier persona en los EE. UU. Ahora puede registrarse en el modo Google AI
Mientras tanto, Google está avanzando con funciones de búsqueda con AI. El jueves, el gigante tecnológico anunció que está eliminando la lista de espera para Prueba el modo AI en los laboratoriospara que cualquiera mayor de 18 años en los Estados Unidos pueda probarlo. Hablamos con Robby Stein, vicepresidente de productos para Google Search, sobre cómo los usuarios han respondido a sus características de IA, el futuro de la búsqueda y la responsabilidad de Google a los editores.
Google también actualizó Gemini con Herramientas de edición de imágenes y cuaderno ampliadoes generador de podcast AI, a más de 50 idiomas. Bloomberg También informó que Google ha estado probando en silencio anuncios dentro de las respuestas de chatbot de terceros.
Estamos vigilando de cerca ese desarrollo final, y estamos muy Curioso cómo Google planea inyectar anuncios en la búsqueda de IA. ¿Confiarías en un chatbot que te dio respuestas patrocinadas?
Drama de la tabla de clasificación
Investigadores de AI Company Cohere, Princeton, Stanford, MIT y AI2, Publicado un artículo Esta semana, llamando a Chatbot Arena, para ayudar esencialmente a los pesos pesados de la IA a manejar sus resultados de evaluación comparativa. El estudio dijo que la popular herramienta de evaluación comparativa de crowdsourced de UC Berkeley permitió “pruebas privadas extensas” de Meta, Google, OpenAi y Amazon y les dio más datos rápidos, lo que “significativamente” mejoró sus clasificaciones.
En respuesta, LM Arena, el grupo detrás de Chatbot Arena, dijo que “hay una serie de errores de hecho y declaraciones engañosas en este artículo” y al corriente Una refutación puntiaguda por los reclamos del periódico en X.
El problema de los modelos de IA en comparación se ha vuelto cada vez más problemático. Los resultados de referencia son en gran medida autoinformados por las compañías que los liberan, y la comunidad de IA ha pedido más transparencia y responsabilidad por parte de terceros objetivos. Chatbot Arena parecía proporcionar una solución al permitir a los usuarios elegir las mejores respuestas en pruebas ciegas. Pero ahora las prácticas de LM Arena se han puesto en duda, alimentando aún más la conversación en torno a las evaluaciones objetivas.
Hace unas semanas, Meta se metió en problemas Para usar una versión inédita de su modelo Maverick Llama 4 en LM Arena, que obtuvo una clasificación alta. LM Arena actualizó sus políticas de tabla de clasificación, y se agregó la versión públicamente disponible de Llama 4 Maverick, ranking de manera más baja que la versión inédita.
Por último, LM Arena anunciado recientemente planea formar una empresa propia.
Los reguladores e investigadores abordan los daños del mundo real de la IA
Ahora que la IA generativa ha estado en la naturaleza durante algunos años, las implicaciones del mundo real han comenzado a cristalizar.
Esta semana, el Congreso de los Estados Unidos aprobó la Ley de “Take It Down”, que requiere que las compañías tecnológicas eliminen imágenes íntimas no consensuadas dentro de las 48 horas de una solicitud. La ley también describe un castigo estricto para los creadores de Deepfake. La legislación tenía apoyo bipartidista y se espera que sea firmada por el presidente Donald Trump.
La Oficina de Responsabilidad del Gobierno de los Estados Unidos no partidista (GAO) Publicado un informe sobre el impacto de la IA generativa en los humanos y el medio ambiente. La conclusión es que los impactos potenciales son enormes, pero exactamente cuánto se desconoce porque “los desarrolladores privados no divulgan alguna información técnica clave”.
Y en el reino de los daños terriblemente reales y específicos de la IA, un estudiar de Common Sense Media dijo que las aplicaciones complementarias de IA como el personaje. Ai y Replika son inequívocamente inseguros para los adolescentes. Los investigadores dicen que si eres demasiado joven para comprar cigarrillos, eres demasiado joven para tu propio compañero de IA.
Luego estaba el informe de que investigadores de la Universidad de Zúrich Bots de IA desplegados en secreto En el subreddit R/Changemyview para tratar de convencer a la gente de cambiar de opinión. Algunas de las identidades de BOT incluyeron una víctima de violación legal, “un consejero de trauma especializado en abuso” y “un hombre negro opuesto a las vidas negras”.
Otras noticias de AI …
En otras noticias, Duolingo está tomando un Enfoque de “AI-First”lo que significa reemplazar a sus trabajadores contractuales con AI siempre que sea posible. Por otro lado, Wikipedia anunciado Está adoptando un enfoque “humano primero” para su estrategia de IA. No reemplazará a sus voluntarios y editores con IA, sino que “usará AI para construir características que eliminen las barreras técnicas para permitir a los humanos en el centro de Wikipedia”.
Yelp desplegó un montón de funciones de IA esta semana, incluido un Servicio de contestadores con AI Eso requiere llamadas para restaurantes y gobernador Gavin Newsom quiere usar Genai Para resolver los legendarios atascos de California.
Temas
Inteligencia artificial OpenAi