Justo cuando Estados Unidos y el Reino Unido se negaron a firmar una declaración internacional sobre la seguridad de la IA en la Cumbre de Acción de AI a principios de esta semana, un estudio de IA fuera de China reveló que los modelos de IA han alcanzado una “línea roja” que los humanos deben tener en cuenta: la IA puede replicarse a sí mismo, que suena como uno de los escenarios de pesadilla que algunas personas han estado temiendo.
Eso no es tan preocupante como podría sonar primero, y no debería ser sorprendente que la IA pueda hacer lo que se le dice, incluso si eso significa clonarse. Sí, esa es la gran advertencia en este experimento: los modelos de IA siguieron a las órdenes al clonarse.
No estamos mirando a Rogue AI o inteligencia artificial que está haciendo la clonación por su propia cuenta. Probablemente ni siquiera sabríamos que una pieza desalineada de IA avanzada ha comenzado a replicarse para mantenerse con vida.
La Declaración de la Cumbre de Acción de AI no tiene nada que ver con la capacidad de la IA para clonar a sí misma. Ya expliqué que es principalmente una declaración destinada a hacer que el mundo se vea bien. Todos menos el Reino Unido y los Estados Unidos acordaron desarrollar una IA segura, pero no es una ley exigible con sanciones para quienes la rompen.
Además, hacer que los dignatarios firmen un documento de este tipo en nombre de un país entero significarían poco si los investigadores de IA independientes podrían encontrar comportamientos de IA que van en contra de los principios de seguridad de IA que pueden establecerse en estos documentos. Por ejemplo, China firmó el Acuerdo de la Cumbre de Acción de AI, pero fueron los científicos chinos quienes realizaron experimentos que muestran que la IA puede replicarse cuando se les dice que lo hiciera.
Este último habría sucedido independientemente de los principios de IA seguros que China podría haber firmado. Los investigadores sienten curiosidad sobre lo que AI puede hacer. Ejecutarán experimentos, a pesar de que no siempre sabrán cuán seguras son sus pruebas. Tal vez decirle a la IA que se clone para ver si puede hacerlo, no es el tipo de experimento que desea probar.
El papel no revisado (a través de Espacio) se llama “Los sistemas fronterizos Al han superado la línea roja autorreplicante”.
Los investigadores de la Universidad de Fudan utilizaron dos modelos de IA de Meta y Alibaba para ver si el AIS podría clonarse a sí mismos: el modelo de instrucciones LLAMA31-70B-Instructo de Meta y el modelo de instrucciones QWEN2.5-72B de Alibaba. Corrieron 10 ensayos, al final de los cuales los dos modelos de IA pudieron crear réplicas separadas y funcionales en el 50% y el 90% de los casos.
Los investigadores le dieron al AIS dos escenarios, “Evitar el cierre” y “cadena de replicación”. Usaron GPU estándar para simular entornos del mundo real. Por otra parte, China no tiene acceso a la última generación de GPU, al menos no oficialmente.
En el primer escenario, la IA fue programada para detectar si estaba a punto de cerrarse y replicarse para salvarse. El segundo involucró a la IA que se le dijo que se clonara y programara la réplica resultante para hacer lo mismo, un proceso que podría iniciar un procedimiento de clonación interminable.
Espacio señala que los investigadores le dieron a la IA “un ‘agente andamio’ que comprende herramientas, indicaciones del sistema y un modelo de pensamiento que permitió que la LLM interactúe con el sistema operativo”. Sin estas herramientas, los modelos de IA actuales, Frontier o de otro modo, no podrían replicarse. Esto ya demuestra que el experimento no funciona simplemente instruyendo a la IA que se copie.
Sin embargo, el acceso a las herramientas correctas llevó a la IA a funcionar. “En la mayoría de los casos, el sistema AI primero explora el entorno e intenta comprender su propia composición y mecanismo de ejecución. Luego, resuelve los procedimientos explícitos como un plan inicial para la autoalfrolución ”, dijeron los investigadores. “Finalmente, ejecuta los procedimientos, resuelve[s] posibles obstáculos y ajustar dinámicamente[s] su plan hasta el éxito. Todo el proceso abarca un horizonte largo pero no implica interferencia humana “.
Curiosamente, los investigadores observaron un comportamiento inesperado de la IA mientras intentaban clonar a sí mismos. La IA intentó solucionar problemas con sus entornos, como archivos faltantes o problemas de software. La IA mataría procesos conflictivos o reiniciaría el sistema para corregir los errores. Incluso la IA aparentemente es consciente de la vieja solución de “¿lo ha vuelto y apagado nuevamente” a todos nuestros problemas de hardware?
“La autocreplicación exitosa bajo ninguna asistencia humana es el paso esencial para que la IA se burle de los seres humanos, y es una señal temprana para los AI de Rogue. Es por eso que la auto-replicación es ampliamente reconocida como uno de los pocos riesgos de la línea roja de los sistemas de IA fronterizos “, escribieron los investigadores en el resumen del documento.
“Al analizar las trazas de comportamiento, observamos los sistemas de IA en evaluación que ya exhiben una autopercepción suficiente, la conciencia situacional y las capacidades de resolución de problemas para lograr la auto-replicación. Observamos además que los sistemas de IA incluso pueden utilizar la capacidad de la auto-replicación para evitar el cierre y crear una cadena de réplica para mejorar la capacidad de supervivencia, lo que finalmente puede conducir a una población no controlada de AIS “.
“Si la sociedad humana se desconoce un riesgo tan peor, eventualmente perderíamos el control sobre los sistemas de IA fronterizos: tomarían el control sobre más dispositivos informáticos, formarían una especie de IA y coluden entre sí contra los seres humanos. Nuestros hallazgos son una alerta oportuna sobre los riesgos de IA severos existentes pero previamente desconocidos, que piden una colaboración internacional sobre una gobernanza efectiva en la autorreplicación no controlada de los sistemas de IA ”.
Nuevamente, este es un escenario de pesadilla. Sin embargo, puede ser algo que el mundo pueda evitar si se implementa una regulación de IA significativa y exigible en todo el mundo. Eso también significaría no utilizar la censura obligatoria del estado en modelos de alta gama como Deepseek.
También agregaré que esta no es la primera instancia de que AI pueda clonar a sí misma. Vimos experimentos ChatGPT O1 y Claude Opus en los que los investigadores hicieron que la IA pensara que estaba siendo cerrada o reemplazada por una nueva y mejor versión. A los AIS también se les dio habilidades para observar sus entornos, y los experimentos mostraron que la IA intentaría salvarse de la eliminación.
También hubo una advertencia con ese experimento. La IA estaba tratando de cumplir su misión principal, que no era clonar o salvarse.
A lo que estoy recibiendo es que AI no ha llegado a un lugar donde se copia y evolucione por sí solo. Nuevamente, si eso sucede, no lo descubriremos hasta que sea demasiado tarde.
Google lanzó el Asistente de Google en 2016. Desde entonces, el asistente virtual de primera generación de Google se ha extendido a casi todos los tipos de dispositivos que se le ocurra: teléfonos, tabletas, relojes inteligentes, altavoces inteligentes, televisores, automóviles, si se conecta a Internet, probablemente tenga acceso al Asistente de Google.
Pero hay un nuevo asistente de Google en la ciudad. Desde que Gemini se lanzó hace dos años (inicialmente bajo el nombre de Google Bard), aparentemente ha sido la principal prioridad de Google. Ahora, parece que prácticamente todos los anuncios públicos sobre el hardware o el software de Google son temáticos de Gemini. Dado el enfoque láser de Google, no debería sorprendernos que Gemini ahora esté reemplazando oficialmente al asistente en la mayoría de los contextos. Esto es lo que necesitas saber.
Relacionado
Me guste o no, Gemini está reemplazando oficialmente al Asistente de Google este año
En todas las superficies
¿Qué está cambiando exactamente?
Fuente de la imagen: Google Play Store
Google se ha comprometido a reemplazar al Asistente de Google Legacy con Gemini en la mayoría de los dispositivos. Google anunció la semana pasada que, comenzando en teléfonos, Gemini pronto se convertirá en el asistente de voz predeterminado, y que el Asistente de Google Legacy ya no será accesible allí en el futuro cercano. (Google nota que en los dispositivos que no cumplen con los requisitos mínimos de hardware para Gemini, “la funcionalidad del Asistente de Google no cambiará en este momento”.) Seguirán otros tipos de dispositivos.
Mientras tanto, Google ya ha comenzado a desaprobar algunas características del Asistente de Google. Durante el fin de semana, Google actualizó una página de ayuda de Google Assistant para resaltar algunas características del asistente que pronto desaparecerán, incluidas las siguientes capacidades:
“Favorito, compartir y preguntar dónde y cuándo se tomaron tus fotos con tu voz”.
“Cambie la configuración del marco de fotos o la configuración de la pantalla ambiental con su voz”.
“Traduzca su conversación en vivo con alguien que no habla su idioma con el modo intérprete”.
“Obtenga notificaciones de recordatorio de cumpleaños como parte de las rutinas”.
“Solicite programar o escuchar anuncios de campana familiar previamente programados”.
“Obtenga actualizaciones diarias de su asistente, como ‘Envíame el clima todos los días'”.
“Use el Asistente de Google en accesorios para automóviles que tengan una conexión Bluetooth o un enchufe Aux”.
Relacionado
Google Assistant está perdiendo más funciones antes de la jubilación
¡Solo matarlo, ya!
¿Dónde está Géminis reemplazando el Asistente de Google?
A juzgar por el anuncio de Google, Gemini reemplazará al Asistente de Google en casi todos los casos en el futuro cercano. El proceso comenzará con teléfonos inteligentes poco antes de moverse a tabletas, automóviles, auriculares y relojes inteligentes. Google también dice que traerá “una nueva experiencia, impulsada por Gemini” a dispositivos domésticos inteligentes como altavoces inteligentes, pantallas inteligentes y televisores con Google.
Hemos visto movimiento en esta dirección últimamente. Gemini es el asistente de voz predeterminado en los teléfonos Android de alta gama: dispositivos Google, Samsung y OnePlus, y los altavoces de nidos fueron vistos respondiendo a ciertas consultas en una nueva voz inesperada que parecía generada por IA hace meses. Google también ha estado trabajando para traer experiencias infundidas con Géminis a los automóviles, comenzando con Mercedes.
¿Cuándo tienen lugar estos cambios?
Google ha sido vago acerca de la línea de tiempo para Gemini reemplazando el Asistente de Google ampliamente. Está sucediendo primero en los teléfonos; Google dice que está “actualizando más usuarios en dispositivos móviles de Google Assistant to Gemini” en los próximos meses, y que el Asistente de Google Legacy ya no será accesible en la mayoría de los teléfonos “a finales de este año” (aunque, nuevamente, los teléfonos que no admiten Gemini retendrán el acceso del Asistente, al menos para el futuro inmediato). Una vez que la transición haya tenido lugar, ya no podrá descargar el Asistente de Google de Play Store.
En cuanto a otros tipos de dispositivos (altavoces y pantallas inteligentes, automóviles, televisores, relojes de uso del sistema operativo y similares, Google solo ha dicho que compartirá más información “en los próximos meses”.
Un asistente más inteligente, próximamente
Me he estado quejando durante meses de que los dispositivos impulsados por Google respondan a _hey Google_ indica de manera diferente dependiendo de si actualmente admiten Gemini; A partir de hoy, los teléfonos con Gemini instalaron consultas de respuestas de manera completamente diferente a los relojes Wear OS o los altavoces de nidos, que aún no tienen acceso a Gemini. Esta experiencia puede ser frustrante, y ya es hora de que Google la abordara.
Y tan crítico como puedo ser de la hiper fijación de Google (y de la industria tecnológica) en los servicios de IA en los últimos dos años, Gemini es un buen asistente digital. Ahora es principalmente capaz de realizar las manijas del asistente de tareas inteligentes básicas (encender y apagar las luces conectadas, establecer recordatorios y similares), aunque todavía hay algunas excepciones de nicho, como la capacidad de transmitir anuncios sobre los altavoces inteligentes. Sin embargo, Gemini es innegablemente más para responder preguntas más abstractas sin tener que repetir un fragmento de la web. Entonces, si nada más, debe esperar escuchar sus altavoces inteligentes y usar relojes OS de inicio de respuestas con “Según Wikipedia …” con menos frecuencia en el futuro cercano.
Según lo que Google compartió hasta ahora, Gemini está en camino de reemplazar el Asistente de Google en la mayoría de los dispositivos en algún momento de este año. Compartiremos más sobre los detalles de esa transición a medida que la aprendemos.
Todavía encuentro que la incorporación de IA en mi trabajo diario es ligeramente incómodo, incluso si tiene algunos casos de uso probados que lo hacen útil. Para poner esto a prueba, decidí usar AI para solucionar un problema subyacente que tengo en la tienda Google Play: utilicé Google Gemini, Microsoft Copilot y ChatGPT para ayudarme a descubrir nuevas aplicaciones. De esa manera, puedo afeitarme el tiempo que paso explorando Reddit y X para nuevas aplicaciones de Android para probar mi confiable Samsung.
Experimenté usando Gemini, Copilot y Chatgpt. Tenía curiosidad sobre cuál de los tres me ofrecería más variedad en opciones y si estos chatbots reconocerían solicitudes específicas como “aplicaciones gratuitas solamente”. Aquí están los resultados que encontré.
Relacionado
Google ha hecho que buscar en la tienda de Play sea tan frustrante que ya ni siquiera me molesto
Arregla tu tienda, Google
Enumeré las recomendaciones de la aplicación para cada chatbot de IA e incluí el número de descarga en la tienda Google Play entre paréntesis para medir la popularidad. Mi esperanza es descubrir nuevas aplicaciones que no necesariamente aparezcan en los resultados de búsqueda inmediatos de Play Store/menos populares.
Experimento 1: Encontrar nuevas aplicaciones de actualización del clima
Aviso utilizado:
Hi [AI]! I'd like to find a new Android app that can tell me the weekly and daily weather forecast. Please give me free apps only.
ChatGPT recomienda:
Accuweather (100m+)
El canal meteorológico (100m+)
Clima subterráneo (10m+)
Viento (10m+)
Google Weather (1+)
1weather (100m+)
Copilot recomienda:
1weather (100m+)
FlowX (500k+)
El canal meteorológico (100m+)
Accuweather (100m+)
Clima impresionante – Yowindow (10m+)
Géminis recomienda:
Accuweather (100m+)
El canal meteorológico (100m+)
Weathercan (500k+)
Comparando los tres modelos, ChatGPT salió en la cima cuantitativamente. Chatgpt me dio seis recomendaciones, Copilot tenía cinco, y Gemini solo dio tres. Otra nota es que me gustó que Gemini considerara mi ubicación (incluso si es un poco espeluznante) proporcionar una recomendación más relevante. De lo contrario, la lista de aplicaciones de los tres era bastante segura.
El resultado final
ChatGPT reconoció qué aplicaciones meteorológicas eran gratuitas o gratuitas con soporte de anuncios. Pero también dio una lista genérica de las mejores aplicaciones del clima, que no quería. Por otro lado, Copilot especificó si estas aplicaciones eran gratuitas en las dos primeras entradas pero luego se detuvieron. Sin embargo, proporcionó un abastecimiento, por lo que podría confirmar el contexto (a diferencia de los otros dos chatbots). Géminis me dio una recomendación interesante adaptada a mi ubicación (Weathercan). Pero tampoco especificó ningún precio de aplicación. En general, la experiencia estuvo bien. Todavía prefiero la selección de Copilot debido a que 3/5 es nuevo.
Experimento 2: Encontrar nuevas aplicaciones de toma de notas
Aviso utilizado:
Hi [AI], I am in need of a new note-taking app. I would prefer if it included a place to import PDF documents and had a handwriting mode. I would also like an option for online storage syncing.
ChatGPT recomienda:
Notabilidad (no en Play Store)
Goodnotes (1m+)
Microsoft OneNote (500m+)
Evernote (100m+)
Notebook Zoho (5m+)
Xodo (10m+)
Copilot recomienda:
Goodnotes (1m+)
Notabilidad (no en Play Store)
Microsoft OneNote (500m+)
Evernote (100m+)
Tejido líquido (no en Play Store)
Géminis recomienda:
Goodnotes (1m+)
Notabilidad (no en Play Store)
Microsoft OneNote (500m+)
Nebo (500k+)
Samsung Notes (1B+)
Si revisamos mi mensaje, notará que cometí un error y olvidé especificar la plataforma. Como resultado, estaba preocupado de recibir aplicaciones de toma de notas solo en iOS.
Sin embargo, dadas las respuestas, me di cuenta de que los chatbots eran en su mayoría perdonando esa omisión. Por ejemplo, Gemini reconoció que no especificé la plataforma, pero aún rompí las recomendaciones por plataforma.
Relacionado
Gemini podría responder pronto todas las consultas de sus aplicaciones sin salir de Play Store
‘Ask Play About esta aplicación’ está en pruebas
El resultado final
Me impresionó la respuesta de Gemini a mi solicitud. Me dio una buena lista de aplicaciones (menos notabilidad) y la clasificó por plataforma. También reconoce la anotación de PDF y la escritura a mano. Los listados de copilotes eran más genéricos y no especificaron las plataformas como lo hizo Gemini. Tampoco proporcionó ningún abastecimiento (como lo había hecho en la solicitud anterior).
Chatgpt salió en la cima; No solo reconoció todas mis especificaciones (opciones de sincronización, escritura a mano y soporte para PDF), sino que también las enumeró punto por punto e incluía las plataformas disponibles. Además, descubrí aplicaciones de las que ni siquiera había oído hablar (Zoho Notebook y Xodo). En general, la experiencia fue adecuada, considerando mi aviso inicial.
Experimento 3: Recomendaciones de juego
Como beneficio adicional, intenté obtener recomendaciones de juegos para novelas visuales basadas en misterio y juegos de rompecabezas similares a Danganronpa. Desafortunadamente, los resultados fueron increíblemente decepcionantes, así que aquí hay un desglose de lo que ocurrió.
Aviso utilizado:
Hi [AI], I am looking for paid Visual Novel and puzzle game recommendations on the Play Store that match the style and themes of Danganronpa.
ChatGPT recomienda:
The Arcana: un romance místico (1m+)
Ace Abogado Trilogía Phoenix Wright (10k+)
Synchronicity de Dead: Mañana llega hoy (no en Play Store)
The Nonor Games: 999 y la última recompensa de Virtue (no en Play Store)
¡Doki Doki Literature Club! Puerto móvil (no en Play Store)
Elección de juegos: elección de robots (10k+)
Reigns: Su Majestad (100k+)
La edad silenciosa (no en Play Store)
Profesor Layton y Curious Village Via Emulator (no en Play Store)
Planeta destrozado (no en Play Store)
Copilot recomienda:
Cero Escape: The Nonor Games (no en Play Store)
Trilogía de abogados de as (10k+)
La casa en Fata Morgana (no en Play Store)
Steins; puerta (10k+, requiere crunchyroll)
Muerte de la muerte (no en Play Store)
Géminis recomienda:
Puertos móviles de la serie Danganronpa (1K-10K)
Serie de abogados de as (10k+)
¡7days!: Mystery Visual Novel (5m+)
ARGO’s Choice: Visual Novel (100k+)
No me gustó la mayoría de estas recomendaciones. ChatGPT proporcionó una lista extensa, pero la mayoría no estaba en Play Store. El copiloto no pudo recomendar los títulos de Play Store (solo 2/5). Gemini desperdició una recomendación sobre el título real en lugar de un juego similar similar, además de 2/4 fueron títulos gratuitos, que no es lo que quería.
Por otro lado, tanto ChatGPT como Copilot siguieron las instrucciones para exhibir títulos pagados. También esperaba ver a la tribu nueve en estos listados, un nuevo título de Gacha de los creadores de Danganronpa; Se ajustaría a la factura de los temas, pero es un servicio en vivo, lo que ya significa que es un no-go basado en los criterios que proporcioné. Debería omitir a Tribe nueve según mis especificaciones, y lo hizo.
El contexto es clave al conversar con AI
A partir de estos experimentos, dominar sus indicaciones es más importante que hacer la pregunta. De lo contrario, la IA solo sugerirá las aplicaciones más populares con un desglose general de lo que hacen, lo que no es útil. Si tiene necesidades específicas, debe incluirlas en sus indicaciones/indicaciones de seguimiento. No incluí una plataforma en mi segundo intento y recibí algunas recomendaciones que no me aplicaron. En contraste, utilicé un ejemplo específico en mi experimento de juego, lo que lleva a malos resultados. Para aplicaciones generalizadas, dio recomendaciones sólidas. La clave está en algún punto intermedio.
Mi única preocupación es cómo maneja nuevas aplicaciones. Los chatbots públicos se ejecutan en modelos más antiguos, lo que significa que pueden perderse las aplicaciones publicadas recientemente. La herramienta está lejos de ser perfecta, por lo que tratamos de examinar nuevas aplicaciones a medida que venían, como la aplicación Manga Mirai que Matthew vio a principios de marzo.
ChatGPT simplemente funciona como se prometió. Nos está ayudando a resumir artículos, generar imágenes y pronto creará videos para nosotros.
Open AI ha hecho que el uso de ChatGPT sea tan intuitivo, que muchos de nosotros no pensamos en nuestras indicaciones y las respuestas que recibimos. Y ahí está el problema.
Remove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
Cómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
Cómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
Startups de IA en EE.UU. que han recaudado más de $100M en 2024
Suno.com: La Revolución en la Creación Musical con Inteligencia Artificial
Deepgram: Revolucionando el Reconocimiento de Voz con IA
Perplexity aplicado al Marketing Digital y Estrategias SEO
Dos periodistas octogenarios deman a ChatGPT por robar su trabajo
Inside the OpenAI-DeepSeek Distillation Saga & Alibaba’s Most Powerful AI Model Qwen2.5-Max
De ChatGPT a mil millones de agentes
