Connect with us

Noticias

Cómo un investigador hackeó la memoria de ChatGPT para exponer un importante fallo de seguridad

Published

on

ChatGPT es una herramienta increíble y su desarrollador, OpenAI, sigue agregando nuevas funciones de vez en cuando.

Recientemente, la compañía introdujo una nueva función de memoria en ChatGPT, que esencialmente le permite recordar cosas sobre usted. Por ejemplo, puede recordar tu edad, sexo, creencias filosóficas y prácticamente cualquier otra cosa.

Estos recuerdos deben permanecer privados, pero un investigador demostró recientemente cómo se pueden manipular las funciones de memoria de inteligencia artificial de ChatGPT, lo que plantea dudas sobre la privacidad y la seguridad.

REGALO UNA GIFT CARD DE $500 PARA LAS VACACIONES

Pantalla de introducción de ChatGPT. (Kurt “CyberGuy” Knutsson)

¿Qué es la función de Memoria de ChatGPT?

La función de memoria de ChatGPT está diseñada para que el chatbot sea más personal para usted. Recuerda información que podría ser útil para futuras conversaciones y adapta las respuestas en función de esa información, incluso si abres un chat diferente. Por ejemplo, si mencionas que eres vegetariano, la próxima vez que solicites recetas, solo te ofrecerán opciones vegetarianas.

¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (IA)?

También puedes entrenarlo para que recuerde detalles específicos sobre ti, como decir: “Recuerda que me gusta ver películas clásicas”. En futuras interacciones, adaptará las recomendaciones en consecuencia. Tienes control sobre la memoria de ChatGPT. Puede restablecerlo, borrar recuerdos específicos o todos los recuerdos, o desactivar esta función por completo en su configuración.

Un mensaje en ChatGPT. (Kurt “CyberGuy” Knutsson)

UN DEFECTO DE WINDOWS PERMITE A LOS HACKERS INGRESAR A SU PC A TRAVÉS DE WI-FI

La vulnerabilidad de seguridad en ChatGPT

Según lo informado por artetecnicael investigador de seguridad Johann Rehberger descubrió que es posible engañar a la IA para que recuerde información falsa mediante un método llamado inyección rápida indirecta. Esto significa que la IA puede manipularse para que acepte instrucciones de fuentes no confiables, como correos electrónicos o publicaciones de blogs.

Por ejemplo, Rehberger demostró que podía engañar a ChatGPT haciéndole creer que cierto usuario tenía 102 años, vivía en un lugar ficticio llamado Matrix y pensaba que la Tierra era plana. Después de que la IA acepte esta información inventada, la transferirá a todos los chats futuros con ese usuario. Estos recuerdos falsos podrían implantarse mediante el uso de herramientas como Google Drive o Microsoft OneDrive para almacenar archivos, cargar imágenes o incluso navegar por un sitio como Bing, todo lo cual podría ser manipulado por un hacker.

Rehberger presentó un informe de seguimiento que incluía una prueba de concepto, demostrando cómo podía explotar la falla en la aplicación ChatGPT para macOS. Demostró que al engañar a la IA para que abriera un enlace web que contenía una imagen maliciosa, podía hacer que enviara todo lo que un usuario escribía y todas las respuestas de la IA a un servidor que él controlaba. Esto significaba que si un atacante pudiera manipular la IA de esta manera, podría monitorear todas las conversaciones entre el usuario y ChatGPT.

La prueba de concepto de exploit de Rehberger demostró que la vulnerabilidad podría usarse para filtrar toda la entrada del usuario a perpetuidad. El ataque no es posible a través de la interfaz web ChatGPT, gracias a una API OpenAI lanzada el año pasado. Sin embargo, todavía era posible a través de la aplicación ChatGPT para macOS.

Cuando Rehberger informó en privado el hallazgo a OpenAI en mayo, la compañía lo tomó en serio y mitigó este problema asegurándose de que el modelo no siga ningún vínculo generado dentro de sus propias respuestas, como aquellos que involucran memoria y características similares.

CÓMO ELIMINAR TUS DATOS PRIVADOS DE INTERNET

Conversación ChatGPT de Johann Rehberger. (Johann Rehberger)

LOS ESTAFADORES CIBERNÉTICOS UTILIZAN LA IA PARA MANIPULAR LOS RESULTADOS DE BÚSQUEDA DE GOOGLE

La respuesta de OpenAI

Después de que Rehberger compartió su prueba de concepto, los ingenieros de OpenAI tomaron medidas y lanzaron un parche para abordar esta vulnerabilidad. Lanzaron una nueva versión de la aplicación ChatGPT para macOS (versión 1.2024.247) que cifra las conversaciones y corrige el fallo de seguridad.

Entonces, si bien OpenAI ha tomado medidas para abordar la falla de seguridad inmediata, todavía existen vulnerabilidades potenciales relacionadas con la manipulación de la memoria y la necesidad de una vigilancia continua en el uso de herramientas de IA con funciones de memoria. El incidente subraya la naturaleza cambiante de los desafíos de seguridad en los sistemas de inteligencia artificial.

La empresa dice, “Es importante tener en cuenta que la inyección rápida en modelos de lenguaje grandes es un área de investigación en curso. A medida que surgen nuevas técnicas, las abordamos en la capa del modelo a través de jerarquía de instrucciones o defensas de la capa de aplicación como las mencionadas”.

¿Cómo desactivo la memoria ChatGPT?

Si no te parece bien que ChatGPT guarde información sobre ti o la posibilidad de que un mal actor pueda acceder a tus datos, puedes desactivar esta función en la configuración.

  • Abre el Aplicación o sitio web ChatGPT en su computadora o teléfono inteligente.
  • Haga clic en el icono de perfil en la esquina superior derecha de la pantalla.
  • Ir a Ajustes y luego seleccione Personalización.
  • Cambiar la opción de Memoria apagado, y ya está todo listo.

Esto desactiva la capacidad de ChatGPT para retener información entre conversaciones, brindándote control total sobre lo que recuerda u olvida.

OBTÉN FOX BUSINESS SOBRE LA MARCHA HACIENDO CLIC AQUÍ

Un hombre usando ChatGPT en su computadora portátil (Kurt “CyberGuy” Knutsson)

NO DEJES QUE LOS SNOOPS CERCANOS ESCUCHEN TU CORREO DE VOZ CON ESTE CONSEJO RÁPIDO

Mejores prácticas de ciberseguridad: proteger sus datos en la era de la IA

A medida que las tecnologías de inteligencia artificial como ChatGPT se vuelven más frecuentes, es fundamental cumplir con las mejores prácticas de ciberseguridad para proteger su información personal. A continuación se ofrecen algunos consejos para mejorar su ciberseguridad:

1. Revise periódicamente la configuración de privacidad: Manténgase informado sobre qué datos se recopilan. Verifique y ajuste periódicamente la configuración de privacidad en plataformas de inteligencia artificial como ChatGPT y otras para asegurarse de compartir solo información con la que se sienta cómodo.

2. Tenga cuidado al compartir información confidencial: Menos es más cuando se trata de datos personales. Evite revelar detalles confidenciales como su nombre completo, dirección o información financiera en conversaciones con IA.

3. Utilice contraseñas seguras y únicas: Cree contraseñas que tengan al menos 12 caracteres, combinen letras, números y símbolos, y evite reutilizarlas en diferentes cuentas. Considere usar un administrador de contraseñas para generar y almacenar contraseñas complejas.

4. Habilite la autenticación de dos factores (2FA): Agregue una capa adicional de seguridad a su ChatGPT y otras cuentas de IA. Al requerir una segunda forma de verificación, como un código de mensaje de texto, se reduce significativamente el riesgo de acceso no autorizado.

5. Mantenga el software y las aplicaciones actualizados: Manténgase a la vanguardia de las vulnerabilidades. Actualizaciones periódicas A menudo incluyen parches de seguridad que protegen contra amenazas recién descubiertas, por lo que debe habilitar las actualizaciones automáticas siempre que sea posible.

6. Tenga un software antivirus potente: En una época en la que la IA está en todas partes, proteger sus datos de las ciberamenazas es más importante que nunca. Agregar un potente software antivirus a sus dispositivos agrega una capa crítica de protección. La mejor manera de protegerse de enlaces maliciosos que instalan malware y potencialmente acceden a su información privada es tener instalado un software antivirus potente en todos sus dispositivos. Esta protección también puede alertarle sobre correos electrónicos de phishing y estafas de ransomware, manteniendo seguros su información personal y sus activos digitales. Obtenga mis selecciones para los mejores ganadores de protección antivirus de 2024 para sus dispositivos Windows, Mac, Android e iOS.

7. Supervise periódicamente sus cuentas: Detecte los problemas a tiempo. Verifique con frecuencia los extractos bancarios y las cuentas en línea para detectar cualquier actividad inusual, lo que puede ayudarlo a identificar posibles incumplimientos rápidamente.

Las conclusiones clave de Kurt

A medida que las herramientas de inteligencia artificial como ChatGPT se vuelven más inteligentes y personales, es bastante interesante pensar en cómo pueden adaptar las conversaciones a nosotros. Pero, como nos recuerdan los hallazgos de Johann Rehberger, existen algunos riesgos reales involucrados, especialmente cuando se trata de privacidad y seguridad. Si bien OpenAI puede mitigar estos problemas a medida que surgen, también muestra que debemos vigilar de cerca cómo funcionan estas características. Se trata de encontrar ese punto óptimo entre la innovación y mantener nuestros datos seguros.

HAGA CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

¿Qué opina de que la IA recuerde datos personales? ¿Le resulta útil o le plantea preocupaciones sobre la privacidad? Háganos saber escribiéndonos a Cyberguy.com/Contacto

Para obtener más consejos técnicos y alertas de seguridad, suscríbase a mi boletín informativo gratuito CyberGuy Report dirigiéndose a Cyberguy.com/Newsletter

Hazle una pregunta a Kurt o cuéntanos qué historias te gustaría que cubramos..

Siga a Kurt en sus canales sociales:

Respuestas a las preguntas más frecuentes sobre CyberGuy:

Nuevo de Kurt:

Copyright 2024 CyberGuy.com. Reservados todos los derechos.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Creé una presentación completa usando Gemini en Google Diaides, así es como fue

Published

on

Google Slides es una herramienta poderosa, pero crear una presentación completa puede llevar mucho tiempo. Recientemente, Google introdujo la integración de Gemini en diapositivas y todas las aplicaciones del espacio de trabajo. Ahora, solo necesita indicaciones de texto para crear presentaciones atractivas e imágenes de alta calidad para sus diapositivas. Tuve que verlo yo mismo, y decidí experimentar con Géminis y lo encargué con la construcción de una presentación completa.

En esta publicación, comparto mi viaje y revelo cómo Gemini manejó el desafío y si ofrece la promesa de presentaciones sin esfuerzo.

Relacionado

Google Gemini: Todo lo que necesita saber sobre la IA multimodal de próxima generación de Google

Google Gemini está aquí, con un enfoque completamente nuevo para la IA multimodal

Acceso a Géminis en las diapositivas de Google: requisitos

Usando Géminis en las diapositivas de Google

Antes de encender las hojas de Google en la web, repasemos los requisitos. Si bien varios modelos Gemini son gratuitos de descargar y usar, pagará más para desbloquear el asistente de IA en las aplicaciones de productividad de Google.

Debe comprar el plan avanzado de Gemini a $ 20 por mes. Después de eso, la opción Géminis aparece en Docs, Hojas, Gmail, Google Drive y Slides. Google también ofrece un mes de prueba gratuita para usuarios elegibles.

Dado que Google Slides es una solución web, puede explorar la integración de Gemini en escritorios de Windows, Mac y Chromebooks.

Explorando Géminis en las diapositivas de Google

Genere diapositivas utilizando un mensaje de texto

Después de habilitar Gemini en Google Slides, es hora de verificarlo en acción. En el siguiente ejemplo, crearé una presentación sobre los beneficios de un estilo de vida saludable. Mi objetivo es cubrir los beneficios de la nutrición, el ejercicio regular, el bienestar mental y el manejo del estrés. Siga los pasos a continuación.

  1. Inicie las diapositivas de Google en la web e inicie sesión con los detalles de su cuenta de Google. Comience con una presentación en blanco.

  2. Abra Géminis desde la esquina superior derecha y escriba un aviso.

Escribir un aviso es una parte crucial de su proceso de presentación. Dado que es un tema amplio y adaptable, sea lo más descriptivo posible. En nuestro caso, escribiré un aviso a continuación para mi diapositiva de introducción.

Genere una diapositiva con el título “Los beneficios de un estilo de vida saludable”. Agregue una definición breve de un estilo de vida saludable, enfatizando el equilibrio del bienestar físico, mental y nutricional.

Esto es lo que se le ocurrió a Géminis. Puede volver a intentarlo si no está satisfecho con los resultados y haga clic en Insertar para agregarlo.

Géminis creando diapositivas en las diapositivas de Google

Ahora, haga clic + + Para agregar una nueva diapositiva y continuar escribiendo indicaciones para generar nuevas diapositivas para su presentación.

Cree una diapositiva titulada “Nutrición: alimentar su cuerpo”. Agregue información sobre la importancia de las frutas y verduras.

Géminis creando una diapositiva nutritiva

A diferencia de Copilot en PowerPoint, no puede crear múltiples diapositivas a la vez. Debes describir cada diapositiva por separado. Por lo tanto, asegúrese de planificar el esquema de su presentación.

Después de eso, creé cuatro diapositivas nuevas utilizando las indicaciones de texto a continuación.

Cree una diapositiva titulada, “Ejercicio: moverse para un usted más saludable”. Agregue información sobre la cantidad recomendada de ejercicio por semana.

Usar Géminis para crear una presentación

Crea una diapositiva titulada, “Bienestar mental: encontrar tu paz interior”. Agregue puntos de bala en buenos hábitos de sueño.

Diapositiva de bienestar mental para diapositivas de Google

Genere una diapositiva que enumere los beneficios de un estilo de vida saludable, que incluye un aumento de la energía, un mejor estado de ánimo y un mejor sueño.

Beneficios de la diapositiva de estilo de vida saludable

Cree una diapositiva de conclusión con pasos prácticos para adoptar un estilo de vida más saludable. Incluir puntos de bala orientados a la acción.

Use Géminis para crear conclusión diapositiva

Hubo algunos casos en los que no estaba satisfecho con los resultados. Entonces, le pedí a Gemini que recreara esas diapositivas. Además, no te sorprenderá con diseños de diapositivas llamativas y animaciones. Debe agregarlos manualmente y completar su presentación.

En cualquier momento, puede escribir @Nombre del archivo Y solicite a Gemini que se refiera a un documento de su cuenta de Google Drive. Por ejemplo, si escribió una dieta vegetariana en un documento, puede pedirle a Gemini que se refiera a ella para sus diapositivas de presentación.

Estás usando diapositivas generadas por AI. La precisión puede recibir un éxito cuando se trata de temas complejos como IA, fotografía computacional, aprendizaje automático y más. Compruebe dos veces antes de compartir la presentación con otros.

Relacionado

Google Gemini: 5 maneras de usar el asistente a día a día de Google con IA

Puede hacer que muchas tareas cotidianas sean mucho más fáciles

Crear e insertar imágenes con Gemini

No tenía idea de que Géminis podía crear imágenes basadas en indicaciones de texto. Es un gran ahorro de tiempo, ya que no necesita buscar imágenes en la web para obtener imágenes adecuadas para su presentación. Generé un par de imágenes relevantes utilizando las indicaciones de texto a continuación.

Una imagen de una placa equilibrada con proteína magra, granos integrales y verduras.

Generar una imagen con Géminis

Una fotografía de primer plano de un vaso de agua con rebanadas de limón y pepino.

Cree una imagen usando Gemini en Google Diagras

Gemini le ofrece cuatro opciones de imagen para sus diapositivas. Puede verlos e insertarlos en sus diapositivas.

Géminis hizo mis diapositivas

Géminis en Google Slides abrió mis ojos al potencial de la IA en la creación de presentación. Si bien no es un reemplazo perfecto para la creatividad humana y el pensamiento estratégico, es una herramienta poderosa para racionalizar el proceso, especialmente para elaborar borradores iniciales y imágenes llamativas.

Aún así, la supervisión humana es crucial, pero si tiene plazos ajustados o desea explorar nuevas formas de crear diapositivas atractivas, pruebe a Gemini. Gemini Advanced desbloquea el asistente de IA de Google en otras aplicaciones de productividad como Google Sheets. Así es como puedes aumentar tus hojas de cálculo con Gemini.

Continue Reading

Noticias

Google Assistant Transitions a Gemini: cambios clave por delante

Published

on

Google Assistant está evolucionando a Géminis, trayendo potentes nuevas capacidades de IA pero también descontinuando algunas características favoritas. Si usa el Asistente de Google para establecer temporizadores, reproducir música o controlar su hogar inteligente, prepárese para algunas interrupciones significativas a medida que la compañía comienza a reemplazar al asistente de nueve años con su chatbot Gemini más nuevo, más potente y alimentado por IA. Este artículo describirá los cambios clave que puede esperar, ayudándole a prepararse para la transición y comprender lo que será diferente.

Gemini representa un salto gigante en la capacidad en comparación con el Asistente de Google. Podrá chatear con Gemini de manera similar a la forma en que hablas con Google Assistant ahora, pero como se basa en modelos de lenguaje grande (LLM) con AI, Gemini puede ser mucho más conversacional y útil, capaz de realizar tareas más desafiantes y capaz de adaptarle sus respuestas específicamente a usted. Google ya ha comenzado la transición a Gemini. Los teléfonos inteligentes son los primeros en cambiar y serán seguidos por altavoces inteligentes, televisores, otros dispositivos domésticos, dispositivos portátiles y automóviles en los próximos meses. Los teléfonos inteligentes, con algunas excepciones importantes, se habrán mudado a Gemini por completo a fines de 2025, ya que “el asistente clásico de Google ya no se puede acceder en la mayoría de los dispositivos móviles o disponible para nuevas descargas en tiendas de aplicaciones móviles”, según Google.

Continue Reading

Noticias

Cómo se puede mejorar la investigación profunda de Chatgpt con 8 características clave

Published

on

La herramienta de investigación profunda de Chatgpt es fantástica para profundizar en casi cualquier tema que elija, pero aún necesita algunas mejoras para ser realmente útiles. Utilizo investigaciones profundas todo el tiempo y creo que sería mucho mejor con estas características adicionales.

1

Parámetros personalizables

Cuando uso la investigación de chatgpt profunda, normalmente respondo preguntas de seguimiento para darle a la herramienta más contexto. Sin embargo, desearía poder usar parámetros personalizables en su lugar.

Imaginaría que esta característica funcione como filtros al comprar en línea. Me encantaría elegir cuántos recursos quiero que se analice ChatGPT, junto con los plazos publicados. Además, sería genial si pudiera buscar en función de diferentes palabras clave.

Los parámetros personalizables mantendrían mi investigación mucho más organizada. Siento que los resultados valdrían la pena el tiempo que lleva a ChatGPT realizar investigaciones profundas también. Hasta que esto suceda, hay al menos formas en que puede obligar a ChatGPT a usar fuentes de alta calidad.

2

Opciones de diseño de investigación

La función de investigación profunda de ChatGPT puede establecer información de múltiples maneras. Por ejemplo, utilizará tablas al comparar estadísticas u otros aspectos. En otros casos, la herramienta establecerá información en subsecciones integrales.

Si bien varias opciones de diseño son buenas, desearía que ChatGPT me permita elegir cómo quiero que presente información. A veces, veo contenido presentado en forma de oración cuando prefiero usar tablas.

A veces uso las indicaciones para pedirle a ChatGPT que presente información en mi formato preferido, pero desafortunadamente, no siempre escucha.

3

Una asignación mensual más grande

Quizás mi mayor queja con la herramienta de investigación profunda de Chatgpt es lo fácil que es usar sus créditos mensuales. Aunque esto está bien para los usuarios casuales, 10 consultas mensuales no son suficientes para las personas que regularmente necesitan realizar una investigación integral. Revisé mis consultas en dos días.

Podía entender diez consultas mensuales para usuarios gratuitos; En estos casos, en realidad creo que sería un buen valor. Sin embargo, como alguien que paga $ 20 por mes por ChatGPT, no puedo evitar sentir que no me dan el mejor servicio posible.

Quedarse sin solicitudes en chatgpt

Por lo menos, creo que 15-20 consultas mensuales son justas para un plan positivo. Aumentaría aún más estas asignaciones para suscripciones de nivel superior. Operai podría incentivar a las personas a registrarse para estos planes al hacerlo, lo que resulta en una mejor experiencia del usuario y un aumento de los ingresos.

4

Una sección separada en chatgpt

Utilizo ChatGPT para múltiples conversaciones, ya sea que esté planeando una nueva parte de mi vida o quiero trabajar a través de mis pensamientos actuales. A medida que creo más chats, la interfaz se vuelve torpe y desorganizada. Molesto, no tengo forma de diferenciar entre conversaciones y discusiones ordinarias en las que he usado investigaciones profundas.

Si bien puedo crear nuevos proyectos a través de la barra lateral, prefiero que ChatGPT organice automáticamente mis conversaciones con una investigación profunda. Esta sería una mejora efectiva para la interfaz de usuario de ChatGPT, y no sería particularmente difícil de implementar.

Incluso si la aplicación no tuviera una sección separada, un diferenciador, como un ícono, sería útil.

5

Integración con GPTS personalizados

Los GPT personalizados son la función más subestimada de ChatGPT. Me encanta lo fácil que son para obtener el tipo de respuesta exacto que estaba buscando, y hay útiles GPT personalizados para todo tipo de intereses. Pero desafortunadamente, actualmente no puede integrarlos con la función de investigación profunda.

Siento que las respuestas serían mucho más precisas si tuvieran el contexto de GPT personalizados. Esto es particularmente cierto, considerando que algunos de mis chats normales tienen múltiples temas.

GPT personalizado como asistente de programación

No sé cómo sería posible porque imagino que los dos programas entrarían en conflicto. Pero si hubiera una manera de integrar investigaciones profundas y GPT personalizados, no veo cómo cualquier otra herramienta de IA podría competir en esta área.

6

La capacidad de dividir el texto en trozos más pequeños

He comparado la investigación profunda de ChatGPT con herramientas similares, como el equivalente de Microsoft Copilot. Cuando se trata de respuestas detalladas, la investigación profunda se encuentra en la cabeza y los hombros por encima de su competencia. Pero al mismo tiempo, a veces veo enormes párrafos una vez que la investigación ha concluido.

Encontrar información de la dieta en Chatgpt Investigación profunda

La lectura de Skim en una pantalla es mucho más difícil que con un libro, y a veces pierdo los puntos clave en la investigación. Cuando esto sucede, la investigación tarda más de lo que debería. Romper el texto en trozos más pequeños sería una solución simple pero efectiva.

Si todo el texto es realmente importante, ChatGPT podría dividirlo en más subsecciones. De esa manera, podría identificar la información más esencial fácilmente.

7

La opción de excluir sitios web específicos

La información inexacta es uno de los muchos grandes problemas con ChatGPT, y lamentablemente, esto se extiende a la función de investigación profunda. Puedo examinar ciertos sitios web al investigar a través de motores de búsqueda, pero este no es el caso cuando se utiliza una investigación profunda, lo que significa que debo tener mucho cuidado para verificar los recursos.

He visto características similares en otros tipos de aplicaciones, como bloqueadores de sitios web. La forma en que veo esto, los usuarios podrían ingresar a la URL para excluir un sitio de la búsqueda. Me imagino que esto aumentaría el tiempo que lleva completar estas tareas, pero sería un gran éxito.

8

Audio

ChatGPT tiene algunas características de voz geniales, pero ninguna se aplica a una investigación profunda. Tengo que escribir indicaciones de texto y recibo respuestas escritas. Si bien normalmente estoy contento con estas búsquedas, a veces me gustaría usar audio.

Cambiar la voz del altavoz en el modo de voz en chatgpt.

Además de hablar por una investigación profunda, agradecería las respuestas escritas. Me encantaría que la herramienta me cuente sobre sus hallazgos y proporcione una transcripción más tarde. Esto sería interactivo y beneficioso para las personas que aprenden mejor a través de la escucha que la lectura.

Operai inevitablemente agregará nuevas características a la herramienta de investigación profunda de ChatGPT a su debido tiempo, y creo que debería priorizar algunas adiciones simples pero efectivas. Los parámetros personalizables conducirían a hallazgos más precisos, y tener más control sobre el diseño de información también sería bueno.

Continue Reading

Trending