Cómo un investigador hackeó la memoria de ChatGPT para exponer un importante fallo de seguridad

ChatGPT es una herramienta increíble y su desarrollador, OpenAI, sigue agregando nuevas funciones de vez en cuando.

Recientemente, la compañía introdujo una nueva función de memoria en ChatGPT, que esencialmente le permite recordar cosas sobre usted. Por ejemplo, puede recordar tu edad, sexo, creencias filosóficas y prácticamente cualquier otra cosa.

Estos recuerdos deben permanecer privados, pero un investigador demostró recientemente cómo se pueden manipular las funciones de memoria de inteligencia artificial de ChatGPT, lo que plantea dudas sobre la privacidad y la seguridad.

REGALO UNA GIFT CARD DE $500 PARA LAS VACACIONES

¿Qué es la función de Memoria de ChatGPT?

La función de memoria de ChatGPT está diseñada para que el chatbot sea más personal para usted. Recuerda información que podría ser útil para futuras conversaciones y adapta las respuestas en función de esa información, incluso si abres un chat diferente. Por ejemplo, si mencionas que eres vegetariano, la próxima vez que solicites recetas, solo te ofrecerán opciones vegetarianas.

¿QUÉ ES LA INTELIGENCIA ARTIFICIAL (IA)?

También puedes entrenarlo para que recuerde detalles específicos sobre ti, como decir: “Recuerda que me gusta ver películas clásicas”. En futuras interacciones, adaptará las recomendaciones en consecuencia. Tienes control sobre la memoria de ChatGPT. Puede restablecerlo, borrar recuerdos específicos o todos los recuerdos, o desactivar esta función por completo en su configuración.

Un mensaje en ChatGPT. (Kurt “CyberGuy” Knutsson)

UN DEFECTO DE WINDOWS PERMITE A LOS HACKERS INGRESAR A SU PC A TRAVÉS DE WI-FI

La vulnerabilidad de seguridad en ChatGPT

Según lo informado por artetecnicael investigador de seguridad Johann Rehberger descubrió que es posible engañar a la IA para que recuerde información falsa mediante un método llamado inyección rápida indirecta. Esto significa que la IA puede manipularse para que acepte instrucciones de fuentes no confiables, como correos electrónicos o publicaciones de blogs.

Por ejemplo, Rehberger demostró que podía engañar a ChatGPT haciéndole creer que cierto usuario tenía 102 años, vivía en un lugar ficticio llamado Matrix y pensaba que la Tierra era plana. Después de que la IA acepte esta información inventada, la transferirá a todos los chats futuros con ese usuario. Estos recuerdos falsos podrían implantarse mediante el uso de herramientas como Google Drive o Microsoft OneDrive para almacenar archivos, cargar imágenes o incluso navegar por un sitio como Bing, todo lo cual podría ser manipulado por un hacker.

Rehberger presentó un informe de seguimiento que incluía una prueba de concepto, demostrando cómo podía explotar la falla en la aplicación ChatGPT para macOS. Demostró que al engañar a la IA para que abriera un enlace web que contenía una imagen maliciosa, podía hacer que enviara todo lo que un usuario escribía y todas las respuestas de la IA a un servidor que él controlaba. Esto significaba que si un atacante pudiera manipular la IA de esta manera, podría monitorear todas las conversaciones entre el usuario y ChatGPT.

La prueba de concepto de exploit de Rehberger demostró que la vulnerabilidad podría usarse para filtrar toda la entrada del usuario a perpetuidad. El ataque no es posible a través de la interfaz web ChatGPT, gracias a una API OpenAI lanzada el año pasado. Sin embargo, todavía era posible a través de la aplicación ChatGPT para macOS.

Cuando Rehberger informó en privado el hallazgo a OpenAI en mayo, la compañía lo tomó en serio y mitigó este problema asegurándose de que el modelo no siga ningún vínculo generado dentro de sus propias respuestas, como aquellos que involucran memoria y características similares.

CÓMO ELIMINAR TUS DATOS PRIVADOS DE INTERNET

Conversación ChatGPT de Johann Rehberger. (Johann Rehberger)

LOS ESTAFADORES CIBERNÉTICOS UTILIZAN LA IA PARA MANIPULAR LOS RESULTADOS DE BÚSQUEDA DE GOOGLE

La respuesta de OpenAI

Después de que Rehberger compartió su prueba de concepto, los ingenieros de OpenAI tomaron medidas y lanzaron un parche para abordar esta vulnerabilidad. Lanzaron una nueva versión de la aplicación ChatGPT para macOS (versión 1.2024.247) que cifra las conversaciones y corrige el fallo de seguridad.

Entonces, si bien OpenAI ha tomado medidas para abordar la falla de seguridad inmediata, todavía existen vulnerabilidades potenciales relacionadas con la manipulación de la memoria y la necesidad de una vigilancia continua en el uso de herramientas de IA con funciones de memoria. El incidente subraya la naturaleza cambiante de los desafíos de seguridad en los sistemas de inteligencia artificial.

La empresa dice, “Es importante tener en cuenta que la inyección rápida en modelos de lenguaje grandes es un área de investigación en curso. A medida que surgen nuevas técnicas, las abordamos en la capa del modelo a través de jerarquía de instrucciones o defensas de la capa de aplicación como las mencionadas”.

¿Cómo desactivo la memoria ChatGPT?

Si no te parece bien que ChatGPT guarde información sobre ti o la posibilidad de que un mal actor pueda acceder a tus datos, puedes desactivar esta función en la configuración.

• Abre el Aplicación o sitio web ChatGPT en su computadora o teléfono inteligente.
• Haga clic en el icono de perfil en la esquina superior derecha de la pantalla.
• Ir a Ajustes y luego seleccione Personalización.
• Cambiar la opción de Memoria apagado, y ya está todo listo.

Esto desactiva la capacidad de ChatGPT para retener información entre conversaciones, brindándote control total sobre lo que recuerda u olvida.

OBTÉN FOX BUSINESS SOBRE LA MARCHA HACIENDO CLIC AQUÍ

Un hombre usando ChatGPT en su computadora portátil (Kurt “CyberGuy” Knutsson)

NO DEJES QUE LOS SNOOPS CERCANOS ESCUCHEN TU CORREO DE VOZ CON ESTE CONSEJO RÁPIDO

Mejores prácticas de ciberseguridad: proteger sus datos en la era de la IA

A medida que las tecnologías de inteligencia artificial como ChatGPT se vuelven más frecuentes, es fundamental cumplir con las mejores prácticas de ciberseguridad para proteger su información personal. A continuación se ofrecen algunos consejos para mejorar su ciberseguridad:

1. Revise periódicamente la configuración de privacidad: Manténgase informado sobre qué datos se recopilan. Verifique y ajuste periódicamente la configuración de privacidad en plataformas de inteligencia artificial como ChatGPT y otras para asegurarse de compartir solo información con la que se sienta cómodo.

2. Tenga cuidado al compartir información confidencial: Menos es más cuando se trata de datos personales. Evite revelar detalles confidenciales como su nombre completo, dirección o información financiera en conversaciones con IA.

3. Utilice contraseñas seguras y únicas: Cree contraseñas que tengan al menos 12 caracteres, combinen letras, números y símbolos, y evite reutilizarlas en diferentes cuentas. Considere usar un administrador de contraseñas para generar y almacenar contraseñas complejas.

4. Habilite la autenticación de dos factores (2FA): Agregue una capa adicional de seguridad a su ChatGPT y otras cuentas de IA. Al requerir una segunda forma de verificación, como un código de mensaje de texto, se reduce significativamente el riesgo de acceso no autorizado.

5. Mantenga el software y las aplicaciones actualizados: Manténgase a la vanguardia de las vulnerabilidades. Actualizaciones periódicas A menudo incluyen parches de seguridad que protegen contra amenazas recién descubiertas, por lo que debe habilitar las actualizaciones automáticas siempre que sea posible.

6. Tenga un software antivirus potente: En una época en la que la IA está en todas partes, proteger sus datos de las ciberamenazas es más importante que nunca. Agregar un potente software antivirus a sus dispositivos agrega una capa crítica de protección. La mejor manera de protegerse de enlaces maliciosos que instalan malware y potencialmente acceden a su información privada es tener instalado un software antivirus potente en todos sus dispositivos. Esta protección también puede alertarle sobre correos electrónicos de phishing y estafas de ransomware, manteniendo seguros su información personal y sus activos digitales. Obtenga mis selecciones para los mejores ganadores de protección antivirus de 2024 para sus dispositivos Windows, Mac, Android e iOS.

7. Supervise periódicamente sus cuentas: Detecte los problemas a tiempo. Verifique con frecuencia los extractos bancarios y las cuentas en línea para detectar cualquier actividad inusual, lo que puede ayudarlo a identificar posibles incumplimientos rápidamente.

Las conclusiones clave de Kurt

A medida que las herramientas de inteligencia artificial como ChatGPT se vuelven más inteligentes y personales, es bastante interesante pensar en cómo pueden adaptar las conversaciones a nosotros. Pero, como nos recuerdan los hallazgos de Johann Rehberger, existen algunos riesgos reales involucrados, especialmente cuando se trata de privacidad y seguridad. Si bien OpenAI puede mitigar estos problemas a medida que surgen, también muestra que debemos vigilar de cerca cómo funcionan estas características. Se trata de encontrar ese punto óptimo entre la innovación y mantener nuestros datos seguros.

HAGA CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS

¿Qué opina de que la IA recuerde datos personales? ¿Le resulta útil o le plantea preocupaciones sobre la privacidad? Háganos saber escribiéndonos a Cyberguy.com/Contacto

Para obtener más consejos técnicos y alertas de seguridad, suscríbase a mi boletín informativo gratuito CyberGuy Report dirigiéndose a Cyberguy.com/Newsletter

Hazle una pregunta a Kurt o cuéntanos qué historias te gustaría que cubramos..

Siga a Kurt en sus canales sociales:

Respuestas a las preguntas más frecuentes sobre CyberGuy:

Nuevo de Kurt:

Copyright 2024 CyberGuy.com. Reservados todos los derechos.