Google Gemini AI escanea archivos PDF en Google Drive sin permiso de los usuarios!

Google ha sido sorprendido escaneando archivos PDF alojados en Google Drive sin permiso activo o iniciación, desencadenando una vez más una discusión en torno a la seguridad de la inteligencia artificial y las preocupaciones de privacidad.

El Asesor Senior en Gobernanza de IA, Kevin Bankson, compartió sus preocupaciones sobre un resumen generado automáticamente por la IA Gemini en una declaración de impuestos privada y confidencial.

Problemas con la privacidad en Google Drive

A pesar de los intentos por desactivar la función, Bankston descubrió que Gemini seguía operando en Google Drive, lo que plantea preguntas sobre el manejo de datos de usuario y configuraciones de privacidad por parte de Google.

Después de no encontrar los controles adecuados para desactivar la integración de Gemini, el Asesor solicitó en dos ocasiones a ChatGPT de Google que señalara las configuraciones. Sin embargo, no obtuvo una respuesta satisfactoria, lo que generó más dudas sobre el control de esta función.

Con la ayuda de otro usuario, Bankston encontró el control, que ya estaba desactivado, lo que destaca un posible control defectuoso o la existencia de configuraciones ocultas en otro lugar.

Importancia de la consentimiento y control del usuario

La documentación previa de Google ha confirmado que la empresa no utilizará los datos de Google Workspace para entrenar o mejorar sus servicios de IA generativa ni para alimentar anuncios dirigidos. Sin embargo, aún existen preocupaciones sobre la higiene de los datos y la contaminación cruzada que podría llevar a la filtración de datos.

Bankston teoriza que su participación previa en Google Workspace Labs podría haber influenciado el comportamiento de Gemini, pero su preocupación por las configuraciones y controles ocultos sigue siendo un tema que Google debe abordar para satisfacer a los usuarios preocupados.

Además, este caso reafirma la importancia del consentimiento y el control del usuario a medida que la IA continúa avanzando y se integra más profundamente en los productos que utilizamos a diario.