La IA Gemini de Google ha sido criticada recientemente por resumir automáticamente documentos privados de Drive sin el consentimiento del usuario. Esta característica, que no se puede desactivar, ha generado quejas de los usuarios y ha generado importantes preocupaciones sobre la privacidad y el control del usuario.
Uno de los principales problemas que contribuye a este problema es la falta de configuraciones de privacidad claras y de fácil acceso para Gemini AI. Los usuarios han expresado su frustración por la imposibilidad de controlar o desactivar la función de resumen automático.
Esta falta de transparencia ha llevado a especulaciones sobre fallas o fallas en el sistema interno que pueden estar causando el escaneo no autorizado.
Descubrimiento del problema
Un usuario, Kevin Bankster, compartió su experiencia en Twitter , donde descubrió Gemini resumiendo su documento fiscal privado sin su permiso.
Se sintió sorprendido y frustrado porque no solicitó esta función, pero ahora necesita encontrar y modificar configuraciones de las que nunca se le informó. La cuenta de Bankster insinúa que el problema es específico de Google Drive y ciertos tipos de documentos.
Curiosamente, cuando finalmente encontró la opción de configuración, ya estaba deshabilitada para Gmail , Drive y Docs. Además, el interruptor estaba en una ubicación completamente diferente a donde el robot de Gemini lo dirigió inicialmente.
El problema del escaneo con Gemini AI de Google arroja luz sobre la importancia de las acciones de las empresas de IA en la protección de la privacidad de los datos. Empresas de gran escala como Google deben priorizar el control granular de los usuarios para mantener la confianza de los mismos, lo que en este caso ha fracasado al no respetar sus preferencias de privacidad.
El incidente también plantea preocupaciones más amplias sobre la privacidad de los datos entre las implementaciones de IA y la erosión gradual del control de los usuarios sobre su información personal. Los usuarios deben tener la posibilidad de optar por participar o no en funciones que impliquen el escaneo o el procesamiento de sus documentos confidenciales.