Gemini AI do Google foi recentemente criticada por resumir automaticamente documentos privados do Drive sem o consentimento do usuário. Este recurso, que não pode ser desativado, gerou reclamações de usuários e levantou preocupações significativas sobre privacidade e controle do usuário.
Uma das principais questões que contribuem para este problema é a falta de configurações de privacidade claras e facilmente acessíveis para Gemini AI. Os usuários expressaram frustração com a incapacidade de controlar ou desativar o recurso de resumo automático.
Essa falta de transparência levou a especulações sobre mau funcionamento ou falhas internas do sistema que podem estar causando a verificação não autorizada.
Descoberta do problema
Um usuário, Kevin Bankster, compartilhou sua experiência no Twitter , onde descobriu Gemini resumindo seu documento fiscal privado sem sua permissão.
Ele ficou surpreso e frustrado porque não solicitou esse recurso, mas agora precisa encontrar e modificar configurações sobre as quais nunca foi informado. A conta do Bankster sugere que o problema é específico do Google Drive e de certos tipos de documentos.
Curiosamente, quando ele finalmente encontrou a alternância de configurações, ela já estava desabilitada para Gmail , Drive e Documentos. Além disso, o botão de alternância estava em um local totalmente diferente daquele para onde o bot do Gemini o direcionou inicialmente.
O problema de digitalização com a IA Gemini do Google esclarece a importância das ações das empresas de IA na proteção da privacidade de dados. Empresas de grande porte como Google devem priorizar o controle granular do usuário para manter a confiança do usuário, que neste caso falhou ao não respeitar suas preferências de privacidade.
O incidente também levanta preocupações mais amplas sobre a privacidade dos dados entre as implementações de IA e a erosão gradual do controlo do utilizador sobre as suas informações pessoais. Os usuários devem ter a possibilidade de ativar ou desativar recursos que envolvam a digitalização ou o processamento de seus documentos confidenciais.