Gemini AI от Google недавно подвергся критике за автоматическое обобщение личных документов Диска без согласия пользователя. Эта функция, которую невозможно отключить, вызвала жалобы пользователей и вызвала серьезные опасения по поводу конфиденциальности и контроля пользователей.
Одной из основных проблем, способствующих этой проблеме, является отсутствие четких и легкодоступных настроек конфиденциальности для Gemini AI. Пользователи выразили разочарование по поводу невозможности контролировать или отключить функцию автоматического суммирования.
Отсутствие прозрачности привело к предположениям о внутренних сбоях или сбоях системы, которые могут быть причиной несанкционированного сканирования.
Обнаружение проблемы
Один пользователь, Кевин Бэнкстер, поделился своим опытом в Twitter , где он обнаружил, Gemini подводят итоги своего частного налогового документа без его разрешения.
Он был удивлен и расстроен, поскольку не просил об этой функции, но теперь ему нужно найти и изменить настройки, о которых ему никогда не сообщали. Аккаунт Банкстера намекает на то, что проблема связана с Google Диском и некоторыми типами документов.
Интересно, что когда он наконец нашел переключатель настроек, он уже был отключен для Gmail , Drive и Docs. Кроме того, переключатель находился в совершенно другом месте, чем то, куда его изначально направил бот Gemini .
Проблема со сканированием с помощью Gemini AI от Google проливает свет на важность действий компаний, занимающихся искусственным интеллектом, по защите конфиденциальности данных. Крупные компании, такие как Google должны уделять приоритетное внимание детальному контролю пользователей, чтобы поддерживать доверие пользователей, что в данном случае не удалось из-за несоблюдения их предпочтений в отношении конфиденциальности.
Инцидент также вызывает более широкую обеспокоенность по поводу конфиденциальности данных при развертывании ИИ и постепенного ослабления контроля пользователей над их личной информацией. Пользователи должны иметь возможность включать или отключать функции, связанные со сканированием или обработкой их конфиденциальных документов.