Google的Gemini AI 最近因在未經用戶同意的情況下自動總結私人雲端硬碟文件而受到批評。該功能無法停用，引發了用戶投訴，並引發了對隱私和用戶控制的嚴重擔憂。
造成此問題的主要問題之一是Gemini AI 缺乏清晰且易於存取的隱私設定。使用者對無法控製或停用自動摘要功能表示沮喪。
這種缺乏透明度導致人們猜測內部系統故障或故障可能導致未經授權的掃描。
問題的發現
一位用戶 Kevin Bankster 在Twitter上分享了他的經歷，他發現Gemini在未經他許可的情況下總結了他的私人稅務文件。
他感到驚訝和沮喪，因為他沒有要求此功能，但現在需要尋找和修改他從未被告知的設定。 Bankster 的帳戶暗示該問題特定於Google Drive 和某些文件類型。
有趣的是，當他最終找到設定切換時，它已經對Gmail 、雲端硬碟和文件停用。此外，切換按鈕的位置與Gemini的機器人最初指示他的位置完全不同。
Google Gemini AI的掃描問題凸顯了AI公司在資料隱私保護方面採取行動的重要性。像Google這樣的大型公司必須優先考慮精細的用戶控制，以維持用戶的信任，但在這種情況下，由於不尊重他們的隱私偏好，這種做法失敗了。
這起事件也引發了人們對人工智慧部署中的資料隱私以及用戶對其個人資訊的控制逐漸受到侵蝕的更廣泛擔憂。使用者應該能夠選擇加入或退出涉及掃描或處理其機密文件的功能。