Google 's Gemini AI is onlangs onder vuur komen te liggen omdat het automatisch privé Drive-documenten samenvat zonder toestemming van de gebruiker. Deze functie, die niet kan worden uitgeschakeld, heeft geleid tot klachten van gebruikers en tot grote zorgen over privacy en gebruikerscontrole.
Een van de belangrijkste problemen die aan dit probleem bijdragen, is het gebrek aan duidelijke en gemakkelijk toegankelijke privacy-instellingen voor Gemini AI. Gebruikers hebben hun frustratie geuit over het onvermogen om de automatische samenvattingsfunctie te controleren of uit te schakelen.
Dit gebrek aan transparantie heeft geleid tot speculaties over interne systeemstoringen of glitches die mogelijk de oorzaak zijn van het ongeautoriseerd scannen.
Ontdekking van de kwestie
Eén gebruiker, Kevin Bankster, deelde zijn ervaring op Twitter , waar hij ontdekte dat Gemini zonder zijn toestemming zijn privébelastingdocument samenvatte.
Hij voelde zich verrast en gefrustreerd omdat hij niet om deze functie had gevraagd, maar nu instellingen moet vinden en wijzigen waarover hij nooit is geïnformeerd. Uit het account van Bankster blijkt dat het probleem specifiek is voor Google Drive en bepaalde documenttypen.
Interessant genoeg was het, toen hij uiteindelijk ontdekte dat de instellingen omschakelden, al uitgeschakeld voor Gmail , Drive en Documenten. Bovendien bevond de schakelaar zich op een geheel andere locatie dan waar de bot van Gemini hem aanvankelijk naartoe leidde.
Het scanprobleem met Google 's Gemini AI werpt licht op het belang van de acties van AI-bedrijven op het gebied van de bescherming van gegevensprivacy. Grote bedrijven zoals Google moeten prioriteit geven aan gedetailleerde gebruikerscontrole om het vertrouwen van de gebruiker te behouden, wat in dit geval is mislukt door hun privacyvoorkeuren niet te respecteren.
Het incident roept ook bredere zorgen op over gegevensprivacy bij AI-implementaties en de geleidelijke erosie van gebruikerscontrole over hun persoonlijke informatie. Gebruikers moeten de mogelijkheid hebben om zich aan of af te melden voor functies waarbij hun vertrouwelijke documenten worden gescand of verwerkt.