Google Gemini AI er for nylig blevet kritiseret for automatisk at opsummere private Drive-dokumenter uden brugerens samtykke. Denne funktion, som ikke kan deaktiveres, har givet brugerklager og rejst betydelige bekymringer om privatlivets fred og brugerkontrol.
Et af de primære problemer, der bidrager til dette problem, er manglen på klare og let tilgængelige privatlivsindstillinger for Gemini AI. Brugere har udtrykt frustration over manglende evne til at kontrollere eller deaktivere den automatiske opsummeringsfunktion.
Denne mangel på gennemsigtighed har ført til spekulationer om interne systemfejl eller fejl, der kan forårsage den uautoriserede scanning.
Opdagelse af problemet
En bruger, Kevin Bankster, delte sin oplevelse på Twitter , hvor han opdagede Gemini der opsummerede sit private skattedokument uden hans tilladelse.
Han følte sig overrasket og frustreret, da han ikke bad om denne funktion, men nu skal finde og ændre indstillinger, han aldrig blev informeret om. Banksters konto antyder, at problemet er specifikt for Google Drev og visse dokumenttyper.
Interessant nok, da han til sidst fandt indstillingerne, var den allerede deaktiveret for Gmail , Drev og Docs. Derudover var skiftet et helt andet sted end der, hvor Gemini bot oprindeligt instruerede ham.
Scanningsproblemet med Google Gemini AI kaster lys over vigtigheden af AI-virksomheders handlinger vedrørende databeskyttelse. Virksomheder i stor skala som Google skal prioritere granulær brugerkontrol for at bevare brugertilliden, hvilket i dette tilfælde har fejlet ved ikke at respektere deres privatlivspræferencer.
Hændelsen rejser også bredere bekymringer om databeskyttelse blandt AI-implementeringer og den gradvise udhuling af brugerkontrol over deres personlige oplysninger. Brugere bør have mulighed for at til- eller fravælge funktioner, der involverer scanning eller behandling af deres fortrolige dokumenter.