Google Gemini AI har nylig blitt kritisert for automatisk å oppsummere private Drive-dokumenter uten brukerens samtykke. Denne funksjonen, som ikke kan deaktiveres, har ført til brukerklager og reist betydelige bekymringer om personvern og brukerkontroll.
Et av hovedproblemene som bidrar til dette problemet er mangelen på klare og lett tilgjengelige personverninnstillinger for Gemini AI. Brukere har uttrykt frustrasjon over manglende evne til å kontrollere eller deaktivere den automatiske oppsummeringsfunksjonen.
Denne mangelen på åpenhet har ført til spekulasjoner om interne systemfeil eller feil som kan forårsake den uautoriserte skanningen.
Oppdagelsen av problemet
En bruker, Kevin Bankster, delte sin erfaring på Twitter , der han oppdaget Gemini oppsummerte sitt private skattedokument uten hans tillatelse.
Han følte seg overrasket og frustrert da han ikke ba om denne funksjonen, men nå trenger å finne og endre innstillinger han aldri ble informert om. Banksters konto antyder at problemet er spesifikt for Google Disk og visse dokumenttyper.
Interessant nok, da han til slutt fant innstillingsvekslingen, var den allerede deaktivert for Gmail , Disk og Dokumenter. I tillegg var bryteren på et helt annet sted enn der Gemini bot opprinnelig ledet ham.
Skanningsproblemet med Google Gemini AI kaster lys over viktigheten av AI-selskapers handlinger for beskyttelse av personvern. Bedrifter i stor skala som Google må prioritere granulær brukerkontroll for å opprettholde brukertilliten, som i dette tilfellet har mislyktes ved ikke å respektere personvernpreferansene deres.
Hendelsen reiser også bredere bekymringer om personvern for data blant AI-distribusjoner og den gradvise erosjonen av brukerkontrollen over deres personlige informasjon. Brukere bør ha muligheten til å velge eller velge bort funksjoner som involverer skanning eller behandling av deres konfidensielle dokumenter.