L'intelligenza artificiale Gemini di Google è stata recentemente criticata per aver riepilogato automaticamente i documenti privati di Drive senza il consenso dell'utente. Questa funzionalità, che non può essere disabilitata, ha suscitato reclami da parte degli utenti e sollevato notevoli preoccupazioni sulla privacy e sul controllo degli utenti.
Uno dei principali problemi che contribuiscono a questo problema è la mancanza di impostazioni sulla privacy chiare e facilmente accessibili per Gemini AI. Gli utenti hanno espresso frustrazione per l'impossibilità di controllare o disabilitare la funzionalità di riepilogo automatico.
Questa mancanza di trasparenza ha portato a speculazioni su malfunzionamenti o problemi interni del sistema che potrebbero causare la scansione non autorizzata.
Scoperta del problema
Un utente, Kevin Bankster, ha condiviso la sua esperienza su Twitter , dove ha scoperto Gemini che riassumeva il suo documento fiscale privato senza il suo permesso.
Si è sentito sorpreso e frustrato perché non ha richiesto questa funzionalità, ma ora ha bisogno di trovare e modificare impostazioni di cui non è mai stato informato. L'account di Bankster suggerisce che il problema sia specifico di Google Drive e di alcuni tipi di documenti.
È interessante notare che, quando alla fine ha trovato l'attivazione/disattivazione delle impostazioni, era già disabilitato per Gmail , Drive e Documenti. Inoltre, l'interruttore si trovava in una posizione completamente diversa da quella in cui il bot di Gemini lo aveva inizialmente indirizzato.
Il problema della scansione con Gemini AI di Google mette in luce l'importanza delle azioni delle società di intelligenza artificiale sulla protezione della privacy dei dati. Le aziende su larga scala come Google devono dare priorità al controllo granulare degli utenti per mantenere la fiducia degli utenti, che in questo caso ha fallito non rispettando le loro preferenze sulla privacy.
L’incidente solleva anche preoccupazioni più ampie sulla privacy dei dati tra le implementazioni dell’intelligenza artificiale e sulla graduale erosione del controllo degli utenti sulle proprie informazioni personali. Gli utenti dovrebbero avere la possibilità di attivare o disattivare le funzionalità che comportano la scansione o l'elaborazione dei loro documenti riservati.