L'IA Gemini de Google a récemment été critiquée pour avoir résumé automatiquement les documents Drive privés sans le consentement de l'utilisateur. Cette fonctionnalité, qui ne peut pas être désactivée, a suscité des plaintes d'utilisateurs et soulevé d'importantes inquiétudes concernant la confidentialité et le contrôle des utilisateurs.
L'un des principaux problèmes contribuant à ce problème est le manque de paramètres de confidentialité clairs et facilement accessibles pour Gemini AI. Les utilisateurs ont exprimé leur frustration face à l'incapacité de contrôler ou de désactiver la fonction de résumé automatique.
Ce manque de transparence a conduit à des spéculations sur des dysfonctionnements ou des problèmes internes du système qui pourraient être à l'origine d'une analyse non autorisée.
Découverte du problème
Un utilisateur, Kevin Bankster, a partagé son expérience sur Twitter , où il a découvert Gemini résumant son document fiscal privé sans sa permission.
Il s'est senti surpris et frustré car il n'a pas demandé cette fonctionnalité mais doit maintenant rechercher et modifier des paramètres dont il n'a jamais été informé. Le compte de Bankster laisse entendre que le problème est spécifique à Google Drive et à certains types de documents.
Fait intéressant, lorsqu'il a finalement trouvé le bouton de configuration, celui-ci était déjà désactivé pour Gmail , Drive et Docs. De plus, la bascule se trouvait à un endroit totalement différent de celui où le robot de Gemini l'avait initialement dirigé.
Le problème de numérisation avec Gemini AI de Google met en lumière l'importance des actions des entreprises d'IA en matière de protection de la confidentialité des données. Les entreprises à grande échelle comme Google doivent donner la priorité au contrôle granulaire des utilisateurs pour maintenir la confiance des utilisateurs, ce qui dans ce cas a échoué en ne respectant pas leurs préférences en matière de confidentialité.
L’incident soulève également des préoccupations plus larges concernant la confidentialité des données lors des déploiements d’IA et l’érosion progressive du contrôle des utilisateurs sur leurs informations personnelles. Les utilisateurs doivent avoir la possibilité d'activer ou de désactiver les fonctionnalités impliquant la numérisation ou le traitement de leurs documents confidentiels.