Google 의 Gemini AI(Gemini AI)는 최근 사용자 동의 없이 비공개 드라이브 문서를 자동으로 요약해 비판을 받기도 했다. 비활성화할 수 없는 이 기능은 사용자 불만을 불러일으켰고 개인 정보 보호 및 사용자 제어에 대한 심각한 우려를 불러일으켰습니다.
이 문제를 일으키는 주요 문제 중 하나는 Gemini AI에 대한 명확하고 쉽게 액세스할 수 있는 개인 정보 보호 설정이 부족하다는 것입니다. 사용자들은 자동 요약 기능을 제어하거나 비활성화할 수 없다는 점에 대해 불만을 표시했습니다.
이러한 투명성 부족으로 인해 내부 시스템 오작동이나 결함으로 인해 무단 스캔이 발생할 수 있다는 추측이 나왔습니다.
이슈 발견
한 사용자인 Kevin Bankster는 Gemini 허락 없이 개인 세금 문서를 요약하는 것을 발견한 경험을 Twitter 에 공유했습니다 .
그는 이 기능을 요청하지 않았지만 이제는 전혀 알지 못한 설정을 찾아 수정해야 하므로 놀라고 좌절감을 느꼈습니다. Bankster의 계정은 Google 드라이브 및 특정 문서 유형과 관련된 문제를 암시합니다.
흥미롭게도 그가 결국 설정 토글을 찾았을 때 Gmail , 드라이브, 문서도구에서는 이미 비활성화되어 있었습니다. 또한 토글은 Gemini 의 봇이 처음에 지시한 위치와 완전히 다른 위치에 있었습니다.
Google Gemini AI의 스캔 문제는 데이터 개인 정보 보호에 대한 AI 회사의 조치의 중요성을 조명합니다. Google 과 같은 대규모 기업은 사용자 신뢰를 유지하기 위해 세분화된 사용자 제어에 우선순위를 두어야 하는데, 이 경우 개인 정보 보호 기본 설정을 존중하지 않아 실패했습니다.
이 사건은 또한 AI 배치 사이의 데이터 프라이버시와 개인 정보에 대한 사용자 통제력의 점진적인 침식에 대한 광범위한 우려를 불러일으킵니다. 사용자는 기밀 문서의 스캔 또는 처리와 관련된 기능을 선택하거나 선택 해제할 수 있어야 합니다.