Gemini AI Google baru-baru ini mendapat kritik karena secara otomatis merangkum dokumen Drive pribadi tanpa persetujuan pengguna. Fitur ini, yang tidak dapat dinonaktifkan, telah memicu keluhan pengguna dan menimbulkan kekhawatiran besar mengenai privasi dan kontrol pengguna.
Salah satu masalah utama yang berkontribusi terhadap masalah ini adalah kurangnya pengaturan privasi yang jelas dan mudah diakses untuk Gemini AI. Pengguna telah menyatakan rasa frustrasinya atas ketidakmampuan untuk mengontrol atau menonaktifkan fitur peringkasan otomatis.
Kurangnya transparansi ini menimbulkan spekulasi tentang malfungsi atau gangguan sistem internal yang mungkin menyebabkan pemindaian tidak sah.
Penemuan Masalah
Salah satu pengguna, Kevin Bankster, berbagi pengalamannya di Twitter , di mana ia menemukan Gemini sedang merangkum dokumen pajak pribadinya tanpa izinnya.
Dia merasa terkejut dan frustrasi karena dia tidak meminta fitur ini tetapi sekarang perlu mencari dan mengubah pengaturan yang tidak pernah dia ketahui. Akun Bankster mengisyaratkan masalah ini hanya terjadi pada Google Drive dan jenis dokumen tertentu.
Menariknya, ketika dia akhirnya menemukan tombol pengaturan, itu sudah dinonaktifkan untuk Gmail , Drive, dan Dokumen. Selain itu, tombol tersebut berada di lokasi yang sama sekali berbeda dari lokasi yang awalnya diarahkan oleh bot Gemini .
Masalah pemindaian dengan AI Gemini Google menyoroti pentingnya tindakan perusahaan AI dalam perlindungan privasi data. Perusahaan berskala besar seperti Google harus memprioritaskan kontrol pengguna yang granular untuk menjaga kepercayaan pengguna, yang dalam hal ini gagal karena tidak menghormati preferensi privasi mereka.
Insiden ini juga meningkatkan kekhawatiran yang lebih luas mengenai privasi data di antara penerapan AI dan terkikisnya kontrol pengguna atas informasi pribadi mereka secara bertahap. Pengguna harus memiliki kemampuan untuk ikut serta atau tidak ikut serta dalam fitur yang melibatkan pemindaian atau pemrosesan dokumen rahasia mereka.