تعرض نظام Gemini AI من Google مؤخرًا لانتقادات بسبب تلخيص مستندات Drive الخاصة تلقائيًا دون موافقة المستخدم. هذه الميزة، التي لا يمكن تعطيلها، أثارت شكاوى المستخدمين وأثارت مخاوف كبيرة بشأن الخصوصية وتحكم المستخدم.
إحدى المشكلات الأساسية التي تساهم في هذه المشكلة هي عدم وجود إعدادات خصوصية واضحة ويمكن الوصول إليها بسهولة لـ Gemini AI. أعرب المستخدمون عن إحباطهم بسبب عدم القدرة على التحكم في ميزة التلخيص التلقائي أو تعطيلها.
وقد أدى هذا النقص في الشفافية إلى تكهنات حول أعطال النظام الداخلي أو مواطن الخلل التي قد تسبب المسح غير المصرح به.
اكتشاف القضية
شارك أحد المستخدمين، كيفن بانكستر، تجربته على Twitter ، حيث اكتشف Gemini وهو يلخص مستنده الضريبي الخاص دون إذنه.
لقد شعر بالدهشة والإحباط لأنه لم يطلب هذه الميزة ولكنه يحتاج الآن إلى العثور على الإعدادات التي لم يتم إبلاغه بها وتعديلها. يشير حساب Bankster إلى أن المشكلة تتعلق بـ Google Drive وأنواع معينة من المستندات.
ومن المثير للاهتمام أنه عندما عثر في النهاية على مفتاح تبديل الإعدادات، كان قد تم تعطيله بالفعل لـ Gmail وDrive وDocs. بالإضافة إلى ذلك، كان التبديل في موقع مختلف تمامًا عن المكان الذي وجهه إليه روبوت Gemini في البداية.
تسلط مشكلة المسح باستخدام Gemini AI من Google الضوء على أهمية إجراءات شركات الذكاء الاصطناعي بشأن حماية خصوصية البيانات. يجب على الشركات ذات الحجم الكبير مثل Google إعطاء الأولوية للتحكم الدقيق في المستخدم للحفاظ على ثقة المستخدم، وهو ما فشل في هذه الحالة بسبب عدم احترام تفضيلات الخصوصية الخاصة بها.
يثير الحادث أيضًا مخاوف أوسع نطاقًا بشأن خصوصية البيانات بين عمليات نشر الذكاء الاصطناعي والتآكل التدريجي لتحكم المستخدم في معلوماته الشخصية. يجب أن يتمتع المستخدمون بالقدرة على الاشتراك أو إلغاء الاشتراك في الميزات التي تتضمن مسح مستنداتهم السرية أو معالجتها.