نموذج Google Gemini قد يتمكن من الوصول إلى مستندات المستخدم الموجودة على Google Cloud حتى عندما يُطلب منه عدم القيام بذلك

شهد العامان الماضيان ارتفاعًا في الذكاء الاصطناعي (AI) Artificial Intelligence، من Copilot من مايكروسوفت إلى جيميني من جوجل. على الرغم من أن هذا قد فتح العديد من الفرص الجديدة، إلا أن الاستخدام المتزايد للذكاء الاصطناعي وتنفيذه قد كشف أيضًا عن مشكلات الخصوصية المرتبطة بالذكاء الاصطناعي التوليدي.

الآن، أثارت مطالبة Kevin Bankston (عبر Tom's Hardware) الدهشة فيما يتعلق بطريقة عمل Gemini AI من Google. أعلنت Google مؤخرًا أنها ستطرح شريط Gemini الجانبي لتطبيقات Google السحابية، مثل Google Docs وDrive. يسمح الشريط الجانبي لـ Gemini برؤية ما يعمل عليه المستخدم وتقديم اقتراحات أو تحليل الملفات. ومع ذلك، في حالة كيفن، قرر جيميني الوصول إلى مستنداته الضريبية وقراءتها دون إذن صريح.

 

وأشار كيفن إلى أن جيميني قام بتلخيص ملف PDF الضريبي الخاص به بدونه مما دفع الذكاء الاصطناعي إلى القيام بذلك وعندما سئل عن كيفية تعطيل الإعداد، أرشده جيميني إلى إعدادات لم تكن موجودة أصلاً. بينما تمكن Kevin من تحديد الإعداد الصحيح، أشار إلى أن الإعداد تم تعطيله بالفعل لذا لا ينبغي لـ Gemini الوصول إلى المستندات وتلخيصها. لدى Google مستند دعم يوضح بالتفصيل كيفية استخدام Gemini في Google Drive، ومع ذلك، لا توضح الشركة بالتفصيل كيفية تعطيل الميزة أو منع Gemini من الوصول إلى أي بيانات مخزنة على Google Drive. لسوء الحظ، في حالتنا أيضًا، لم يتمكن Gemini من التوجيه بشكل صحيح إلى خيار التعطيل.

 

وفي التغريدة اللاحقة، شارك Kevin طريقة لتعطيل Gemini من قراءة البيانات على Google Drive عن طريق إيقاف تشغيل امتدادات Gemini.
 
في حالتي أيضًا، تم إيقاف ملحق Google Workspace لكن Gemini كان قادرًا على قراءة وتلخيص جميع المستندات الموجودة في حساب Drive الخاص بي. ليس لدى Google أي تفاصيل حول هذا الأمر وتقترح الشركة فقط إلغاء الاشتراك في Workspace Labs تمامًا إذا كنت تريد منع Gemini من قراءة المستندات/الملفات على Google Drive.