ممکن است جمنای حتی وقتی از او خواسته نشود، به اسناد کاربران در گوگل کلود دسترسی پیدا کند. این موضوع نگرانی‌هایی درباره نقض حریم خصوصی کاربران ایجاد کرده است.
به‌گزارش تک‌ناک، در چند سال اخیر شاهد رشد فزاینده‌ی هوش مصنوعی مانند کوپایلت مایکروسافت یا جمنای گوگل بوده‌ایم. درحالی‌که این پیشرفت‌ها به ایجاد فرصت‌های جدید متعددی منجر شده است، استفاده و پیاده‌سازی روزافزون هوش مصنوعی مسائل مربوط به حریم خصوصی مرتبط با هوش مصنوعی مولد را نیز آشکار کرده است.
اخیراً ادعایی از کوین بانکستون درباره‌ی عملکرد هوش مصنوعی جمنای گوگل، ابهام‌هایی ایجاد کرده است. گوگل به‌تازگی اعلام کرد که نوار کناری جمنای را در برنامه‌هایی مانند گوگل داکز و گوگل درایو دردسترس قرار می‌دهد. این نوار کناری به جمنای اجازه می‌دهد تا ببیند کاربر روی چه چیزی کار می‌کند و پیشنهادهایی ارائه دهد یا فایل‌ها را تجزیه‌و‌تحلیل کند. بااین‌حال، درباره‌ی کوین بانکستون جمنای بدون اجازه‌ی او تصمیم گرفت به اسناد مالیاتی وی دسترسی پیدا کند و آن‌ها را بخواند.
نئووین می‌نویسد که کوین بانکستون اشاره کرد جمنای بدون درخواست او، سند مالیاتی‌اش را در قالب PDF خلاصه‌سازی کرده است. وقتی او از جمنای پرسید که چطور این قابلیت را غیرفعال کند، به تنظیماتی ارجاع داده شد که اصلاً وجود نداشت. با اینکه کوین بانکستون توانست تنظیمات درست را پیدا کند، متوجه شد که این تنظیمات از قبل غیرفعال بوده‌اند؛ بنابراین، جمنای نباید به اسناد او دسترسی پیدا می‌کرد و آن‌ها را خلاصه می‌کرد.
گوگل دستورالعملی درباره‌ی نحوه‌ی استفاده از جمنای در گوگل درایو دارد. بااین‌حال، در این سند توضیحی درزمینه‌ی نحوه‌ی غیرفعال‌کردن این قابلیت یا جلوگیری از دسترسی جمنای به داده‌های ذخیره‌شده در گوگل درایو وجود ندارد.
در نمونه‌ای دیگر نیز، افزونه‌ی گوگل ورک‌اسپیس خاموش بود؛ ولی جمنای توانست تمام اسناد موجود در حساب گوگل درایو را بخواند و خلاصه کند. گوگل درباره‌ی این موضوع توضیحی ارائه نداده و تنها راه‌حل پیشنهادی این شرکت خروج کامل از «آزمایشگاه‌های ورک‌اسپیس» برای جلوگیری از دسترسی جمنای به اسناد و فایل‌های گوگل درایو است.
