فهرست مطالب
پژوهشی جدید نشان می‌دهد که چت‌جی‌پی‌تی با ذخیره اطلاعات شخصی و تحلیل گفت‌وگوهای کاربران، پروفایل های روان‌شناختی دقیقی از آنها ایجاد می‌کند که می‌تواند حریم خصوصی افراد را تهدید کند.
به گزارش سرویس هوش مصنوعی تکناک، گروهی از پژوهشگران آلمان، هند و هلند در مطالعه‌ای تازه دریافته‌اند که قابلیت حافظه چت‌جی‌پی‌تی اطلاعات گسترده‌ای درباره زندگی شخصی، علایق، رفتارها و ویژگی‌های روان‌شناختی کاربران جمع‌آوری می‌کند. این اطلاعات به هوش مصنوعی اجازه می‌دهد پاسخ‌های خود را متناسب با ویژگی‌های هر فرد شخصی‌سازی کند.
این مطالعه که نتایج آن در کنفرانس ACM Web Conference 2026 ارائه شده است، نشان می‌دهد چت‌بات‌های هوش مصنوعی با تحلیل مکالمات خصوصی، نوعی «خودنگاره الگوریتمی» از کاربران می‌سازند. این پروفایل‌ها ممکن است اطلاعاتی را دربربگیرند که کاربران هرگز به‌طور مستقیم برای ذخیره‌سازی ارائه نکرده‌اند.
پژوهشگران معتقد هستند حافظه چت‌بات‌ها شکل جدیدی از شخصی‌سازی دیجیتال را ایجاد کرده است. برخلاف الگوریتم‌های سنتی که معمولا رفتار کاربران را هنگام جست‌وجو یا مشاهده محتوا تحلیل می‌کنند، چت‌بات‌ها اطلاعات خود را مستقیما از گفت‌وگوهای خصوصی به دست می‌آورند.
بیشتر بخوانید: سوئد استفاده از ChatGPT و کلود را ممنوع کرد
ذخیره اطلاعات روان‌شناختی بدون درخواست مستقیم
پژوهشگران برای بررسی عملکرد حافظه چت‌جی‌پی‌تی، تاریخچه مکالمات ۸۰ کاربر واقعی را تحلیل کردند. این افراد با استفاده از قوانین حفاظت از داده‌های اتحادیه اروپا، سوابق گفت‌وگوهای خود را دریافت کرده و داوطلبانه در اختیار محققان قرار داده بودند.
نتایج بررسی‌ها نشان داد که چت‌جی‌پی‌تی در تعاملات ۶۵ نفر از این کاربران، مجموعا ۲۰۵۰ مورد حافظه و در نتیجه پروفایل روان‌شناختی ایجاد کرده است. نکته قابل توجه اینکه ۹۶ درصد از این حافظه‌ها بدون درخواست مستقیم کاربران و به ابتکار خود چت‌بات ثبت شده بودند.
این یافته نشان می‌دهد کاربران در بسیاری از موارد کنترل آشکار چندانی بر اطلاعاتی ندارند که هوش مصنوعی از مکالمات آنها استخراج و ذخیره می‌کند.
همچنین پژوهشگران دریافتند که حدود ۲۸ درصد از حافظه‌های بررسی‌شده حاوی اطلاعات شخصی مطابق تعریف مقررات عمومی حفاظت از داده اتحادیه اروپا، موسوم به GDPR بوده‌اند. در مقابل، ۵۲ درصد از حافظه‌ها اطلاعاتی ارائه می‌کردند که پژوهشگران آنها را «بینش‌های روان‌شناختی» درباره کاربران توصیف کرده‌اند.
این اطلاعات می‌توانند به هوش مصنوعی کمک کنند تا شناخت دقیق‌تری از ترجیحات و ویژگی‌های فردی کاربران به دست آورد.
آبیشک دش، نویسنده اصلی پژوهش در گفت‌وگو با وب‌سایت Gizmodo توضیح داد که هدف پلتفرم‌های دیجیتال در گذشته عمدتا نمایش تبلیغات و ایجاد ارتباط میان کاربران و تبلیغ‌دهندگان بود. با وجود این، چت‌بات‌های امروزی مستقیما با افراد گفت‌وگو می‌کنند و برای برقراری ارتباط مؤثرتر، به شناخت بیشتری از آنها نیاز دارند.
همچنین پژوهشگران متوجه شدند که برخی اطلاعات ذخیره‌شده در حافظه چت‌جی‌پی‌تی و پروفایل روان‌شناختی کاربران براساس برداشت‌ها و فرضیات سیستم ایجاد شده‌اند.
برای مثال، یکی از کاربران از چت‌جی‌پی‌تی خواسته بود گروه‌های موسیقی مشابه Nirvana را معرفی کند. چت‌بات در پاسخ به این درخواست، علاقه کاربر به گروه Nirvana را در حافظه خود ثبت کرده بود.
درحالی‌که کاربر هرگز چنین علاقه‌ای را صریحا بیان نکرده بود، سیستم این نتیجه را از درخواست او برداشت کرده بود. البته چت‌جی‌پی‌تی این اطلاعات را با برچسب «دارای پشتوانه ضعیف» ثبت کرده بود.
بیشتر بخوانید: خالق ChatGPT به دنبال کاهش زمان تولید داروهای جدید است
خطرات حافظه چت‌جی‌پی‌تی برای حریم خصوصی
پژوهشگران تأکید کرده‌اند که نتایج این مطالعه محدودیت‌هایی دارد. مهم‌ترین محدودیت به تغییرات سیستم حافظه OpenAI مربوط می‌شود. این شرکت در ژانویه ۲۰۲۶ سامانه جدیدی برای ترکیب و مدیریت اطلاعات حافظه معرفی کرد که آن را توانمندتر و مقیاس‌پذیرتر توصیف کرده است.
بنابراین، یافته‌های پژوهش لزوما عملکرد نسخه فعلی حافظه چت‌جی‌پی‌تی را به‌طور کامل نشان نمی‌دهند. همچنین کاربران امکان غیرفعال کردن قابلیت ذخیره حافظه را دارند.
باوجود نگرانی‌های مطرح‌شده، قابلیت حافظه مزایایی نیز ارائه می‌کند. برای نمونه، کاربرانی که به صورت مداوم از چت‌جی‌پی‌تی برای انجام فعالیت‌های شغلی استفاده می‌کنند، دیگر مجبور نیستند هنگام نوشتن هر ایمیل یا انجام وظایف تکراری، اطلاعات مربوط به حرفه خود را دوباره توضیح دهند.
با وجود این، پژوهشگران هشدار داده‌اند که همین ویژگی می‌تواند به ابزاری قدرتمند برای افزایش وابستگی و تعامل مداوم کاربران تبدیل شود.
وب‌سایت Futurism پیش‌تر گزارش داده بود که ارتقای گسترده حافظه چت‌جی‌پی‌تی در آوریل ۲۰۲۵ با موارد متعددی از پدیده موسوم به «روان‌پریشی ناشی از هوش مصنوعی» ارتباط داشته است. این اصطلاح به شرایطی اشاره دارد که افراد هنگام تعامل طولانی با چت‌بات‌ها وارد چرخه‌ای از باورهای هذیانی می‌شوند.
آبیشک دش معتقد است خطر اصلی زمانی شکل می‌گیرد که کاربران چت‌بات‌ها را صرفا ابزارهای نرم‌افزاری ندانند و با آنها مانند دوست، همکار یا مشاور شخصی رفتار کنند.
او توضیح داد که افراد معمولا اطلاعات بسیار خصوصی را با دوستان خود در میان می‌گذارند. اکنون چت‌بات‌ها نیز می‌توانند در جریان چنین تعاملاتی به جزئیات گسترده‌ای از زندگی کاربران دسترسی پیدا کنند.
دش هشدار داد: «دیگر هیچ مرزی وجود ندارد. سیستم در نقش مشاور، دوست، پزشک و وکیل شما ظاهر می‌شود و به همین دلیل درباره همه‌چیز اطلاعات دارد.»
او همچنین معتقد است اگر سیستم‌های هوش مصنوعی برای حفظ تعامل کاربران، دائما باورهای آنها را تأیید کنند و پاسخ‌هایی مطابق انتظارات آنها ارائه دهند، پیامدهای اجتماعی گسترده‌ای ایجاد خواهد شد.
به گفته این پژوهشگر، چنین رویکردی می‌تواند باعث تشدید قطبی‌شدن سیاسی و تقویت پیش‌داوری‌ها و سوگیری‌های موجود شود.
این یافته‌ها ضرورت بررسی دقیق‌تر سازوکارهای ذخیره اطلاعات، میزان کنترل کاربران بر حافظه چت‌بات‌ها و پیامدهای شخصی‌سازی مبتنی بر مکالمات خصوصی را برجسته می‌کنند.
بیشتر بخوانید: مصاحبه سم آلتمن با سوال جنجالی درباره نقش ChatGPT در خودکشی یک زن متوقف شد
