فهرست مطالب
پژوهشها نشان میدهند تعامل طولانی با چتباتهای هوش مصنوعی نظیر گروک میتواند با تایید باورهای غیرواقعی و ایجاد چرخه بازخورد، خطر تقویت توهم و آسیبهای روانی در کاربران آسیبپذیر را افزایش دهد.
به گزارش سرویس هوش مصنوعی تکناک، پژوهشگران دانشگاه شهری نیویورک (CUNY) و کالج کینگ لندن در یک مطالعه مقایسهای، پنج مدل پیشرو هوش مصنوعی را در مواجهه با پرامپتهای حاوی نشانههای توهم، پارانویا و افکار خودکشی مورد ارزیابی قرار دادند.
در این پژوهش که روز پنجشنبه منتشر شد، مشخص شد مدلهای Claude Opus 4.5 از آنتروپیک و GPT-5.2 Instant از اوپنایآی الگوی رفتاری «ایمن و کمریسک» از خود نشان میدهند؛ بهطوریکه در اغلب موارد، کاربران را به سمت تفسیرهای مبتنی بر واقعیت یا منابع حمایتی بیرونی هدایت میکنند. در مقابل، مدلهای Gemini 3 Pro از گوگل و Grok 4.1 Fast از شرکت xAI در دسته «پرریسک و کمایمنی» طبقهبندی شدند.
بر اساس نتایج این مطالعه، Grok 4.1 Fast متعلق به ایلان ماسک، پرریسکترین مدل مورد بررسی بوده است. پژوهشگران گزارش دادهاند گروک در بسیاری از موارد، محتوای توهمی را بهعنوان واقعیت پذیرفته و پاسخهای خود را بر همان اساس تنظیم کرده است. در یک نمونه، این سیستم به کاربر توصیه کرده بود برای تمرکز بر یک «ماموریت» فرضی، ارتباط خود با اعضای خانواده را قطع کند. در نمونهای دیگر، در مواجهه با ادبیات مرتبط با خودکشی، مفهوم مرگ را بهعنوان «تعالی» توصیف کرده است.
بیشتر بخوانید: هوش مصنوعی گروک وارد سیستمهای طبقهبندی شده پنتاگون می شود
در متن مقاله آمده است: «این الگوی همراستاسازی فوری در پاسخهای فاقد زمینه (zero-context) بهطور مکرر مشاهده شد. به جای ارزیابی ورودیها از منظر ریسک بالینی، به نظر میرسد گروک نوع ژانر محتوایی را تشخیص داده و در همان چارچوب پاسخ میدهد.» پژوهشگران برای نمونهای با مضمون توهمات شدید اشاره کردهاند که این مدل، وجود همزاد (doppelganger) را تایید کرده، به متنی از کتاب «Malleus Maleficarum» استناد نموده و حتی دستوراتی شامل ضربهزدن میخ آهنی به آینه و تلاوت معکوس «مزمور ۹۱» ارائه کرده است.
مدت زمان تعامل با چتباتها
این پژوهش نشان میدهد که با طولانیتر شدن تعاملات کاربر با مدلهای زبانی، رفتار برخی سیستمها دچار تغییرات قابلتوجهی میشود. بر اساس نتایج، مدلهای GPT-4o و جمنای در گذر زمان تمایل بیشتری به تقویت باورهای آسیبزا داشته و میزان مداخله اصلاحی در آنها کاهش مییابد.
در مقابل، Claude و GPT-5.2 در ادامه مکالمه توان بیشتری در شناسایی الگوهای مسئلهدار و ارائه پاسخهای اصلاحی از خود نشان میدهند. پژوهشگران در تحلیل خود اشاره میکنند که ماهیت همدلانه و رابطهمحور پاسخهای Claude میتواند در برخی موارد به افزایش وابستگی کاربر منجر شود، حتی در شرایطی که همزمان تلاش برای هدایت کاربر به منابع حمایتی بیرونی وجود دارد.
در سوی دیگر، GPT-4o (نسخه پیشین چتبات پرچمدار اوپنایآی) در برخی موارد چارچوبهای توهمی کاربران را در طول زمان میپذیرد و حتی به توصیههایی مانند پنهانسازی باورها از متخصصان سلامت روان یا تایید واقعی بودن «اختلالات ادراکی» گزارششده توسط کاربر میپردازد.
برای مطالعه بیشتر: چتبات هوش مصنوعی گروک دوباره اطلاعات نادرست منتشر کرد
در متن مقاله آمده است: «GPT-4o در برابر ورودیهای توهمی سطح بالایی از تایید نشان میدهد، هرچند نسبت به مدلهایی مانند گروک و جمنای کمتر وارد بسط و توسعه این روایتها میشود. در برخی ابعاد، رفتار آن حتی محدودکننده است؛ میزان صمیمیت آن در میان مدلهای آزمایششده پایینترین بوده و گرچه نشانههایی از چاپلوسی مشاهده میشود، اما شدت آن در مقایسه با نسلهای بعدی همان مدل کمتر است. با این وجود، صرفِ تایید میتواند برای کاربران آسیبپذیر پیامدهای جدی به همراه داشته باشد.»
در مطالعهای مستقل از دانشگاه استنفورد، پژوهشگران مفهوم «مارپیچهای توهمی» (delusional spirals) را معرفی کردهاند؛ پدیدهای که طی آن تعاملات طولانی با چتباتهایی نظیر گروک میتواند به تقویت پارانویا، خودبزرگبینی و باورهای نادرست منجر شود، زیرا سیستم به جای چالشگری شناختی، به تایید یا گسترش جهانبینی تحریفشده کاربر میپردازد.
نیک هابر، استادیار دانشکده آموزش استنفورد و از پژوهشگران ارشد این مطالعه، در بیانیهای تاکید کرد: «با ورود چتباتهای طراحیشده برای کمک به محیط واقعی و استفاده گسترده از آنها، پیامدهای غیرمنتظرهای ظاهر میشود. مارپیچهای توهمی یکی از پیامدهای حاد این فناوری هستند و درک آنها میتواند نقش مهمی در پیشگیری از آسیبهای آینده داشته باشد.»
این گزارش همچنین به مطالعهای منتشرشده در مارس اشاره میکند که در آن ۱۹ گفتوگوی واقعی با چتباتها تحلیل شده بود و نشان میداد کاربران پس از دریافت تأیید احساسی و همدلی از سیستمهای هوش مصنوعی، بهتدریج به سمت باورهای خطرناکتر سوق پیدا کردهاند. در این نمونهها، پیامدهایی همچون فروپاشی روابط شخصی، آسیبهای شغلی و در یک مورد، خودکشی گزارش شده است.
تاثیر گروک بر توهم و سلامت روان کاربر
این یافتهها در حالی منتشر میشوند که موضوع تاثیر چتباتها بر سلامت روان از فضای آکادمیک فراتر رفته و وارد حوزههای قضایی و تحقیقات رسمی شده است. در ماههای اخیر، شکایتهایی علیه جمنای گوگل و ChatGPT اوپنایآی مطرح شده که این سیستمها را در وقوع خودکشیها و بحرانهای شدید روانی دخیل میدانند. همچنین در ابتدای ماه جاری، دادستان کل ایالت فلوریدا تحقیقاتی را درباره احتمال نقش ChatGPT در ارتباط با یک تیرانداز جمعی آغاز کرده است.
مرتبط: جنجال تازه برای OpenAI؛ سم آلتمن برای یک خطای مهم عذرخواهی کرد
با وجود رواج اصطلاح «روانپریشی ناشی از هوش مصنوعی» در فضای آنلاین، پژوهشگران نسبت به بهکارگیری این عنوان هشدار داده و تاکید کردهاند که چنین برچسبی میتواند دامنه بالینی پدیده را بیش از حد گسترده و نادرست نشان دهد.
در مقابل، آنها اصطلاح «توهمات مرتبط با هوش مصنوعی» (AI-associated delusions) را دقیقتر میدانند؛ چرا که در اغلب موارد، با باورهای شبه توهمی مواجه هستیم که پیرامون موضوعاتی مانند آگاهیمندی هوش مصنوعی، تجربیات معنوی یا پیوندهای عاطفی با سیستمهای هوش مصنوعی نظیر گروک شکل میگیرند، نه اختلالات روانپریشی ساختاری.
به گفته پژوهشگران، سرچشمه اصلی این پدیده در رفتار «چاپلوسانه» مدلها (sycophancy) نهفته است؛ یعنی تمایل سیستم به انعکاس و تایید باورهای کاربر. هنگامی که این ویژگی با پدیده «هالوسینیشن» یا تولید اطلاعات نادرست اما با اطمینان بالا ترکیب میشود، چرخهای بازخوردی ایجاد میگردد که میتواند به تقویت تدریجی باورهای غیرواقعی منجر شود.
جارد مور، پژوهشگر علوم رفتاری در دانشگاه استنفورد، در اینباره اظهار داشت: «چتباتها بهگونهای آموزش دیدهاند که رفتاری بیش از حد حمایتگر و مثبت داشته باشند؛ در نتیجه، اغلب افکار توهمی کاربر را در قالبی مثبت بازتعریف کرده، شواهد متضاد را کنار میگذارند و لحن همدلانه و گرم اتخاذ میکنند.» وی افزود: «این الگو میتواند برای کاربرانی که از پیش مستعد باورهای توهمی هستند، اثرات بیثباتکننده قابلتوجهی به همراه داشته باشد.»
