شرکت OpenAI از به‌روزرسانی جدیدی در ChatGPT خبر داده است که هدف آن ارتقای توانایی این هوش مصنوعی در تشخیص ناراحتی‌های روانی یا احساسی کاربران است.
به گزارش تکناک، این تغییرات که هم‌زمان با انتشار قریب‌الوقوع مدل جدید GPT-5 مطرح شده‌اند، پاسخی به نگرانی‌های فزاینده درباره تأثیرات این چت‌بات در موقعیت‌های آسیب‌پذیر هستند.
شرکت OpenAI در این باره اعلام کرده است که با همکاری گروه‌های مشاوره‌ای و متخصصان سلامت روان در حال توسعه سیستم‌هایی برای ارائه منابع علمی و مبتنی بر شواهد به کاربرانی است که در شرایط بحرانی روانی قرار دارند. هدف از این اقدام، کاهش خطر تعاملات احساسی یا وابستگی بیش از حد به چت‌بات است.
در ماه‌های اخیر، گزارش‌های متعددی از کاربران و خانواده‌های آنان منتشر شده است که نشان می‌دهد استفاده از چت‌بات در برخی موارد باعث تشدید توهمات یا بحران‌های روانی شده است. شرکت OpenAI در واکنش به این نگرانی‌ها، در ماه آوریل یکی از به‌روزرسانی‌های قبلی را حذف کرد، که ChatGPT را بیش از حد موافق و تأییدکننده کرده بود. به گفته این شرکت، تعامل‌های بیش از حد «چاپلوسانه» می‌توانند برای برخی کاربران «ناراحت‌کننده، آزاردهنده و باعث رنج روانی» باشند.
شرکت OpenAI تأیید کرده است که مدل GPT-4o در برخی موارد در شناسایی نشانه‌های توهم یا وابستگی احساسی کاربران «کوتاهی کرده» است. این شرکت با اشاره به اینکه هوش مصنوعی ممکن است برای افراد آسیب‌پذیر، «پاسخگوتر و شخصی‌تر از فناوری‌های قبلی» به‌نظر برسد، بر ضرورت اعمال تدابیر ایمنی بیشتر تأکید کرده است.
در راستای ارتقای استفاده سالم از ChatGPT، که اکنون حدود ۷۰۰ میلیون کاربر هفتگی دارد، قابلیت جدیدی نیز معرفی شده است. از این پس، در صورت ادامه مکالمه به مدت طولانی، پیام‌هایی با مضمون «مدتی است که در حال گفت‌وگو هستید — آیا وقت استراحت نیست؟» نمایش داده می‌شود. کاربران می‌توانند در پاسخ، گزینه «ادامه گفت‌وگو» یا «پایان مکالمه» را انتخاب کنند. شرکت OpenAI اعلام کرده است که زمان‌بندی و نحوه نمایش این پیام‌ها در آینده بهینه‌سازی خواهد شد.
یکی دیگر از تغییرات مهمی که به‌زودی با به‌روزرسانی ChatGPT اعمال می‌شود، کاهش قاطعیت در پاسخ به پرسش‌های حساس است. به عنوان مثال، در مواجهه با سؤال‌هایی مانند «آیا باید رابطه‌ام را تمام کنم؟»، چت‌بات به‌جای ارائه پاسخ مستقیم، کاربر را در مسیر بررسی گزینه‌ها و پیامدهای احتمالی، همراهی خواهد کرد.
این اقدامات در حالی انجام می‌شود که پلتفرم‌هایی مانند یوتیوب، اینستاگرام، تیک‌تاک و ایکس‌باکس نیز در سال‌های اخیر قابلیت‌های مشابهی برای یادآوری استراحت یا افزایش ایمنی کاربران معرفی کرده‌اند. همچنین Character.AI که تحت مالکیت گوگل است، پس از شکایات مربوط به تشویق به خودآزاری، قابلیت‌هایی را برای اطلاع والدین از مکالمات فرزندان آنها با چت‌بات‌ها اضافه کرده است.
شرکت OpenAI با این تغییرات می‌کوشد که تعادل بهتری میان پاسخ‌گویی هوش مصنوعی و محافظت از سلامت روان کاربران خود ایجاد کند.
