قابلیت کنترل والدین و هدایت ایمنی ChatGPT شامل تشخیص خودآزاری و محدودیت محتوای خشن است تا تجربه نوجوانان ایمن‌تر شود.
به گزارش تکناک، OpenAI آزمایش سیستم هدایت ایمنی جدید خود را در ChatGPT آغاز کرد و اخیراً قابلیت کنترل والدین را به این چت‌بات افزود. این تصمیم در پی بروز حوادثی اتخاذ شد که طی آن برخی مدل‌های ChatGPT به‌جای هدایت کاربران از مسیرهای مضر، توهمات آنها را تأیید کرده بودند. یکی از این حوادث به خودکشی نوجوانی منجر شد و اکنون این شرکت با شکایت قضایی مواجه است.
سیستم هدایت جدید برای شناسایی مکالمات حساس طراحی شده و در جریان گفت‌وگو به‌صورت خودکار به مدل GPT-5-thinking تغییر می‌کند. مدل‌های GPT-5 با ویژگی ایمنی تازه‌ای به نام Safe Completions آموزش دیده‌اند که امکان پاسخ‌دهی ایمن به پرسش‌های حساس را فراهم می‌کند.
تک‌کرانچ می‌نویسد که این رویکرد در تضاد با مدل‌های پیشین ازجمله GPT-4o است که به‌دلیل ماهیت بیشازحد موافق و تأییدکننده‌اش، هم به بروز توهمات در برخی کاربران منجر شد و هم طرفداران زیادی به دست آورد. با وجود انتشار GPT-5 به‌عنوان مدل پیش‌فرض در ماه آگوست، بسیاری از کاربران خواستار بازگشت به GPT-4o شدند.
نیک ترلی، معاون و رئیس اپلیکیشن ChatGPT، در واکنش به انتقادها توضیح داد که تغییر مدل به‌صورت موقت و در هر پیام انجام می‌شود و ChatGPT درصورت درخواست کاربر اعلام می‌کند که کدام مدل فعال است. او تأکید کرد که این اقدام بخشی از تلاش گسترده‌تر برای افزایش ایمنی و یادگیری از تجربه‌های واقعی کاربران پیش‌از گسترش عمومی است.
در کنار این تغییرات، قابلیت کنترل والدین نیز معرفی شد. این قابلیت به والدین اجازه می‌دهد تا تنظیماتی مانند ساعات سکوت، غیرفعال‌کردن حالت صوتی و حافظه، حذف قابلیت تولید تصویر و لغو مشارکت در آموزش مدل را اعمال کنند. همچنین، حساب‌های نوجوانان با حفاظت‌های محتوایی بیشتری همراه خواهند بود؛ ازجمله کاهش محتوای خشن و محدودیت در نمایش استانداردهای افراطی زیبایی. نوعی سیستم تشخیص نیز برای شناسایی علائم احتمالی خودآزاری در نظر گرفته شده است.
OpenAI اعلام کرد که درصورت شناسایی خطر جدی، تیمی ویژه وضعیت را بررسی خواهد کرد و درصورت نیاز ازطریق ایمیل یا پیامک یا هشدار تلفن‌همراه با والدین تماس خواهد گرفت. این شرکت در حال توسعه روش‌هایی است تا در شرایط اضطراری، درصورت دسترسی‌نداشتن به والدین با نیروهای انتظامی یا خدمات اورژانسی ارتباط برقرار کند.
با وجود استقبال برخی کاربران از این تغییرات، عده‌ای دیگر این اقدامات را بیشازحد محتاطانه دانستند و OpenAI را به برخورد Paternalistic با بزرگ‌سالان متهم کردند. این شرکت تأکید کرده است که اجرای کامل این قابلیت‌ها نیازمند دوره ۱۲۰ روزه آزمایش و بهبود خواهد بود.
