شرکت OpenAI گزینه جدیدی به قابلیت کنترل والدین ChatGPT اضافه کرده است که در صورت مسدود شدن حساب نوجوانان به دلیل تهدید یا ترویج خشونت، والدین را در جریان قرار میدهد.
به گزارش سرویس هوش مصنوعی تکناک، قابلیت کنترل والدین ChatGPT سال گذشته معرفی شد و به والدین امکان میدهد ساعات استفاده از چتبات را محدود کنند، نمایش محتوای حساس را کاهش دهند و در صورتی که ChatGPT نشانههایی از آسیب رساندن نوجوان به خود را تشخیص دهد، هشدار دریافت کنند. اکنون این سیستم بهروزرسانی شده است و در صورت تشخیص خطر احتمالی برای دیگران نیز والدین را مطلع میکند.
طبق نمونه منتشرشده از سوی OpenAI، والدین ابتدا یک اعلان با عنوان «بهروزرسانی مهم درباره حساب فرزند شما» دریافت میکنند. با انتخاب گزینه «اطلاعات بیشتر»، توضیح داده میشود که حساب کاربری نوجوان به دلیل نقض سیاستهای استفاده از ChatGPT در بخش مربوط به اقدامات خشونتآمیز غیرفعال شده است.
شرکت OpenAI برای توسعه این قابلیت با شرکت Moonshot همکاری داشته است که در زمینه شناسایی و مقابله با خشونت آنلاین فعالیت میکند. ویدیا رامالینگام، بنیانگذار Moonshot اعلام کرد که اطلاعرسانی سریع به والدین در زمان بروز نگرانیهای جدی، به خانوادهها فرصت میدهد تا زودتر وارد عمل شوند و در صورت نیاز برای دریافت کمک اقدام کنند.
این تغییرات در ادامه تلاشهای OpenAI برای تقویت سازوکارهای ایمنی ChatGPT انجام شده است. این شرکت پس از آنکه مشخص شد مظنون تیراندازی جمعی سال ۲۰۲۵ در منطقه Tumbler Ridge کانادا از ChatGPT استفاده کرده بود، با انتقادهایی روبهرو شد. همچنین گزارشها حاکی از آن بود که OpenAI پس از مسدود کردن حساب این فرد، موضوع را به مقامات اطلاع نداده است و سم آلتمن، مدیرعامل شرکت، بعداً به دلیل این موضوع عذرخواهی کرد.
شرکت OpenAI علاوه بر این قابلیت، امکان فعالسازی مستقیم Study Mode را نیز از طریق بخش کنترل والدین فراهم کرده است. این حالت بهجای ارائه فوری پاسخ، ابتدا راهنماییها و سرنخهایی در اختیار دانشآموزان قرار میدهد تا روند یادگیری مؤثرتری داشته باشند. همچنین نوجوانانی که مدت زمان زیادی را در ChatGPT سپری میکنند، از این پس یادآورهای استراحت بیشتری دریافت خواهند کرد تا عادتهای سالمتری در استفاده از فناوری داشته باشند.
