فهرست مطالب
اوپن‌ای‌آی در واکنش به نگرانی‌های گسترده پیرامون امنیت نوجوانان، از محصول جدید ChatGPT for Teens با تدابیر ایمنی و ابزارهای آموزشی ویژه رونمایی کرد.
به گزارش سرویس هوش مصنوعی تکناک، پس از طرح شکایت‌های متعدد پیرامون فقدان تدابیر ایمنی در چت‌بات‌های هوش مصنوعی که منجر به خودکشی نوجوانان و دیگر نگرانی‌های حوزه سلامت روان شده بود، شرکت اوپن‌ای‌آی روز دوشنبه از عرضه ChatGPT for Teens خبر داد. این محصول جدید وعده می‌دهد که تدابیر ایمنی بیشتری را به همراه راهکارهایی برای بحران تقلب‌های آموزشی با کمک چت‌جی‌پی‌تی در مدارس ارائه دهد.
در بخش آموزشی، نسخه نوجوانان چت‌جی‌پی‌تی قابلیتی جدید به نام حالت مطالعه و ابزارهای دیگری را معرفی می‌کند که برای برانگیختن حس کنجکاوی کاربران نوجوان و کمک به حل مسائل توسط خود آنها طراحی شده‌اند، نه اینکه صرفا پاسخ‌های سریع در اختیارشان قرار دهند.
ابزارهای یادگیری گام‌به‌گام نوجوانان
همان‌طور که اوپن‌ای‌آی در یک پست وبلاگی توضیح می‌دهد، گزینه حالت مطالعه به نوجوانان پرسش‌های راهنما و پشتیبانی گام‌به‌گام ارائه می‌دهد تا به درک عمیق‌تر مباحث کمک کند. در عین حال، این تجربه اختصاصی شامل یادآورهای انجام تکالیف نیز خواهد بود؛ هشدارهایی که در صورت تلاش نوجوان برای تقلب به‌جای یادگیری واقعی مطالب، نمایش داده می‌شوند. در چنین شرایطی، چت‌بات هوش مصنوعی نوجوان را ترغیب می‌کند تا از حالت مطالعه استفاده کند.
به گفته این شرکت، این برنامه همچنین از کوئیزها و مصورسازی‌های یادگیری پشتیبانی خواهد کرد و کنترل‌هایی را در اختیار والدین یا سرپرستان قرار می‌دهد تا تعیین کنند چه زمانی حالت مطالعه به‌صورت پیش‌فرض فعال باشد.
با این حال، هنوز مشخص نیست که اگر نوجوانان تصمیم به عدم همکاری بگیرند، دور زدن این سیستم‌های جدید چقدر برای آنها ساده یا دشوار خواهد بود. نوجوانان مهارت فوق‌العاده‌ای در دور زدن کنترل‌های والدین و سایر ابزارهای محدودکننده تجربیات دیجیتال دارند. تا زمانی که نسخه مخصوص نوجوانان چت‌جی‌پی‌تی تحت آزمایش‌های سخت‌گیرانه‌تری قرار نگیرد، نمی‌توان با اطمینان گفت که دور زدن این تدابیر ایمنی در عمل چقدر سخت خواهد بود.
همچنین این پرسش مطرح است که چرا چنین سازوکارهای حفاظتی از همان ابتدا در چت‌جی‌پی‌تی تعبیه نشده بودند. این چت‌بات هوش مصنوعی نخستین‌بار در اواخر سال ۲۰۲۲ عرضه شد و پیش از آنکه تدابیر محافظتی معنادار و ویژه‌ای برای کاربران نوجوان به آن اضافه شود، پایگاه کاربری خود را به ۹۰۰ میلیون کاربر هفتگی رساند.
افزایش امنیت کاربران زیر ۱۸ سال
اوپن‌ای‌آی می‌گوید محافظت‌های متناسب با سن در ChatGPT for Teens به‌صورت پیش‌فرض فعال خواهند بود؛ ابزارهایی که برای کاهش مواجهه با محتوای مضر یا نامناسب از نظر مراحل رشد طراحی شده‌اند. این اقدامات بر پایه «اصول زیر ۱۸ سال» در مشخصات مدل این شرکت بنا شده‌اند که طبق ادعای اوپن‌ای‌آی، مبتنی بر یافته‌های علوم رشدی و راهنمایی‌های کارشناسان است.
والدین همچنین می‌توانند از ابزارهای خانوادگی و کنترل‌های والدینی که پیش‌تر معرفی شده بود برای مدیریت تنظیمات، دریافت هشدارهای ایمنی و تعیین ساعت‌های خاموشی، در کنار سایر قابلیت‌ها، استفاده کنند.
طبق گزارش تک‌کرانچ، اوپن‌ای‌آی همچنین از همکاری با CodeAI خبر داد تا به نوجوانان در یادگیری بهتر مبانی هوش مصنوعی، از جمله نحوه کارکرد آن، چگونگی هدایت و پرسشگری از آن، و شیوه‌های استفاده از این فناوری کمک کند. در محیط‌های آموزشی نیز اوپن‌ای‌آی پیش‌تر سرویس ChatGPT for Teachers را عرضه کرده است تا دسترسی نهادی و مدیریت‌شده به هوش مصنوعی را برای مدارس و کادر آموزشی فراهم سازد.
