محدودیت‌های جدید ChatGPT برای کاهش خشونت میان نوجوانان

OpenAI با اعمال محدودیت‌های تازه در ChatGPT، دسترسی نوجوانان به اطلاعات کاربردی درباره سلاح را کاهش می‌دهد و گفت‌وگوهای متمرکز بر خشونت را محدود می‌کند.

به گزارش سرویس هوش مصنوعی تک‌ناک، این تصمیم در شرایطی اتخاذ شده است که شرکت‌های هوش مصنوعی با نظارت فزاینده‌ای درباره خطرات چت‌بات‌ها برای کاربران کم‌سن‌وسال و نقش این شرکت‌ها در شناسایی تهدیدهای احتمالی خشونت روبه‌رو هستند.

جزئیات محدودیت‌های جدید

OpenAI اطلاعات کاربردی درباره سلاح‌ها و سامانه‌های امنیتی را که ممکن است مورد سوءاستفاده قرار بگیرند، محدود می‌کند. این محدودیت‌ها برای کاربران نوجوان حتی در شرایطی که نشانه‌ای از مقاصد خشونت‌آمیز در پرسش آن‌ها وجود نداشته باشد هم اعمال می‌شوند.

ChatGPT برای تمام کاربران به قابلیتی مجهز می‌شود که در صورت تشخیص تمرکز مکرر گفت‌وگو بر موضوع خشونت، مکالمه را به‌طور خودکار متوقف می‌کند. OpenAI همچنین ممکن است در صورت تکرار چنین گفت‌وگوهایی، حساب کاربری فرد را به‌طور موقت تعلیق کند.

این شرکت اعلام کرد سامانه پیش‌بینی سن کاربران را نیز تقویت کرده است. این سامانه تلاش می‌کند کاربرانی را که احتمال می‌دهد کمتر از ۱۸ سال داشته باشند، به محیط ویژه نوجوانان منتقل کند.

OpenAI همچنین قصد دارد در صورتی که حساب کاربری نوجوانی به‌دلیل گفت‌وگوهای مکرر درباره خشونت تعلیق شود، والدین او را مطلع کند.

بیشتر بخوانید: اظهارات جنجالی سم آلتمن درباره پردازش محلی هوش مصنوعی

محدودیت اطلاعات درباره حملات مرگبار گذشته

محدودیت‌های جدید فقط به نوجوانان مربوط نمی‌شود. OpenAI اعلام کرده است که برای تمام کاربران، جزئیات مربوط به حملات گسترده گذشته را نیز محدود می‌کند. این محدودیت‌ها شامل اطلاعات درباره سلاح‌های استفاده‌شده در این حملات و نحوه تهیه آن‌ها می‌شود.

شرکت OpenAI اعلام کرد اجرای تدابیر حفاظتی جدید طی چند هفته آینده آغاز خواهد شد و این شرکت در ادامه آن‌ها را به‌روزرسانی و اصلاح خواهد کرد.

بیشتر بخوانید: خالق ChatGPT به دنبال خرید تراشه‌های هوش مصنوعی گوگل

نگرانی‌ها درباره ایمنی نوجوانان

OpenAI اوایل همین ماه نخستین گزارش خود درباره استفاده نوجوانان از ChatGPT را منتشر کرد. بر اساس این گزارش، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از این چت‌بات استفاده می‌کنند.

با این حال، گزارشی که سازمان غیرانتفاعی Common Sense Media اوایل همین ماه منتشر کرد، شامل نگرانی‌هایی درباره عملکرد نسخه نوجوانان ChatGPT می‌شد. بر اساس این گزارش، نسخه مورد بررسی در بسیاری از مواردی که نوجوانان درباره خودکشی، خودآزاری یا اختلالات خوردن با آن گفت‌وگو کرده‌اند، والدین را با تأخیر مطلع کرده یا اصلاً هشداری برای آن‌ها نفرستاده است.

بیشتر بخوانید: اتصال چت‌جی‌پی‌تی به ایمیل و تقویم آی‌کلود امکان‌پذیر شد