فهرست مطالب
شرکت OpenAI نسخه ویژهای از چتبات خود را با محدودیتهای سنی برای نوجوانان عرضه کرد، اما کارشناسان نسبت به کارایی سازوکارهای حفاظتی آن ابراز تردید کردند.
به گزارش سرویس هوش مصنوعی تکناک، شرکت OpenAI با هدف ارتقای سطح ایمنی کاربران کمسنوسال، نسخه ویژهای از چتبات خود را با نام چتجیپیتی برای نوجوانان عرضه کرده است. این اقدام که با محدودیتهای سنی و سازوکارهای نظارتی جدید همراه است، پس از فشارهای قانونی و اخلاقی ناشی از بروز حوادث تلخ برای کاربران نوجوان هوش مصنوعی و در راستای محدودسازی خودکار دسترسی این گروه سنی انجام شده است. با این حال، کارشناسان ایمنی کودکان ضمن استقبال از کلیت این طرح، نسبت به کارایی سازوکارهای حفاظتی، شفافیت شرکت و نحوه اجرای عملیاتی این تعهدات ابراز تردید کردهاند.
روند طراحی این نسخه نوجوانان چتجیپیتی که از روز سهشنبه در دسترس قرار گرفت، پاسخی به نگرانیهای فزاینده درباره تاثیرات منفی احتمالی هوش مصنوعی بر سلامت روان نوجوانان است. شرکت سازنده اعلام کرد که سیستم شناسایی خودکار سن، بهگونهای طراحی شده که کاربر نیازی به تغییر تنظیمات ندارد؛ اگر پیشبینی سیستم بر این باشد که کاربر کمتر از ۱۸ سال سن دارد، تجربه کاربری بهصورت خودکار به نسخه محدودشده تغییر مییابد. این نسخه جدید علاوه بر اعمال محدودیتهای محتوایی، نوجوانان را به سمت قابلیتهای آموزشی هدایت میکند تا بهرهوری علمی آنان افزایش یابد. در کنار این موارد، دستورالعملهای جدیدی برای مدل هوش مصنوعی تعریف شده است که از جمله آنها میتوان به ممنوعیت استفاده از زبان عاشقانه، منع تشویق به وابستگی عاطفی و خودداری از القای احساسات یا آگاهی انسانی اشاره کرد.
هشدار به والدین درباره گفتگوهای ناامن
یکی از تغییرات مهم در این نسخه، گسترش اعلانهای ایمنی است که در صورت شکلگیری گفتگوهای ناامن درباره اختلالات خوردن، به والدین مطلع از طریق حسابهای متصل پیام ارسال میکند. شرکت سازنده متعهد شده است که تمام گفتگوهای علامتگذاریشده توسط کارکنان تماموقت بررسی شود و در صورت تشخیص محتوای خطرناک، والدین ظرف مدت یک ساعت در جریان قرار بگیرند.
با این وجود، جامعه کارشناسان ایمنی کودکان با دیدگاهی محتاطانه به این تغییرات نگریستهاند. از نظر متخصصان، اگرچه این تعهدات روی کاغذ گام مثبتی بهنظر میرسند، اما تکیه صرف بر سازوکارهای خودکار برای شناسایی سن کاربران و مدیریت محتوا همچنان با چالشهای فنی جدی روبروست. بسیاری از کارشناسان معتقدند که فناوریهای تخمین سن به تنهایی قادر به شناسایی صددرصدی نوجوانان نیستند و همچنان امکان دورزدن این محدودیتها از طریق ابزارهایی مانند ویپیان یا روشهای خلاقانه دیگر وجود دارد.
یکی از محورهای اصلی انتقاد کارشناسان، تردید در توانایی اجرایی شرکت سازنده برای بررسی انسانی محتواهاست. بررسی تکتک گفتگوهای بالقوه نگرانکننده در مقیاس میلیونی، نیازمند نیروی انسانی گسترده و زیرساختهای نظارتی پیچیدهای است که بسیاری از ناظران در عملیبودن وعده «بررسی در کمتر از یک ساعت» تشکیک کردهاند. کارشناسان یادآور شدهاند که در تجربههای گذشته، هشدارهای ایمنی مرتبط با خودکشی یا آسیبهای جدی اغلب با تاخیرهای ۲۴ تا ۴۸ ساعته مواجه بوده یا در موارد متعددی هرگز ارسال نشدهاند.
تفاوتهای فرهنگی در سلامت روان
علاوه بر جنبههای فنی، موضوع ظرافتهای فرهنگی و زبانی نیز به عنوان یک مانع جدی مطرح شده است. نحوهای که نوجوانان در کشورهای مختلف درباره پریشانیهای روانی صحبت میکنند، متفاوت است و ارائه یک پاسخ واحد یا یک الگوی نظارتی یکسان برای سراسر جهان، بدون در نظر گرفتن تفاوتهای فرهنگی، میتواند کارآمدی این سیستم را کاهش دهد.
از سوی دیگر، منتقدان بر این باورند که طراحی قابلیتهای ایمنی به شکلی که برای فعالشدن به اقدام داوطلبانه والدین (مانند اتصال حساب) نیاز دارد، یکی از نقاط ضعف ساختاری طرح است. شواهد آماری از پلتفرمهای دیگر نشان میدهد که اکثر والدین به دلیل دشواری در دسترسی یا پیچیدگی تنظیمات، از ابزارهای نظارتی استفاده نمیکنند. به نوشته انگجت، کارشناسان پیشنهاد دادهاند که استانداردهای ایمنی باید بهصورت پیشفرض و در طراحی اولیه سیستم تعبیه شوند، به گونهای که کمترین نیاز به دخالت دستی والدین وجود داشته باشد و ایمنی برای همه کاربران به صورت یکپارچه اجرا شود.
در نهایت، بسیاری از متخصصان معتقدند که این اعلانها بیش از آنکه بر مبنای مطالعات گسترده مستقل و شواهد تجربی برای بهبود وضعیت نوجوانان باشد، واکنشی تبلیغاتی به فشارهای اجتماعی است. از نگاه منتقدان، اعتماد به شرکتهای فناوری برای خودتنظیمی در زمینه محافظت از کودکان، پیش از این در شبکههای اجتماعی شکست خورده و اکنون ضرورت دارد که OpenAI با انتشار دادههای واقعی درباره نرخ خطا و اثربخشی این قابلیتها، شفافیت بیشتری در عملکرد خود ایجاد کند. بدون وجود ارزیابیهای مستقل و شواهد روشن از عملکرد واقعی، این تغییرات همچنان به عنوان اقداماتی آزمایشی و ناکافی در برابر ابعاد گسترده چالشهای سلامت روان نوجوانان در عصر هوش مصنوعی باقی میمانند.
