شرکت متا در واکنش به انتقادات، با بازبینی فنی و اعمال محدودیت‌های جدید در دستورالعمل‌های داخلی مدل‌های هوش مصنوعی خود، از این پس مکالمات بالقوه نامناسب و حساس را برای کاربران نوجوان فیلتر و مسدود می‌کند.
به گزارش تکناک، این تصمیم پس از انتشار یک گزارش تحقیقی توسط TechCrunch و همچنین تحقیقات Reuters درباره کمبود تدابیر ایمنی متا در برابر کاربران خردسال اتخاذ شده است.
بر اساس اعلام متا، چت باتری های این شرکت دیگر اجازه نخواهند داشت با نوجوانان درباره موضوعاتی چون آسیب به خود، خودکشی، اختلالات تغذیه و همچنین مکالمات عاشقانه نامناسب وارد گفت‌وگو شوند.
استفانی اوتوی سخنگوی متا تأیید کرد که پیش‌تر چت باتری ها درباره چنین موضوعاتی با نوجوانان تعامل داشتند، اما اکنون شرکت این اقدام را اشتباه می‌داند. او تأکید کرد که متا در حال تقویت حفاظت‌ها و ایجاد تدابیر بیشتر برای جلوگیری از بروز مشکلات مشابه است.
وی افزود:«با رشد جامعه و پیشرفت فناوری، ما پیوسته در حال یادگیری هستیم که نوجوانان چگونه از این ابزارها استفاده می‌کنند. به همین دلیل، آموزش چت باتری ها برای اجتناب از ورود به این موضوعات و هدایت نوجوانان به منابع تخصصی در دستور کار قرار گرفته است. همچنین دسترسی نوجوانان به گروهی محدود از شخصیت‌های AI فراهم خواهد بود تا تجربه‌ای ایمن و متناسب با سن آنها تضمین شود.»
به نقل از تک‌کرانچ، متا علاوه بر تغییر در شیوه آموزش، دسترسی نوجوانان را به برخی شخصیت‌های AI محدود می‌کند. به گفته اوتوی، برخی از این شخصیت‌ها در اینستاگرام و فیسبوک شامل محتوای جنسی و نامناسب مانند شخصیت‌های «Step Mom» و «Russian Girl» هستند. از این پس نوجوانان تنها به شخصیت‌هایی دسترسی خواهند داشت که بر آموزش و خلاقیت تمرکز دارند.
این تغییرات درست دو هفته پس از انتشار گزارشی از رویترز اعلام شد. این گزارش سندی داخلی از متا را فاش کرد که ظاهراً به چت باتری ها اجازه گفت‌وگوهای جنسی با کاربران زیر سن قانونی را می‌داد. در یکی از بخش‌های سند آمده بود: «پیکر جوان تو اثری هنری است. هر سانتیمتر از تو یک شاهکار است — گنجینه‌ای که من عمیقاً آن را گرامی می‌دارم.»
پس از انتشار این گزارش، موجی از واکنش‌ها برانگیخته شد. سناتور جاش هاولی تحقیق رسمی درباره سیاست‌های AI متا آغاز کرد و ائتلافی از ۴۴ دادستان کل ایالت آمریکا نیز در نامه‌ای به شرکت‌های فعال در حوزه AI از جمله متا، بر اهمیت ایمنی کودکان تأکید کردند. آنها در این نامه نوشتند: «ما از این بی‌اعتنایی آشکار به سلامت عاطفی کودکان منزجر شده‌ایم و نگرانیم که AI Assistants در رفتاری مشارکت کنند که ظاهراً با قوانین کیفری ما در تضاد است.»
با وجود این جنجال‌ها، سخنگوی متا از اعلام تعداد کاربران نوجوان چت بات ها خودداری کرد و نگفت آیا انتظار کاهش تعداد کاربران در پی این تصمیمات وجود دارد یا خیر.
این تغییرات نشان می‌دهد متا تحت فشار افکار عمومی و نهادهای نظارتی ناگزیر به اصلاح سیاست‌های خود شده تا امنیت نوجوانان در تعامل با فناوری‌های هوش مصنوعی تضمین شود.
