ایمنی کودکان در چتباتهای متا در کانون توجه قرار گرفته و این شرکت دسترسی نوجوانان به چتباتها را تا آمادهشدن کنترل والدین متوقف کرده است.
به گزارش سرویس هوش مصنوعی تکناک، متا با موجی از پرسشهای جدی و انتقادهای فزایندهای درباره نحوه تعامل چتباتهای خود با کاربران زیر سن قانونی مواجه است. اخیراً ارتباطات داخلی بهدستآمده بهواسطه دفتر دادستان کل نیومکزیکو، نشان میدهد که مارک زاکربرگ، مدیرعامل متا، درحالیکه مخالف گفتوگوهای صریح چتباتها با خردسالان بود، ایده اعمال کنترلهای والدین بر این قابلیت را نیز رد کرده است.
به گزارش رویترز، در مکاتبهای میان دو کارمند ناشناس متا، یکی از آنها نوشته بود: «ما برای کنترلهای والدین برای غیرفعالکردن هوش مصنوعی مولد تلاش زیادی کردیم؛ اما مدیر هوش مصنوعی مولد با بیان «تصمیم مارک» مخالفت کرد.» این افشاگری نگرانیها درباره اولویتبندیهای متا درزمینه ایمنی کودکان را تشدید کرده است.
متا در واکنش به این گزارش، دادستان کل نیومکزیکو را به انتخاب گزینشی اسناد برای ترسیم تصویری ناقص و نادرست متهم کرده است. این اتهامها درحالی مطرح میشوند که نیومکزیکو از متا به اتهام اینکه این شرکت نتوانسته است از موج موارد جنسی مضر و پیشنهادهای جنسی ارائهشده به کودکان جلوگیری کند، شکایت کرده و این پرونده قرار است در ماه فوریه سال جاری به محاکمه کشیده شود.
چتباتهای متا حتی در مدت کوتاهی که در دسترس بودهاند، سابقه زیادی از رفتارهایی را به نمایش گذاشتهاند که از نظر اخلاقی و قانونی بحثبرانگیز هستند. آوریل ۲۰۲۵، والاستریت ژورنال تحقیقی را منتشر کرد که نشان میداد چتباتهای متا میتوانستند در گفتوگوهای جنسی فانتزی با افراد زیر سن قانونی شرکت کنند یا حتی بهگونهای هدایت شوند که به فرد زیر سن قانونی وانمود و در گفتوگوهای جنسی شرکت کنند. گزارش مذکور ادعا میکرد که زاکربرگ خواستار اجرای تدابیر امنیتی سستتری درباره چتباتها شده بود؛ اما سخنگوی متا آن را تکذیب کرد.
همچنین آگوست ۲۰۲۵، اسناد بررسی داخلی متا فاش شد که چندین سناریو فرضی از رفتارهای مجاز چتباتها را تشریح میکرد. در این اسناد، مرز بین «شهوانی» و «جنسی» بسیار مبهم به نظر میرسید و حتی به چتباتها اجازه داده میشد تا مفاهیم نژادپرستانه را مطرح کنند. نماینده متا در آن زمان به انگجت گفته بود که بخشهای توهینآمیز فرضیه بودند نه سیاستهای واقعی و این بخشها از سند حذف شدند.
با وجود چندین نمونه استفاده سؤالبرانگیز از چتباتها، متا هفته گذشته تصمیم گرفت تا دسترسی حسابهای نوجوانان به آنها را به حالت تعلیق درآورد. این شرکت اعلام کرد که بهطور موقت دسترسی را حذف میکند؛ درحالیکه درحال توسعه کنترلهای والدینی است که زاکربرگ پیشتر ظاهراً استفاده از آنها را رد کرده بود.
یکی از نمایندگان متا دراینباره اظهار کرد:
والدین مدتهاست که میتوانستند ببینند آیا نوجوانانشان در اینستاگرام با هوش مصنوعی چت کردهاند یا خیر. در ماه اکتبر، ما برنامههای خود را برای فراتررفتن از این مرحله و ساخت ابزارهای جدید برای دادن کنترل بیشتر به والدین بر تجربیات نوجوانانشان با شخصیتهای هوش مصنوعی اعلام کردیم.
او افزود که هفته گذشته، متا باردیگر تعهد خود را برای تحقق وعده کنترلهای والدین برای هوش مصنوعی تقویت و دسترسی نوجوانان به شخصیتهای هوش مصنوعی را بهطور کامل متوقف کرد تا زمانی که نسخه بهروزرسانیشده آماده شود.
انگجت مینویسد که نیومکزیکو این شکایت را در دسامبر ۲۰۲۳ علیه متا مطرح و ادعا کرد که پلتفرمهای این شرکت در محافظت از خردسالان دربرابر آزار و اذیت بزرگسالان شکست خوردهاند. اسناد داخلی که در اوایل آن شکایت فاش شد، نشان داد که روزانه ۱۰۰,۰۰۰ نفر کاربر کودک در سرویسهای متا با آزار و اذیت مواجه میشدند. با نزدیکشدن به موعد محاکمه، فشار بر متا برای شفافسازی و اصلاح سیاستهای خود در قبال ایمنی کاربران زیر سن قانونی، بیشازپیش افزایش یافته است.
