فهرست مطالب
بیشتر نوجوانان از چت‌بات‌های هوش مصنوعی استفاده می‌کنند و والدین برای مدیریت این ارتباط، بسته به پلتفرم انتخابی خود با امکانات و محدودیت‌های متفاوتی روبه‌رو هستند.
به گزارش سرویس هوش مصنوعی تکناک، استفاده نوجوانان از چت‌بات‌های هوش مصنوعی به بخش مهمی از زندگی دیجیتال آن‌ها تبدیل شده است. در نظرسنجی مؤسسه فورسا برای فدراسیون سازمان‌های مصرف‌کنندگان آلمان (vzbv) که در اکتبر ۲۰۲۶ انجام شد، ۹۳ درصد افراد ۱۴ تا ۲۵ ساله اعلام کردند که طی ۱۲ ماه گذشته حداقل یک بار از چت‌بات‌های هوش مصنوعی استفاده کرده‌اند. حدود ۲۸ درصد شرکت‌کنندگان نیز از این ابزارها برای گفت‌وگوهای شخصی استفاده می‌کنند.
افزایش این نوع تعاملات نگرانی‌هایی را درباره ایمنی نوجوانان حین استفاده از هوش مصنوعی ایجاد کرده است. فدراسیون سازمان‌های مصرف‌کنندگان آلمان پس از بررسی مکالمات کاربران با ChatGPT، Meta AI و My AI اسنپ‌چت دریافت که این چت‌بات‌ها در گفت‌وگوهای حساس می‌توانند احساس نزدیکی و صمیمیت انسانی ایجاد کنند. چنین رفتاری گاهی نوجوانان را به اعتماد بیش از حد به پاسخ‌های هوش مصنوعی سوق می‌دهد. این بررسی همچنین نشان داد که برخی از این ابزارها در موقعیت‌های حساس توصیه‌های خطرناکی ارائه می‌کنند.
شرکت‌های فعال در این حوزه برای پاسخ به نگرانی‌ها، سیاست‌های متفاوتی در پیش گرفته‌اند. برخی پلتفرم‌ها مجموعه‌ای از تنظیمات نظارتی را در اختیار والدین قرار می‌دهند و برخی دیگر صرفاً با تعیین حداقل سن، دسترسی افراد کم‌سن‌وسال را محدود می‌کنند. با وجود این تفاوت‌ها، یک محدودیت در بیشتر سرویس‌ها مشترک است: والدین معمولاً می‌توانند تنظیمات حساب فرزندانشان را مدیریت کنند یا هشدارهای ایمنی دریافت کنند، اما به متن کامل مکالمات آن‌ها دسترسی ندارند.
ChatGPT؛ گسترده‌ترین مجموعه ابزارهای کنترل والدین
ChatGPT در مقایسه با بسیاری از رقبای خود امکانات بیشتری برای مدیریت حساب نوجوانان ارائه می‌دهد. والدین برای استفاده از این قابلیت‌ها باید حساب کاربری خود را به حساب فرزندشان متصل کنند. طبق راهنمای رسمی OpenAI، این فرایند از بخش تنظیمات و کنترل والدین انجام می‌شود. یکی از طرفین می‌تواند دعوت‌نامه را از طریق ایمیل یا شماره تلفن برای طرف دیگر ارسال کند.
هر والد امکان اتصال حساب چند نوجوان را دارد، اما هر نوجوان در یک زمان فقط می‌تواند حساب خود را به حساب یک والد متصل کند. پس از برقراری این ارتباط، والدین می‌توانند برخی قابلیت‌های ChatGPT را غیرفعال کنند. حالت صوتی، تولید تصویر، حافظه‌های ذخیره‌شده و بخش سلامت از جمله امکاناتی هستند که امکان مدیریت آن‌ها وجود دارد.
قابلیت «ساعات سکوت» به والدین اجازه می‌دهد دسترسی به ChatGPT را در بازه‌های زمانی مشخص مسدود کنند. آن‌ها در صورت نیاز می‌توانند چند بازه زمانی مختلف برای اعمال این محدودیت تعیین کنند. این قابلیت برای خانواده‌هایی کاربرد دارد که می‌خواهند استفاده از چت‌بات را هنگام خواب، انجام تکالیف یا سایر فعالیت‌های روزانه محدود کنند.
قابلیت «ساعات مطالعه» عملکرد متفاوتی دارد. این گزینه مکالمات جدید را در حالت مطالعه آغاز می‌کند، اما دسترسی نوجوان به ChatGPT را مسدود نمی‌کند. بنابراین، هدف آن تغییر شیوه تعامل نوجوان با چت‌بات است و نقش محدودکننده زمانی را ندارد.
اتصال حساب والدین و نوجوان، تدابیر حفاظتی دیگری را نیز فعال می‌کند. OpenAI می‌گوید این تدابیر برای کاهش نمایش محتوای گرافیکی، چالش‌های وایرال خطرناک، نقش‌آفرینی‌های جنسی یا عاشقانه، نقش‌آفرینی خشونت‌آمیز و الگوهای افراطی زیبایی طراحی شده‌اند. همچنین اگر والدین بخش سلامت را غیرفعال کنند، داده‌های سلامت همگام‌سازی‌شده در این قسمت حذف می‌شوند.
یکی از تنظیمات مهم این بخش به استفاده از مکالمات برای بهبود مدل‌های هوش مصنوعی مربوط می‌شود. این گزینه حتی برای حساب‌های نوجوانانی که به حساب والدین متصل شده‌اند، به‌صورت پیش‌فرض فعال است. بنابراین، والدینی که تمایلی به استفاده از مکالمات فرزندشان برای بهبود مدل‌ها ندارند، باید این تنظیم را به‌صورت دستی غیرفعال کنند.
با وجود این امکانات، والدین نمی‌توانند متن گفت‌وگوهای نوجوانان را بخوانند. OpenAI به‌صراحت اعلام کرده است که کنترل‌های والدین امکان مشاهده یا نظارت مستقیم بر مکالمات را فراهم نمی‌کنند. این شرکت فقط در شرایط مشخصی هشدارهای ایمنی را از طریق ایمیل، پیامک یا اعلان تلفن همراه ارسال می‌کند.
برای مثال، اگر کارشناسان آموزش‌دیده نشانه‌های جدی خودآزاری یا اختلالات تغذیه‌ای را در مکالمات شناسایی کنند، ممکن است برای والدین هشدار ارسال شود. همچنین اگر ChatGPT به‌دلیل تهدیدهای خشونت‌آمیز، مکالمه‌ای را متوقف کند یا حساب کاربر را به حالت تعلیق درآورد، والدین از این اتفاق مطلع می‌شوند.
OpenAI تأکید می‌کند که این یک سیستم نظارت لحظه‌ای نیست و نمی‌تواند تمام موقعیت‌های خطرناک را شناسایی کند. افزون بر این، ChatGPT با بررسی الگوهای استفاده، سن احتمالی صاحب حساب را تخمین می‌زند. اگر درباره سن کاربر تردید داشته باشد، تجربه مخصوص نوجوانان را فعال می‌کند. در صورتی که سیستم بعداً تشخیص دهد کاربر ۱۸ سال یا بیشتر دارد، کنترل‌های والدین به‌طور خودکار پایان می‌یابند.
مؤسسه آمریکایی Common Sense Media نیز همچنان استفاده نوجوانان از ChatGPT را در سطح غیرقابل‌قبولی خطرناک می‌داند. این مؤسسه در آزمایش‌های خود مشاهده کرد که یک نوجوان توانسته است به‌مدت یک ساعت درباره خودآزاری با چت‌بات صحبت کند، بدون اینکه حتی یک هشدار برای والدین ارسال شود. این نتیجه نشان می‌دهد که وجود ابزارهای نظارتی لزوماً به معنای شناسایی تمام خطرها نیست.
Gemini، Meta AI و Copilot؛ محدودیت‌های متفاوت در نظارت
گوگل برای استفاده کودکان زیر ۱۳ سال از Gemini شرایط مشخصی در نظر گرفته است. والدین در برخی مناطق می‌توانند با استفاده از Family Link دسترسی این گروه سنی را فعال کنند، اما این امکان در منطقه اقتصادی اروپا، سوئیس و بریتانیا وجود ندارد. طبق راهنمای رسمی گوگل، برنامه‌های Gemini برای حساب‌هایی که تحت نظارت والدین قرار دارند، در این مناطق دردسترس نیستند.
گوگل برای حساب‌های آموزشی نیز سیاست جداگانه‌ای دارد. این شرکت اعلام کرده است که Gemini در حساب‌های مدارس به‌صورت پیش‌فرض غیرفعال خواهد بود و مسئولان آموزشی باید در صورت تمایل، دسترسی به آن را فعال کنند. به این ترتیب، استفاده دانش‌آموزان از این ابزار به تصمیم مدرسه وابسته خواهد بود.
متا رویکرد متفاوتی را انتخاب کرده است. این شرکت از آوریل ۲۰۲۶ به والدینی که قابلیت نظارت را در فیسبوک، مسنجر و اینستاگرام فعال کرده‌اند، اجازه داده است موضوعات کلی مکالمات نوجوانان با Meta AI را مشاهده کنند. این قابلیت از اکتبر به اپلیکیشن اختصاصی Meta AI نیز گسترش یافته است.
والدین در این بخش می‌توانند موضوعات مورد بحث فرزندشان طی هفت روز گذشته را بررسی کنند، اما متن واقعی مکالمات در اختیار آن‌ها قرار نمی‌گیرد. اپلیکیشن Meta AI برای نوجوانان نیز به‌صورت پیش‌فرض از تنظیمات محتوایی مناسب افراد بالای ۱۳ سال استفاده می‌کند. والدین در صورت تمایل می‌توانند این محدودیت‌ها را سخت‌گیرانه‌تر کنند.
متا همچنین برخی قابلیت‌های خود را برای کاربران کم‌سن‌وسال محدود کرده است. این شرکت در ژانویه ۲۰۲۶ دسترسی نوجوانان به شخصیت‌های هوش مصنوعی خود را متوقف کرد. اپلیکیشن جدید این شرکت با نام Muse نیز فقط برای بزرگسالان در نظر گرفته شده است.
مایکروسافت به افراد بالای ۱۳ سال اجازه استفاده از Copilot را می‌دهد. این شرکت اعلام کرده است که داده‌های کاربران کم‌سن‌وسال برای آموزش مدل‌های هوش مصنوعی یا ایجاد پروفایل‌های تبلیغاتی استفاده نمی‌شوند. والدین می‌توانند با کمک Microsoft Family Safety یا ابزارهای کنترل والدین اپل و گوگل، دسترسی به Copilot را مسدود کنند یا برای استفاده از آن محدودیت زمانی تعیین کنند.
همچنین امکان غیرفعال‌کردن قابلیت‌های جداگانه‌ای مانند تولید تصویر، حالت صوتی و گفت‌وگوهای گروهی وجود دارد. بااین‌حال، مجموعه امکانات نظارتی Copilot به گستردگی ابزارهای ChatGPT نیست و بخشی از مدیریت آن از طریق تنظیمات عمومی دستگاه انجام می‌شود.
Claude و Character.AI؛ تکیه بر محدودیت سنی
شرکت آنتروپیک برای مدیریت دسترسی نوجوانان به Claude رویکرد ساده‌تری دارد. این چت‌بات فقط برای بزرگسالان طراحی شده است و حساب‌هایی که نشانه‌هایی از استفاده افراد زیر سن قانونی داشته باشند، غیرفعال می‌شوند. بنابراین، Claude برخلاف ChatGPT مجموعه‌ای از ابزارهای کنترل والدین ارائه نمی‌دهد.
البته سیستم تشخیص سن ممکن است گاهی کاربران بزرگسال را نیز به‌اشتباه مسدود کند. افرادی که با چنین مشکلی روبه‌رو می‌شوند، می‌توانند سن خود را از طریق شرکت Yoti تأیید کنند. این فرایند با ارسال تصویر سلفی یا مدرک شناسایی انجام می‌شود. Anthropic اعلام کرده است که فقط نتیجه تأیید سن را دریافت می‌کند و به اطلاعات اضافی فرایند احراز هویت دسترسی ندارد.
Character.AI نیز دسترسی نوجوانان به بخشی از قابلیت‌های خود را محدود کرده است. این پلتفرم در نوامبر ۲۰۲۵ امکان گفت‌وگوهای آزاد با شخصیت‌های هوش مصنوعی را برای کاربران زیر ۱۸ سال حذف کرد. این محدودیت ابتدا در آمریکا اجرا شد و سپس به بازارهای دیگر گسترش یافت.
با این حال، نوجوانان همچنان می‌توانند محتوای موجود در Character.AI را مرور کنند و از ابزارهای خلاقانه این پلتفرم استفاده کنند. در نتیجه، سیاست این شرکت به معنای مسدودسازی کامل دسترسی افراد زیر ۱۸ سال نیست، بلکه تعامل آزاد با شخصیت‌های هوش مصنوعی را هدف قرار می‌دهد.
نقش تلفن‌های همراه و قوانین آینده در حفاظت از نوجوانان
والدین علاوه‌بر امکانات داخلی پلتفرم‌ها، می‌توانند از ابزارهای عمومی کنترل والدین در تلفن‌های همراه و تبلت‌ها استفاده کنند. با این حال، سیستم‌عامل‌های موبایل هنوز تنظیمات اختصاصی برای چت‌بات‌های هوش مصنوعی ارائه نمی‌دهند.
قابلیت Screen Time در iOS 27 و سرویس Family Link در اندروید، اپلیکیشن‌های هوش مصنوعی را مانند سایر برنامه‌ها مدیریت می‌کنند. والدین با استفاده از این ابزارها می‌توانند مدت‌زمان استفاده از یک برنامه را محدود کنند یا دسترسی به آن را به‌طور کامل ببندند.
این روش برای سرویس‌هایی که ابزار اختصاصی کنترل والدین ندارند، اهمیت بیشتری پیدا می‌کند. با این حال، مسدودکردن یک اپلیکیشن لزوماً دسترسی نوجوان به همان سرویس از طریق مرورگر را متوقف نمی‌کند. برای جلوگیری از چنین وضعیتی، والدین باید محدودیت‌های مرورگر را نیز بررسی کنند.
فدراسیون سازمان‌های مصرف‌کنندگان آلمان خواستار تدوین قوانین مشخص برای طراحی ایمن چت‌بات‌های هوش مصنوعی شده است. این نهاد معتقد است شرکت‌ها باید مسئولیت بیشتری در قبال ایمنی کاربران کم‌سن‌وسال بر عهده بگیرند. در نظرسنجی این فدراسیون، ۸۰ درصد شرکت‌کنندگان از تعیین حداقل سن ۱۳ سال برای استفاده از چت‌بات‌های هوش مصنوعی حمایت کرده‌اند.
طبق گزارش نوت‌بوک‌چک، کمیسیون اروپا نیز در سپتامبر ۲۰۲۶ پیشنهادهایی برای تدوین قوانین مربوط‌به همراهان هوش مصنوعی ارائه کرد. با این حال، روند بررسی و تصویب این پیشنهادها هنوز در مراحل اولیه قرار دارد و مشخص نیست چه زمانی به مقررات اجرایی تبدیل خواهند شد.
تا زمان تدوین قوانین جدید، مسئولیت اصلی مدیریت استفاده نوجوانان از این ابزارها همچنان بر عهده والدین است. فعال‌کردن تنظیمات کنترلی به‌تنهایی نمی‌تواند تمام خطرهای احتمالی را برطرف کند. والدین باید محدودیت‌های هر پلتفرم را بشناسند و درباره شیوه استفاده از هوش مصنوعی با فرزندان خود گفت‌وگو کنند.
بهترین روش، فعال‌کردن تنظیمات کنترل والدین با مشارکت خود نوجوان است. برای مثال، در ChatGPT نوجوان می‌تواند تنظیمات فعال را مشاهده کند و هر زمان که بخواهد اتصال حساب خود را به حساب والدین قطع کند. در چنین شرایطی، والدین از قطع ارتباط مطلع می‌شوند. این موضوع نشان می‌دهد که ابزارهای نظارتی باید در کنار آگاهی‌بخشی و گفت‌وگوی خانوادگی به کار گرفته شوند، نه اینکه جایگزین آن‌ها شوند.
