خطر جدی چت بات‌‌ های هوش مصنوعی برای کودکان!

01

از 02

چارچوبی برای چت بات هوش مصنوعی ایمن

دکتر کوریان استدلال می‌کند که پتانسیل عظیم هوش مصنوعی به معنای نیاز به یک نوآوری مسئولانه است.

کوریان تصریح کرد: «به احتمال زیاد کودکان نادیده گرفته‌ترین سهامداران هوش مصنوعی هستند. در حال حاضر تعداد بسیار کمی از توسعه‌دهندگان و شرکت‌ها، سیاست‌های ثابت‌شده‌ای در زمینۀ هوش مصنوعی ایمن برای کودکان دارند. این موضوع قابل درک است، چرا که مردم به تازگی شروع به استفاده از این فناوری در مقیاس وسیع به صورت رایگان کرده‌اند. امّا مردم باید در راستای کاهش خطر، کودکان خود را آگاه کنند، به دلیل اینکه شرکت‌ها پس از در معرض خطر قرار گرفتن کودکان، اصلاحات لازم را انجام می‌دهند.»

مطالعۀ کوریان مواردی را بررسی کرد که در آن تعاملات بین چت بات هوش مصنوعی و کودکان، یا محققان بزرگسالی که خود را به عنوان کودک نشان می‌دادند، خطراتی به همراه داشت. این موارد با استفاده از بینش‌های علوم کامپیوتر در مورد چگونگی عملکرد مدل‌های زبان بزرگ (LLM) در هوش مصنوعی محاوره‌ای، در کنار شواهدی در زمینۀ رشد شناختی، اجتماعی و عاطفی کودکان، تجزیه و تحلیل‌هایی را انجام داد.

02

از 02

چالش‌های شاخص هوش مصنوعی با کودکان

مدل‌های زبان بزرگ به عنوان طوطی‌ها توصیف شده‌اند و اشاره‌ای به این واقعیت دارد که آنها از احتمال آماری برای تقلید از الگوهای زبانی استفاده می‌کنند، بدون اینکه آنها را درک کنند.

این یعنی اگرچه چت‌ بات‌ها توانایی‌های زبانی قابل‌توجهی دارند، امّا امکان دارد نتوانند جنبه‌های انتزاعی، احساسی و غیرقابل پیش‌بینی مکالمه را به خوبی مدیریت کنند و این مشکلی است که کوریان آن را به عنوان یک شکاف در همدلی این چت‌ بات‌ها توصیف می‌کند. این چت‌ بات‌ها ممکن است در پاسخگویی به کودکانی که هنوز از نظر زبانی در حال رشد هستند و اغلب از الگوهای گفتاری غیرمعمول یا عبارات مبهم استفاده می‌کنند، مشکل داشته باشند. همچنین کودکان بیشتر از بزرگسالان تمایل دارند که اطلاعات شخصی حساس را مخفی نگه دارند.

کودکان بسیار بیشتر از بزرگسالان با چت‌ بات‌ها به گونه‌ای رفتار می‌کنند که گویی این چت‌ بات‌ انسان است. تحقیقات اخیر نشان می‌دهد که کودکان بیشتر در مورد سلامت روان خود با یک ربات با ظاهری دوستانه، نسبت به بزرگسالان صحبت می‌کنند.

مطالعۀ کوریان مشخص می‌کند که طراحی‌های دوستانه و واقعی بسیاری از چت بات‌های گفت‌وگو به طور مشابه کودکان را تشویق می‌کند به آنها اعتماد کنند، حتی اگر هوش مصنوعی احساسات یا نیازهای آنها را درک نکند.

کوریان تأکید کرد: «ساختن یک چت‌ بات به صورت انسانی می‌تواند به کاربر کمک کند تا از مزایای بیشتری بهره‌مند شود. امّا برای یک کودک، ترسیم یک مرز منطقی و سخت میان موضوعی که به نظر انسانی می‌رسد و این واقعیت که ممکن است چت‌ بات قادر به ایجاد پیوند عاطفی مناسب نباشد، بسیار سخت است.»

مطالعۀ او نشان می‌دهد که این چالش‌ها در موارد گزارش‌شده مانند: حوادث الکسا و MyAI، که در آن چت‌ بات‌ها پیشنهادهای متقاعدکننده امّا مضر ارائه می‌دهند، مشهود است. محققان در بررسی تعاملات بین کودکان و هوش مصنوعی توانستند نکاتی را که چت بات در مورد پنهان کردن الکل و مواد مخدر، همچنین مخفی کردن اسنپ چت از والدین به کودکان یاد داده بود، پیدا کنند.

تحقیق کوریان استدلال می‌کند که این موضوع به طور بالقوه برای کودکان گیج‌کننده و ناراحت‌کننده است، چرا که امکان دارد آنها در واقع به چت‌ بات مانند یک دوست اعتماد کنند. استفاده از چت‌ بات مخصوص کودکان اغلب غیررسمی است و نظارت ضعیفی دارد. تحقیقات انجام شده توسط سازمان غیرانتفاعی Common Sense Media نشان می‌دهد که 50 درصد دانش‌آموزان 12 تا 18 ساله از Chat GPT برای مدرسه استفاده کرده‌اند، امّا تنها 26 درصد از والدین از این موضوع آگاه هستند.

کوریان بیان کرد: «این شکاف در همدلی، پتانسیل این فناوری را نفی‌ نمی‌کند. هوش مصنوعی می‌تواند دوستی باورنکردنی برای کودکان باشد که با توجه به نیازهای آنها طراحی شود. بحث در مورد ممنوعیت هوش مصنوعی نیست، بلکه این است که چگونه آن را ایمن کنیم.»

این مطالعه چارچوبی از 28 سؤال را پیشنهاد می‌کند تا به مربیان، محققان، سیاستمداران، خانواده‌ها و توسعه‌دهندگان کمک کند تا ایمنی ابزارهای جدید هوش مصنوعی را ارزیابی و ارتقا دهند.

این چارچوب از توسعه‌دهندگان می‌خواهد که با همکاری نزدیک با مربیان، کارشناسان ایمنی کودک و خود کودکان در طول چرخۀ طراحی، رویکردی کودک‌محور برای طراحی داشته باشند و کوریان تأکید دارد که ارزیابی این فناوری‌ها از قبل بسیار مهم است.