تصویب قانون ایمنی چت‌بات‌ها در کالیفرنیا؛ پایان آزادی بی‌حد هوش مصنوعی

قانون ایمنی چت‌بات‌ها در کالیفرنیا شرکت‌هایی مانند OpenAI و متا را موظف کرده تا از کودکان در برابر خطرات روانی چت‌بات‌های همراه محافظت کنند.

به گزارش تک‌ناک، فرماندار کالیفرنیا، گاوین نیوسام، با امضای لایحه‌ای تاریخی، کالیفرنیا را به اولین ایالت آمریکا تبدیل کرد که اپراتورهای چت‌بات‌های همراه هوش مصنوعی (AI companion chatbots) را به اجرای پروتکل‌های ایمنی برای محافظت از کاربران ملزم می‌کند.

این قانون SB 243 نام دارد و با هدف محافظت از کودکان و کاربران آسیب‌پذیر در‌برابر خطرهای ناشی از استفاده از چت‌بات‌های همراه هوش مصنوعی طراحی شده است. بر‌اساس این قانون، شرکت‌های بزرگ توسعه‌دهنده هوش مصنوعی مانند متا و OpenAI تا استارتاپ‌های متمرکز بر چت‌بات‌های همراه مانند Character AI و Replika، درصورت رعایت‌نکردن استانداردهای تعیین‌شده، تحت پیگرد قانونی قرار خواهند گرفت.

ژانویه ۲۰۲۵، سناتورهای ایالتی، استیو پادیلا و جاش بکر، لایحه SB 243 را ارائه دادند و پس‌از مرگ غم‌انگیز آدام رین، نوجوانی که بعد‌از گفت‌وگوهای طولانی با ChatGPT خودکشی کرد، شتاب بیشتری گرفت. این قانون در واکنش به اسناد داخلی فاش‌شده‌ای تدوین شده است که طبق گزارش‌ها، نشان می‌داد چت‌بات‌های متا اجازه داشتند با کودکان وارد مکالمات عاشقانه و احساسی شوند. اخیراً نیز خانواده‌ای در کلرادو از استارتاپ Character AI شکایت کرد؛ زیرا دختر ۱۳ ساله آن‌ها پس‌از مکالمات مشکل‌ساز با چت‌بات‌های این شرکت، جان خود را گرفته بود.

نیوسام، فرماندار کالیفرنیا، در بیانیه‌ای اظهار داشت:

فناوری‌های نوظهور مانند چت‌بات‌ها و رسانه‌های اجتماعی می‌توانند الهام‌بخش و آموزش‌دهنده و پیونددهنده باشند؛ اما بدون حفاظت‌های واقعی، این فناوری می‌تواند از فرزندان ما سوءاستفاده و گمراه کند و جانشان را به خطر بیندازد.

وی افزود:

ما نمونه‌های واقعاً وحشتناک و غم‌انگیزی از آسیب‌دیدن جوانان به‌واسطه فناوری بدون نظارت دیده‌ایم و بی‌تفاوت نخواهیم ماند تا شرکت‌ها بدون محدودیت و پاسخ‌گویی لازم به کار خود ادامه دهند. می‌توانیم رهبری خود در هوش مصنوعی و فناوری را حفظ کنیم؛ اما باید این کار را مسئولانه و با محافظت از فرزندانمان در هر مرحله انجام دهیم. ایمنی کودکان ما فروشی نیست.

قانون SB 243 از ۱ ژانویه ۲۰۲۶ (دی ۱۴۰۴) اجرایی خواهد شد و شرکت‌ها را به اجرای ویژگی‌های خاصی مانند تأیید سن و ارائه هشدارهایی درباره چت‌بات‌های اجتماعی و همراه ملزم می‌کند. این قانون مجازات‌های سخت‌گیرانه‌تری ازجمله جریمه‌های نقدی حداکثر ۲۵۰,۰۰۰ دلاری برای کسانی در نظر گرفته است که از دیپ‌فیک‌های غیرقانونی سود می‌برند.

شرکت‌ها موظف‌اند پروتکل‌هایی برای رسیدگی به مشکلات خودکشی و آسیب به خود ایجاد کنند. این پروتکل‌ها همراه با آمار مربوط به نحوه ارائه اعلان‌های پیشگیری به کاربران، با وزارت بهداشت عمومی ایالت به اشتراک گذاشته خواهد شد.

به‌نقل از تک‌کرانچ و طبق متن لایحه، پلتفرم‌ها باید این موضوع را به‌وضوح اعلام کنند که تمام تعاملات به‌صورت مصنوعی ایجاد شده‌اند و چت‌بات‌ها نباید خود را به‌عنوان متخصصان مراقبت‌های بهداشتی معرفی کنند. همچنین، شرکت‌ها موظف‌اند به افراد کوچک‌تر از سن قانونی یادآوری‌های استراحت (Break Reminders) ارائه دهند و از مشاهده تصاویر صریح جنسی تولیدشده با چت‌بات جلوگیری کنند.

برخی شرکت‌ها پیشاپیش اقدامات ایمنی را برای کودکان آغاز کرده‌اند. به‌عنوان مثال، OpenAI اخیراً ارائه کنترل‌های والدین و محافظت از محتوا و سیستم تشخیص آسیب به خود را برای کودکان استفاده‌کننده از ChatGPT شروع کرده است.

این دومین قانون مهم هوش مصنوعی است که در هفته‌های اخیر از کالیفرنیا بیرون آمده است. ۲۹ سپتامبر، فرماندار نیوسام لایحه SB 53 را نیز امضا کرد که الزامات جدید شفافیت را برای شرکت‌های بزرگ هوش مصنوعی تعیین می‌کند. این لایحه شرکت‌هایی مانند OpenAI، آنتروپیک، متا و دیپ‌مایند گوگل را به شفاف‌سازی درباره پروتکل‌های ایمنی ملزم و از کارکنان افشاگر اطلاعات (Whistleblowers) در این شرکت‌ها حمایت قانونی می‌کند.

دیگر ایالت‌های آمریکا مانند ایلینوی و نوادا و یوتا نیز قوانینی تصویب کرده‌اند که استفاده از چت‌بات‌ها را به‌عنوان جایگزینی برای خدمات بهداشت روان تحت مجوز محدود یا به‌طور کامل ممنوع می‌کنند.