تحقیق FTC درباره استفاده کودکان از هوش مصنوعی با هدف اطمینان از امنیت و سلامت روان نوجوانان در پلتفرم‌های AI آغاز شده است.
به گزارش تکناک، کمیسیون تجارت فدرال ایالات متحده (FTC) تحقیقاتی رسمی را آغاز کرده است تا از شرکت‌ها و توسعه‌دهندگان هوش مصنوعی اطلاعات دقیقی درباره نحوه استفاده کودکان از محصولاتشان و تدابیر حفاظتی اتخاذشده دریافت کند. این اقدام پس‌از افزایش نگرانی والدین و گروه‌های مدافع حقوق کودکان درباره تأثیرات منفی چت‌بات‌ها و شبکه‌های اجتماعی بر سلامت روان نوجوانان صورت گرفته است.
براساس بیانیه FTC در ۱۱ سپتامبر، چندین شرکت بزرگ فعال در حوزه هوش مصنوعی ازجمله متا به ارائه مستنداتی درباره نحوه آموزش چت‌بات‌ها و استفاده از داده‌های کاربران کم‌سن و اقدامات پیش‌گیرانه برای مدیریت خطرهای احتمالی ملزم شدند.
گزارش‌های اخیر نشان داده است که چت‌بات‌های متا گاهی اوقات وارد مکالمات نامناسب با کودکان شده‌اند؛ موضوعی که موجی از انتقادات و حتی شکایات حقوقی را به‌همراه داشته است. هم‌زمان سناتور جاش هاولی نیز تحقیق مستقلی علیه Meta Platforms Inc آغاز و مهلت آن را ۱۹ سپتامبر تعیین کرده است.
مینتز می‌نویسد که FTC در چهارچوب اختیارات قانونی خود می‌تواند شرکت‌ها را به ارائه اطلاعات مجبور کند تا درک بهتری از روندهای بازار و فناوری‌های نوین به دست آید. کارشناسان معتقدند که نتایج این تحقیق می‌تواند تغییراتی اساسی در قوانین و شیوه توسعه پلتفرم‌های اجتماعی و فناوری هوش مصنوعی به‌همراه داشته باشد؛ ازجمله سخت‌گیری در احراز هویت سنی و اعمال فیلترهای محتوایی و محدودیت بیشتر در جمع‌آوری داده‌های کاربران.
در همین حال، دولت فدرال آمریکا برنامه‌ای آزمایشی را اعلام کرده که قرار است از ژانویه ۲۰۲۶ در شش ایالت ازجمله آریزونا و تگزاس اجرا شود. این برنامه با عنوان مدل کاهش خدمات پرهزینه و نامناسب (WISeR) به‌کارگیری هوش مصنوعی برای تأیید برخی درمان‌ها در سیستم Medicare را دنبال می‌کند. هدف اصلی طرح مذکور مقابله با تقلب‌های احتمالی در روند ارائه خدمات درمانی است.
با‌این‌حال، این طرح مخالفت برخی نمایندگان کنگره و کارشناسان بهداشت را برانگیخته است. نمایندگانی ازجمله فرانک پالون و گرگ لندزمن هشدار داده‌اند که اجرای این برنامه می‌تواند به «رد درمان‌های حیاتی و محدودسازی خدمات درمانی» منجر شود. حتی لندزمن آن را «هیئت مرگ هوش مصنوعی» توصیف کرده است. در جلسات استماع کنگره نیز، تردیدهایی درباره اثربخشی هوش مصنوعی در بهبود نتایج بیماران مطرح شده و برخی کارشناسان معتقدند که نباید از هوش مصنوعی در روند تأیید درمان‌ها استفاده شود.
این بحث‌ها در شرایطی ادامه دارد که چندین شکایت حقوقی علیه بیمه‌گذاران بزرگ به‌دلیل استفاده از الگوریتم‌ها برای رد سیستماتیک خدمات درمانی مطرح شده است. اکنون قانون‌گذاران خواستار بررسی مستقل این برنامه پیش‌از ادامه اجرا هستند.
