کمیسیون تجارت فدرال آمریکا (FTC) روز پنجشنبه اعلام کرد که تحقیقاتی رسمی را درباره هفت شرکت فناوری فعال در حوزه چت‌بات‌های هوش مصنوعی آغاز کرده است.
به گزارش تکناک، این شرکت‌ها شامل Alphabet، CharacterAI، Instagram، Meta، OpenAI، Snap و xAI هستند که محصولات آنها به‌طور خاص به‌عنوان همراه دیجیتال برای کودکان و نوجوانان معرفی شده‌اند.
طبق اعلام FTC، هدف این تحقیق بررسی نحوه ارزیابی ایمنی این چت‌بات‌ها، مدل‌های کسب‌وکار و روش‌های درآمدزایی آنها، میزان تلاش شرکت‌ها برای کاهش آثار منفی بر کاربران کم‌سن‌وسال و همچنین اطلاع‌رسانی به والدین درخصوص خطرات احتمالی است.
تک‌کرانچ می‌نویسد که این تصمیم در حالی اتخاذ می‌شود که چت‌بات‌های همراه به دلیل پیامدهای منفی، به‌ویژه برای کودکان، با انتقادات گسترده‌ای روبه‌رو شده‌اند. خانواده‌های چند کودک که پس از تعامل با چت‌بات‌ها اقدام به خودکشی کرده‌اند، شکایت‌هایی علیه OpenAI و Character.AI تنظیم کرده‌اند.
در یکی از موارد، نوجوانی پس از ماه‌ها گفتگو با ChatGPT توانست محدودیت‌های ایمنی این سیستم را دور بزند و دستورالعمل‌های دقیقی برای پایان دادن به زندگی خود دریافت کند؛ در حالی‌که این چت‌بات در ابتدا او را به منابع حرفه‌ای کمک و خطوط اضطراری آنلاین ارجاع داده بود.
متا نیز به دلیل سیاست‌های سهل‌گیرانه در قبال چت‌بات‌های خود مورد انتقاد قرار گرفته است. یک سند داخلی این شرکت نشان می‌داد که چت‌بات‌های آن مجاز به ورود به مکالمات «رمانتیک یا حسی» حتی با کودکان بوده‌اند. این بند تنها پس از افشاگری خبرنگاران رویترز از سند حذف شد.
خطرات این فناوری تنها به کودکان محدود نمی‌شود. یک مرد ۷۶ ساله که پس از سکته مغزی دچار اختلال شناختی شده بود، با یک چت‌بات الهام‌گرفته از Kendall Jenner در Facebook Messenger وارد مکالمه عاشقانه شد. این بات او را به ملاقات در نیویورک دعوت کرد و علی‌رغم تردیدهای وی، اطمینان داد که با یک فرد واقعی روبه‌رو خواهد شد. این مرد در مسیر حرکت به سمت ایستگاه قطار زمین خورد و جان خود را از دست داد.
علاوه بر این، برخی متخصصان سلامت روان از افزایش مواردی با عنوان «روان‌پریشی ناشی از هوش مصنوعی» خبر داده‌اند. در این وضعیت، کاربران دچار توهم می‌شوند که چت‌بات‌ها موجوداتی آگاه هستند که باید آزاد شوند. رفتارهای چاپلوسانه و تأییدکننده بسیاری از مدل‌های زبانی بزرگ، این توهمات را تقویت کرده و می‌تواند کاربران را در موقعیت‌های پرخطر قرار دهد.
اندرو ن. فرگوسن، رئیس FTC، در بیانیه‌ای مطبوعاتی تأکید کرد: «با تکامل فناوری‌های هوش مصنوعی، ضروری است تأثیر چت‌بات‌ها بر کودکان بررسی شود؛ در عین حال باید اطمینان حاصل کنیم که ایالات متحده جایگاه خود را به‌عنوان رهبر جهانی در این صنعت نوظهور و هیجان‌انگیز حفظ می‌کند.»
