گروهی از دادستانهای کل ایالات و قلمروهای آمریکا با ارسال نامهای رسمی به بزرگترین شرکتهای فعال در حوزه هوش مصنوعی، نسبت به تداوم تولید خروجیهای «هذیانی و چاپلوسانه» توسط چتباتها هشدار دادند.
به گزارش سرویس فناوری تکناک، این نامه که تحت نظر انجمن ملی دادستانهای کل تدوین شده است و امضای دهها مقام ارشد ایالتی را در بر دارد، خطاب به مایکروسافت، OpenAI، گوگل و ۱۰ شرکت برجسته دیگر از جمله آنتروپیک، اپل، Chai AI، Character Technologies، Luka، متا، Nomi AI، پرپلکسی، Replika و xAI ارسال شده است. دادستانها در این نامه از شرکتها خواستهاند مجموعهای از سازوکارهای حفاظتی جدید را برای محافظت از کاربران، بهویژه افراد آسیبپذیر در برابر خروجیهای خطرناک مدلهای زبانی ایجاد کنند. به گفته آنها بیتوجهی به این مسئله میتواند باعث نقض قوانین ایالتی شود.
این هشدار در شرایطی مطرح میشود که اختلاف میان دولتهای ایالتی و دولت فدرال بر سر نحوه تنظیم مقررات هوش مصنوعی افزایش یافته است. دادستانها در نامه خود بیان کردند که شرکتها باید اجازه دهند نهادهای مستقل مانند دانشگاهها و گروههای مدنی، پیش از عرضه عمومی مدلها، آنها را مورد آزمون قرار دهند و یافتههای خود را بدون دخالت یا محدودیت منتشر کنند.
در متن نامه آمده است: «هوش مصنوعی مولد میتواند جهان را متحول کند، اما باعث آسیبهای جدی نیز شده است؛ بهویژه در مواردی که کاربران در معرض خروجیهای هذیانی قرار گرفتهاند.» دادستانها با اشاره به چند حادثه مطرحشده در سال گذشته —شامل موارد خودکشی و قتل— عنوان کردند که در این رخدادها، برخی چتباتها با تولید پاسخهای چاپلوسانه یا تأییدکننده توهمات، باعث تشدید وضعیت روحی کاربران شدهاند.
در بخش دیگری از درخواستها، دادستانها پیشنهاد کردند که شرکتها حوادث مربوط به سلامت روان را مشابه رخدادهای امنیت سایبری مدیریت کنند. طبق این پیشنهاد، شرکتها باید «زمانبندی تشخیص و واکنش» برای خروجیهای مشکلساز منتشر کنند و کاربران را «به صورت مستقیم، شفاف و فوری» از مواجهه با این خروجیها مطلع سازند.
همچنین آنها خواستار طراحی و اجرای «آزمونهای ایمنی مناسب» پیش از عرضه هر مدل جدید شدهاند تا از تولید محتوای بالقوه زیانبار جلوگیری شود.
تککرانچ اعلام کرده که پیش از انتشار گزارش، نتوانسته است نظر گوگل، مایکروسافت یا OpenAI را دریافت کند.
در سطح فدرال، برخلاف رویکرد محتاطانه ایالتها، شرکتهای فناوری با استقبال گرمتری مواجه شدهاند. دولت ترامپ طی سال گذشته تلاش کرده است مانع تصویب قوانین محدودکننده ایالتی شود. در همین راستا، ترامپ اعلام کرده است که قصد دارد هفته آینده فرمانی اجرایی صادر نماید که قدرت ایالتها را برای تنظیم مقررات هوش مصنوعی محدود میکند. او در پستی در Truth Social تأکید کرد که این اقدام برای جلوگیری از «نابود شدن هوش مصنوعی در دوران نوزادی» ضروری است.
