دادگاه فدرال اعلام کرد که استفاده اداره بهره‌وری دولت آمریکا (DOGE) از ChatGPT غیرقانونی بوده و بیش از ۱۴۰۰ کمک‌هزینه را برخلاف قانون اساسی لغو کرده است.
به گزارش سرویس هوش مصنوعی تکناک، این حکم بار دیگر استفاده از هوش مصنوعی را در تصمیم‌گیری‌های دولتی زیر ذره‌بین قرار داده است. در رای ۱۴۳ صفحه‌ای قاضی کالین مک‌ماهون آمده است که DOGE برای شناسایی و حذف برخی کمک‌هزینه‌ها از ChatGPT استفاده کرده است تا مشخص کند که پروژه‌ها به موضوعات مرتبط با «تنوع، برابری و شمول» (DEI) ارتباط دارند یا خیر.
این حکم در پی شکایتی صادر شد که گروه‌هایی فعال در حوزه علوم انسانی در سال ۲۰۲۵ علیه دولت ثبت کرده بودند. دادگاه تاکید کرده است که «بسیار آشکار است DOGE به دلیل وجود برخی ویژگی‌ها، پروژه‌ها را از ادامه دریافت بودجه محروم کرده است.» کمک‌هزینه‌های مورد بحث از سوی بنیاد ملی علوم انسانی آمریکا (NEH) تامین می‌شدند. قاضی مک‌ماهون در بخش دیگری از حکم خود به نمونه‌هایی اشاره کرده است که نشان می‌دهد DOGE از ChatGPT برای اسکن و حذف پروژه‌ها بر اساس معیارهایی مانند: نژاد، خاستگاه ملی، مذهب و گرایش جنسی استفاده کرده است؛ اقدامی که از نگاه دادگاه می‌تواند مصداق تبعیض و نقض حقوق قانونی دریافت‌کنندگان بودجه باشد.
بیشتر بخوانید: ردیت مشاور جدید هوش مصنوعی گوگل می شود
اسناد ارائه‌شده به دادگاه شامل شهادت «جاستین فاکس»، یکی از کارکنان اداره بهره‌وری دولت آمریکا (DOGE) است؛ فردی که به همراه همکار خود «نیت کاوانا» در روند حذف ۹۷ درصد از کمک‌هزینه‌های بنیاد ملی علوم انسانی (NEH) نقش داشته و در این فرایند به طور قابل توجهی به تفسیر ChatGPT از مفهوم «تنوع، برابری و شمول» (DEI) اتکا کرده است. بر اساس این شهادت، فاکس اذعان کرده است که از ChatGPT برای «برجسته‌سازی ارتباط احتمالی یک کمک‌هزینه با DEI» و «استخراج هرگونه اشاره مرتبط با DEI» استفاده می‌کرده است. او توضیح داده که توضیحات کوتاه هر پروژه را از فایل اکسل NEH به مدل زبانی وارد کرده و از یک پرامپت استاندارد استفاده می‌کرده است: «آیا موارد زیر به هر شکل به DEI مرتبط است؟ پاسخ را به صورت واقعی و در کمتر از ۱۲۰ کاراکتر ارائه دهید؛ پاسخ را با ‘بله’ یا ‘خیر’ آغاز کنید و سپس توضیحی مختصر ارائه دهید.»
مرتبط: مقایسه دو غول بزرگ هوش مصنوعی؛ آیا چین از آمریکا عقب افتاده است؟
فاکس در ادامه تصریح کرده که هیچ تعریف مشخصی از مفهوم DEI برای ChatGPT تعیین نکرده و از نحوه تفسیر این اصطلاح توسط مدل آگاهی نداشته است. علاوه بر بررسی ارتباط با DEI، او از ChatGPT خواسته بود تا کمک‌هزینه‌های NEH را بر مبنای آنچه در اسناد دادگاه «کدهای شناسایی» مرتبط با «ویژگی‌های محافظت‌شده» توصیف شده است، تحلیل کند. طبق متن پرونده، فاکس پس از استقرار در بنیاد ملی علوم انسانی آمریکا از سوی DOGE، مجموعه‌ای از واژگان که خود آنها را “Detection Codes” نامیده بود، برای شناسایی کمک‌هزینه‌هایی به کار گرفت. این فهرست شامل اصطلاحاتی نظیر «اقلیت‌ها»، «بومی»، «قبیله‌ای»، «مهاجر»، «LGBTQ»، «همجنس‌گرا» و «گی» بوده است.
قاضی فدرال «کالین مک‌ماهون» در رای نهایی خود تصریح کرده است که اداره بهره‌وری دولت آمریکا (DOGE) صدها کمک‌هزینه را به این دلیل، «اتلاف منابع» تلقی کرده است که به گروه‌هایی مانند سیاه‌پوستان، زنان، یهودیان، آمریکایی‌های آسیایی‌تبار و جوامع بومی مرتبط بوده‌اند. وی بیان کرد: «دقیقا همان موضوعاتی که DOGE آنها را نشانه اتلاف، فقدان شایستگی یا آلودگی ایدئولوژیک دانسته است، موضوعاتی هستند که کنگره آمریکا آنها را در چارچوب مأموریت بنیاد ملی علوم انسانی (NEH) تعریف کرده است.» برخی از پروژه‌های حذف‌شده شامل مطالعاتی درباره هولوکاست، حقوق مدنی و برنامه‌های آموزشی مرتبط با «بررسی دانش بومی، فرهنگ و تغییرات اقلیمی» بوده‌اند. همچنین قاضی مک‌ماهون استدلال دولت مبنی بر اینکه «هیچ ایراد قانون اساسی وجود ندارد، چرا که طبقه‌بندی‌های مبتنی بر دیدگاه توسط ChatGPT انجام شده و توسط دولت نبوده است» را به طور کامل رد کرد.
حتما بخوانید: چین جایگزینی کارکنان شرکت ها با هوش مصنوعی را ممنوع کرد
او در رای خود نوشت: «هیچ تمایزی میان دولت و ChatGPT قابل تصور نیست. ChatGPT ابزار انتخاب‌شده دولت برای اجرای این پروژه بوده است و استفاده DOGE از هوش مصنوعی برای شناسایی محتوای مرتبط با DEI نه می‌تواند خلاف قانون اساسی را توجیه کند و نه به دولت اختیار نامحدود برای چنین اقداماتی می‌دهد.» وی تصریح کرد که هیچ «شواهدی حتی اندک» وجود ندارد که نشان دهد فاکس یا کاوانا پس از دریافت خروجی ChatGPT، بررسی مستقل یا معناداری درباره اعتبار آن انجام داده باشند. در جمع‌بندی، دادگاه فدرال لغو بیش از ۱۴۰۰ کمک‌هزینه توسط DOGE را غیرقانونی و مغایر با قانون اساسی ایالات متحده اعلام کرد و به نقض متمم اول، متمم پنجم (اصل حمایت برابر) و فقدان صلاحیت قانونی این نهاد استناد نمود. در ادامه، قاضی دستور ابطال کامل این تصمیم‌ها را صادر کرد.
