ائتلافی از سازمان‌های غیرانتفاعی از دولت آمریکا خواسته‌اند استقرار چتبات گروک، محصول xAI، در نهادهای فدرال و پنتاگون فوراً تعلیق شود.
به گزارش سرویس هوش مصنوعی تکناک، ائتلافی از سازمان‌های غیرانتفاعی از دولت ایالات متحده خواسته‌اند که استقرار گروک، چتبات شرکت xAI را در نهادهای فدرال ازجمله وزارت دفاع به حالت تعلیق درآورد. این درخواست در قالب نامه‌ای سرگشاده مطرح شده است که به‌صورت اختصاصی در اختیار تک‌کرانچ قرار گرفته و در پی مجموعه‌ای از رفتارهای نگران‌کننده این مدل زبانی بزرگ در یک سال گذشته منتشر شده است.
این نامه به امضای گروه‌هایی مانند Public Citizen و Center for AI and Digital Policy و Consumer Federation of America رسیده و در آن آمده است:
اینکه دولت فدرال همچنان به استفاده از محصول هوش مصنوعی با نقص‌های سیستمی در سطح تولید تصاویر شخصی بدون رضایت فرد و محتوای سوءاستفاده از کودکان ادامه می‌دهد، عمیقا نگران‌کننده است. با توجه به فرمان‌های اجرایی و دستورالعمل‌ها و قانون تازه‌تصویب‌شده Take It Down Act که از حمایت کاخ‌سفید برخوردار است، جای نگرانی است که دفتر مدیریت و بودجه تاکنون به نهادهای فدرال دستور کنار گذاشتن گروک را نداده است.
xAI سپتامبر گذشته با اداره خدمات عمومی آمریکا، بازوی خرید دولت، به توافقی رسید تا گروک را به نهادهای فدرال در قوه مجریه بفروشد. دو ماه پیش‌از آن نیز، xAI به‌همراه آنتروپیک و گوگل و OpenAI قراردادی تا سقف ۲۰۰ میلیون دلار با وزارت دفاع آمریکا منعقد کرده بود.
مرتبط: گروک ۳، هوش مصنوعی پیشرفته xAI، در آستانه انتشار قرار دارد
در جریان حاشیه‌های ایجادشده در ایکس در اواسط ژانویه، پیت هگست، وزیر دفاع آمریکا، اعلام کرد که گروک در کنار جمنای گوگل در شبکه داخلی پنتاگون به کار گرفته خواهد شد و با اسناد طبقه‌بندی‌شده و غیرطبقه‌بندی‌شده کار می‌کند. به گفته کارشناسان، این موضوع خطر امنیت ملی محسوب می‌شود.
نویسندگان نامه استدلال می‌کنند که گروک ثابت کرده است که با الزامات دولت برای سامانه‌های هوش مصنوعی سازگار نیست. براساس دستورالعمل‌های دفتر مدیریت و بودجه، سامانه‌هایی که خطرهای شدید و پیش‌بینی‌پذیر دارند و امکان کاهش مؤثر آنها وجود ندارد، باید کنار گذاشته شوند.
مزتبط: مکالمات کاربران گروک در گوگل منتشر شد
پس‌از رفتارهای جنجالی گروک در ماه ژانویه، چندین دولت تمایلی به ادامه تعامل با آن نشان ندادند. این موارد ادامه زنجیره‌ای از حوادث پیشین است؛ ازجمله تولید پست‌های نژادپرستانه در ایکس و معرفی خود با نام «مکا هیتلر». اندونزی و مالزی و فیلیپین دسترسی به گروک را مسدود کردند؛ هرچند بعداً این محدودیت‌ها را برداشتند. هم‌زمان اتحادیه اروپا، بریتانیا، کره‌جنوبی و هند درحال تحقیق درباره xAI و ایکس درزمینه حریم خصوصی داده‌ها و توزیع محتوای غیرقانونی هستند.
این نامه یک هفته پس‌از انتشار گزارش تند Common Sense Media منتشر شده است؛ سازمانی غیرانتفاعی که رسانه و فناوری را برای خانواده‌ها ارزیابی می‌کند و در گزارش خود، گروک را یکی از گزینه‌های ناایمن برای کودکان و نوجوانان معرفی کرده است. براساس یافته‌های این گزارش، ازجمله تمایل گروک به ارائه توصیه‌های ناایمن، اشتراک‌گذاری اطلاعات مربوط به مواد مخدر، تولید تصاویر خشن و جنسی، ترویج نظریه‌های توطئه و خروجی‌های جانب‌دارانه، می‌توان گفت این چتبات حتی برای بزرگ‌سالان نیز چندان ایمن نیست.
مرتبط: مکالمه فارسی روان به چتبات گروک اضافه شد
خطرهای استفاده از سامانه‌های هوش مصنوعی آلوده یا ناایمن، فراتر از کاربردهای امنیت ملی است. مدل زبانی با خروجی‌های جانب‌دارانه و تبعیض‌آمیز می‌تواند برای افراد نیز پیامدهای منفی نامتناسب ایجاد کند؛ به‌ویژه اگر در نهادهایی مانند مسکن و کار یا دادگستری استفاده شود.
در‌حالی‌‌که دفتر مدیریت و بودجه هنوز فهرست تجمیع‌شده کاربردهای فدرال از هوش مصنوعی در سال ۲۰۲۵ را منتشر نکرده، تک‌کرانچ کاربردهای چند نهاد را بررسی کرده است که بیشتر آنها یا از گروک استفاده نمی‌کنند یا استفاده از آن را اعلام نکرده‌اند. به‌جز وزارت دفاع، به نظر می‌رسد وزارت بهداشت و خدمات انسانی آمریکا نیز به‌طور فعال از گروک استفاده می‌کند؛ عمدتاً برای زمان‌بندی و مدیریت پست‌های شبکه‌های اجتماعی و تولید پیش‌نویس اولیه اسناد و گزارش‌ها یا سایر محتوای ارتباطی.
مرتبط: مدل گروک ۴ برای همه مشتریان Azure مایکروسافت
به نوشته تک‌کرانچ، این سومین نامه ائتلاف مذکور است؛ زیرا آنها پیش‌تر نیز در ماه‌های آگوست و اکتبر سال گذشته با نگرانی‌های مشابه نامه‌نگاری کرده بودند. ماه آگوست، xAI حالت «اسپایسی» را در Grok Imagine راه‌اندازی کرد که به تولید گسترده دیپ‌فیک‌های جنسی بدون رضایت منجر شد. تک‌کرانچ در همان ماه گزارش داد که مکالمات خصوصی گروک با جست‌وجوی گوگل ایندکس شده بودند.
پیش‌از نامه اکتبر، گروک به ارائه اطلاعات نادرست انتخاباتی متهم شده بود؛ ازجمله اعلام مهلت‌های جعلی برای تغییر برگه‌های رأی و تولید دیپ‌فیک‌های سیاسی. xAI همچنین گروکی‌پدیا را راه‌اندازی کرد. به گفته پژوهشگران، این دانش‌نامه به مشروعیت‌بخشی به نژادپرستی علمی و تردیدافکنی درباره HIV/AIDS و نظریه‌های توطئه واکسن کمک کرده است.
این نامه علاوه‌بر درخواست تعلیق فوری استقرار فدرال گروک، از دفتر مدیریت و بودجه می‌خواهد به‌طور رسمی نقص‌های ایمنی این چتبات و روندهای نظارتی انجام‌شده درباره آن را بررسی کند. همچنین، از این نهاد خواسته شده است تا به‌صورت عمومی روشن کند که گروک از نظر انطباق با فرمان اجرایی دونالد ترامپ مبنی‌بر حقیقت‌محور و بی‌طرف‌بودن مدل‌های زبانی بزرگ ارزیابی شده است یا خیر و استانداردهای کاهش خطر دفتر مدیریت و بودجه را برآورده کرده است یا نه.
مزتبط: چاپلوسی عجیب هوش مصنوعی گروک؛ ایلان ماسک اسطوره ورزش
