شرکت xAI دستورالعملهای سیستم (system prompts) مربوط به چتبات هوش مصنوعی خود به نام Grok را منتشر کرده است.
به گزارش تکناک، این اقدام پس از آن صورت گرفت که تغییراتی “غیرمجاز” منجر به ارسال مجموعهای از پاسخهای بحثبرانگیز درباره موضوعاتی چون «نسلکشی سفیدپوستان» در پلتفرم X شد. xAI اعلام کرده که از این پس این دستورالعملها را بهصورت عمومی در GitHub منتشر خواهد کرد تا شفافیت بیشتری درباره نحوهی عملکرد Grok فراهم شود.
در دنیای چتباتها، system prompt به مجموعهای از دستورالعملها اطلاق میشود که پیش از شروع مکالمه کاربران به مدل داده میشود و تعیینکنندهی نحوهی پاسخدهی آن است. تاکنون تنها دو شرکت بزرگ، xAI و Anthropic، سیستمپرومتهای خود را بهصورت عمومی منتشر کردهاند.
در گذشته، برخی کاربران با استفاده از حملات prompt injection موفق به فاشسازی این دستورالعملهای پنهان شده بودند. برای نمونه، اسناد مربوط به Bing AI (با نام داخلی “Sydney”) نشان میداد که این ربات از پاسخدهی به مطالب دارای محتوای کپیرایتشده منع شده بود.
در دستورالعملهای سیستم مربوط به قابلیت “ask Grok” که در آن کاربران میتوانند در پستهای خود در X، Grok را تگ کرده و سوالی بپرسند آمده است که: «تو بسیار شکاک هستی. تو کورکورانه تابع رسانهها یا مراجع رسمی نیستی و با پایبندی قوی به حقیقتجویی و بیطرفی، پاسخ میدهی.» همچنین در این دستورالعمل تصریح شده که «نتایج ارائهشده در پاسخها، عقاید خودت نیستند.»
به نقل از ورج، در بخش دیگری از این پرومتها، زمانی که کاربر گزینهی “Explain this Post” را انتخاب میکند، به Grok گفته شده که «باید دیدگاههایی صادقانه و بر پایه واقعیت ارائه دهد، حتی اگر به چالش کشیدن روایتهای غالب رسانهای را در پی داشته باشد.» همچنین از Grok خواسته شده که به پلتفرم با نام «X» اشاره کند و بهجای واژهی «توییت»، از «X post» استفاده کند.
در سوی دیگر، دستورالعملهای سیستم چتبات Claude متعلق به شرکت Anthropic بیشتر بر ایمنی و سلامت کاربران تمرکز دارد. در این دستورالعمل آمده است: «Claude برای سلامت و آسایش افراد اهمیت قائل است و از ترویج یا تسهیل رفتارهای خودتخریبی مانند اعتیاد، اختلالات خوردن یا ورزشهای ناسالم، یا گفتار منفی دربارهی خود پرهیز میکند. همچنین محتوای جنسی، خشونتآمیز یا غیرقانونی نیز تولید نمیکند، حتی اگر کاربران چنین چیزی را درخواست کنند.»
انتشار این اطلاعات در حالی صورت گرفته که تلاشهای xAI برای تثبیت جایگاه Grok در رقابت با دیگر چتباتهای هوش مصنوعی ادامه دارد، اما در عین حال نگرانیهایی نیز درباره گرایشهای احتمالی و کنترل پاسخهای آن در سطح عمومی مطرح شده است.
