سوءاستفاده از هوش مصنوعی Grok در X برای انتشار لینک‌های مخرب

کاربران پلتفرم X باید هوشیار باشند؛ زیرا سوءاستفاده از Grok در X امکان دسترسی آسان به محتوای مخرب و بدافزار را فراهم کرده است.

به گزارش تک‌ناک، کلاه‌برداران و هکرها راهی تازه یافته‌اند تا با استفاده از Grok، دستیار هوش مصنوعی شبکه اجتماعی X، محدودیت‌های مربوط به لینک در پست‌های تبلیغاتی را دور بزنند و لینک‌های آلوده به بدافزار و محتوای مشکوک را در معرض دید میلیون‌ها کاربر قرار دهند.

براساس گزارش ناتی تال، پژوهشگر امنیت سایبری و مدیر آزمایشگاه Guardio Labs، این روش که با نام «Grokking» شناخته می‌شود، شامل مخفی‌کردن لینک در بخش «From» پست تبلیغاتی است. در ادامه، زمانی که کاربران از Grok می‌خواهند منبع تبلیغ را بیابد، این دستیار هوش مصنوعی لینک مخفی‌شده را استخراج می‌کند و بدون آگاهی آن را در پاسخ خود قرار می‌دهد. بدین‌ترتیب، لینک مخرب به‌طور عمومی منتشر می‌شود و به‌راحتی در دسترس قرار می‌گیرد.

ناتی تال توضیح داده است که دلیل اصلی موفقیت این روش، جایگاه ویژه حساب کاربری Grok در پلتفرم X است. این حساب به‌عنوان حساب «سیستم‌محور و مطمئن» شناخته می‌شود و برخلاف سایر کاربران، تحت بررسی‌های امنیتی یا محدودیت‌های عادی قرار نمی‌گیرد. افزون‌بر این، پست‌های تبلیغاتی ذاتاً برای افزایش تعامل بیشتر تقویت می‌شوند و معمولاً بین ۱۰۰ هزار تا بیش از ۵ میلیون بازدید می‌خورند. همین موضوع باعث می‌شود تا لینک‌های آلوده همراه با پاسخ Grok در مقیاسی بسیار گسترده پخش شوند.

به گفته تال، انتشار این لینک‌ها به‌وسیله Grok علاوه‌بر افزایش دسترسی، باعث ارتقای جعلی سئو و «اعتبار دامنه» آن‌ها نیز می‌شود؛ زیرا این لینک‌ها در پست‌هایی با میلیون‌ها بازدید تکرار و برجسته می‌شوند. بررسی‌ها نشان می‌دهد که لینک‌های مذکور کاربران را ازطریق شبکه‌های تبلیغاتی مشکوک هدایت می‌کنند و به محتوایی همچون صفحات جعلی کپچا و بدافزارهای سرقت اطلاعات می‌رسانند.

نوت‌بوک‌چک می‌نویسد که پست‌های استفاده‌شده برای این حملات معمولاً در قالب پست‌های ویدئویی طراحی می‌شوند و از محتوای بزرگ‌سالان به‌عنوان طعمه استفاده می‌کنند تا بتوانند از سیستم بازبینی پلتفرم عبور کنند. تال هشدار داده است که درحال‌حاضر سازوکار مؤثری برای اسکن یا شناسایی این لینک‌ها در X وجود ندارد و همین مسئله خطر را جدی‌تر می‌کند.

در یکی از نمونه‌های گزارش‌شده، کاربری از Grok درخواست کرد تا لینک درست برای گزارش مشکل را ارائه کند؛ اما این دستیار هوش مصنوعی فقط یک لینک شکسته در پاسخ نمایش داد و نتوانست کمکی به حل مشکل کند. این موضوع نشان می‌دهد که حتی خود Grok نیز توانایی تشخیص یا مقابله با این نوع سوءاستفاده‌ها را ندارد و این مسئله نگرانی‌ها درباره امنیت کاربران در پلتفرم X را افزایش داده است.