فهرست مطالب
گسترش عامل‌های هوش مصنوعی خطر حملات ایمیل‌های فیشینگ مبتنی بر تزریق دستورهای مخفی را افزایش داده است.
به گزارش سرویس هوش مصنوعی تکناک، شناسایی ایمیل‌های فیشینگ مشکوک معمولا دشوار نیست. این پیام‌ها اغلب با تقلید ناشیانه از سازمان‌های معتبر یا وعده پیشنهادهایی به‌ظاهر وسوسه‌کننده اما غیرواقعی، کاربران را به دام می‌اندازند تا اطلاعات هویتی آنها را سرقت کنند. با وجود این، عامل هوش مصنوعی شما ممکن است قدرت تشخیص چندانی نداشته باشد.
شرکت امنیت سایبری Malwarebytes در مطلبی تازه هشدار داده است که دستیارهای هوش مصنوعی در معرض حملات تزریق دستور قرار دارند. در این حملات، هکرها یا حتی عامل‌های هوش مصنوعی مخرب، دستورالعمل‌های پنهانی را در محتوای پیام‌ها جاسازی می‌کنند تا رفتار سامانه هوش مصنوعی قربانی را تحت تاثیر قرار دهند.
بیشتر بخوانید: تب سرمایه‌گذاری در هوش مصنوعی ممکن است فروکش کند
آسیب‌پذیری هوش مصنوعی در برابر ایمیل‌های فیشینگ
براساس توضیح Malwarebytes، این دستورها اغلب به‌گونه‌ای پنهان می‌شوند که برای انسان قابل خواندن نباشند، اما همچنان در دسترس سامانه هوش مصنوعی قرار بگیرند تا پردازش شوند. حل این مشکل با توصیه به کاربران برای بررسی دقیق‌تر ایمیل‌ها امکان‌پذیر نیست. شرکت‌های فناوری باید نحوه پیمایش داده‌ها توسط دستیارهای هوش مصنوعی و استخراج اطلاعات مرتبط از پیام‌های ایمیل را به‌دقت کنترل کنند.
Apollo Raines، توسعه‌دهنده سرویس بازبینی کد مبتنی بر هوش مصنوعی ShipItClean در گفت‌وگو با Malwarebytes توضیح داد: «نقص اصلی این است که مدل نمی‌تواند میان متنی که باید آن را بخواند و دستورالعملی که باید از آن پیروی کند، تمایز قائل شود.» او تاکید کرد که حذف محتوای پنهان پیش از ورود آن به مدل، اقدامی ضروری است و تمام ارائه‌دهندگان این فناوری باید چنین سازوکاری را پیاده‌سازی کنند.
حتما بخوانید: بانک‌ها درهای خود را به روی عامل‌های هوش مصنوعی بستند
از نظر Raines، کاربرانی که نسبت به ایمیل‌های فیشینگ محتاط هستند، باید در قبال دستیار هوش مصنوعی خود نیز رویکردی مبتنی بر بی‌اعتمادی محتاطانه در پیش بگیرند. آسیب‌پذیری مدل‌های هوش مصنوعی در برابر حملات تزریق دستور سال‌هاست که شناخته شده است. با وجود این، گسترش ابزارهای محبوب دستیار هوش مصنوعی، مانند Muse متعلق به متا، می‌تواند این تهدید را به سطحی جدی‌تر برساند.
عامل‌های خودمختار می‌توانند زنجیره‌ای از وظایف را بدون نظارت انسان اجرا کنند و در نتیجه، فرصت بیشتری برای سوءاستفاده از دستورهای مخرب پنهان‌شده در محتوا به وجود آورند. پژوهشگران پیش‌تر چنین نقصی را در مرورگرهای مجهز به هوش مصنوعی شناسایی کرده‌اند؛ محصولاتی که البته هنوز نتوانسته‌اند جایگاه قابل توجهی در بازار پیدا کنند. همچنین در شبکه اجتماعی نامتعارف Moltbook که برای عامل‌های هوش مصنوعی طراحی شده است، ربات‌هایی مشاهده شده‌اند که برای مقابله با یکدیگر، فروش حملات تزریق دستور را بررسی می‌کردند.
راه‌حل چیست؟
اکنون که دستیارهای پیشرفته هوش مصنوعی در حال ورود به جریان اصلی استفاده میلیون‌ها نفر در سراسر جهان هستند، خطر فریب خوردن این ابزارها از طریق دستورهای مخفی در ایمیل‌های فیشینگ می‌تواند به مراتب بیشتر از گذشته باشد. شرکت Malwarebytes برای کاهش این خطر توصیه کرده است که دست‌کم در شرایط فعلی، نظارت انسانی همچنان بخشی از فرایند استفاده از هوش مصنوعی باقی بماند. در مطلب این شرکت آمده است: «نیازی نیست ابزارهای هوش مصنوعی مورد استفاده برای مدیریت ایمیل را کنار بگذارید، اما باید در نظر بگیرید چه وظایفی را به آنها می‌سپارید و چه مجوزهایی در اختیار آنها قرار می‌دهید.»
برای مطالعه بیشتر: آیا حملات سایبری هوش مصنوعی نظام مالی جهان را از کار می‌اندازند؟
این توصیه به‌ویژه درباره اقدامات حساس و دارای پیامدهای مالی جدی، از جمله انجام پرداخت‌ها و تغییر اطلاعات حساب‌های پرداخت فروشندگان اهمیت دارد. شرکت Malwarebytes تاکید کرده است که انجام چنین اقداماتی باید به تایید انسان مشروط باشد.
این تهدید در مقطعی حساس مطرح می‌شود؛ زمانی که شمار زیادی از کاربران حاضر هستند اطلاعات ورود به حساب ایمیل و اطلاعات کارت اعتباری خود را در اختیار عامل‌های هوش مصنوعی شرکت‌هایی قرار دهند که به افشای اطلاعات شخصی شهرت دارند. هم‌زمان، پیشرفت فناوری به کلاهبرداران نیز برتری قابل توجهی می‌دهد. Raines این وضعیت را نوعی «مسابقه تسلیحاتی» می‌داند که در آن، «هر ترفند تازه برای رمزگذاری محتوا، یک حفره امنیتی جدید ایجاد می‌کند».
