فهرست مطالب
هوش مصنوعی می‌تواند با تحلیل پست‌ها و تصاویر عمومی کاربران در شبکه‌های اجتماعی، ایمیل‌های فیشینگ بسیار شخصی‌سازی‌شده‌ای تولید کند که حتی ابزارهای امنیتی هوش مصنوعی نیز در شناسایی آنها با مشکل مواجه می‌شوند.
به گزارش سرویس هوش مصنوعی تکناک، همه ما دست‌کم یک‌بار ایمیل‌های مشکوکی دریافت کرده‌ایم که از برنده شدن در یک قرعه‌کشی، ناموفق بودن تحویل بسته یا ضرورت به‌روزرسانی فوری اطلاعات بانکی خبر می‌دهند. تشخیص و نادیده گرفتن بسیاری از این پیام‌ها دشوار نیست؛ به‌ویژه زمانی که متن نامفهومی دارند یا محتوای آنها هیچ ارتباطی با زندگی ما ندارد. اما اگر یک ایمیل کلاهبرداری از فعالیت‌های اخیر شما خبر داشته باشد و به جزئیاتی اشاره کند که تصور می‌کنید فقط اطرافیان شما از آنها اطلاع دارند، چه؟ اینجا است که ماجرا شکل نگران‌کننده‌تری به خود می‌گیرد.
بیشتر بخوانید: اپل: عامل‌های هوش مصنوعی خودمختار امنیت کاربران را به‌خطر می‌اندازند
پژوهشگران دانشگاه تگزاس در آرلینگتون دریافته‌اند که هوش مصنوعی می‌تواند با تحلیل اطلاعاتی که کاربران به صورت عمومی در شبکه‌های اجتماعی منتشر می‌کنند، ایمیل‌های فیشینگ بسیار شخصی‌سازی‌شده‌ای بسازد. این موضوع فراتر از دانستن نام یا محل کار افراد است. چنین پیام‌هایی می‌توانند به فعالیت‌های اخیر کاربران، مکان‌هایی که به آنها سفر کرده‌اند یا حتی رویدادهایی که مشتاقانه در انتظار آنها بوده‌اند اشاره کنند. پژوهشگران نشان داده‌اند که مدل‌های هوش مصنوعی در دسترس عموم قادر هستند این جزئیات را استخراج و به پیام‌هایی هدفمند تبدیل کنند؛ قابلیتی که به کلاهبرداران اجازه می‌دهد بدون صرف ساعت‌ها وقت برای بررسی اطلاعات هر قربانی، افراد زیادی را به‌طور هم‌زمان هدف قرار دهند.
پست‌های اینستاگرام، طعمه‌ای برای کلاهبرداران
بخش زیادی از اطلاعات شخصی ما بدون هیچ ملاحظه خاصی در فضای آنلاین منتشر می‌شود. انتشار تصاویر یک سفر آخر هفته، صحبت درباره بلیت کنسرتی که به‌زودی برگزار می‌شود یا حتی گلایه از اختلال در عملکرد یک سرویس برای دوستان و دنبال‌کنندگان ما بخشی از فعالیت روزمره در شبکه‌های اجتماعی است. اما همین جزئیات ساده می‌توانند برای فردی که قصد کلاهبرداری دارد، اطلاعات ارزشمندی باشند.
یافته‌های پژوهش نشان می‌دهد که هوش مصنوعی می‌تواند این اطلاعات، حتی جزئیات قابل استخراج از تصاویر را شناسایی کند و با استفاده از آنها ایمیل‌های فیشینگ متناسب با زندگی و علایق قربانیان بسازد. همچنین این فناوری قادر است نام فرستنده، عنوان ایمیل و لینک‌های داخل پیام را تغییر دهد تا تمام اجزای آن طبیعی‌تر و معتبرتر به نظر برسند.
حتما بخوانید: ایلان ماسک به‌دنبال انتقال پردازش هوش مصنوعی به فضا است
این شیوه در دسته فیشینگ هدفمند قرار می‌گیرد؛ روشی که در آن کلاهبرداران با تکیه بر اطلاعات شخصی قربانیان، پیام‌هایی متناسب با شرایط و علایق آنها طراحی می‌کنند. تفاوت مهم اینجا است که هوش مصنوعی می‌تواند بخش عمده این فرایند را خودکار کند و هزینه و زمان لازم را برای اجرای حملات گسترده به شدت کاهش دهد.
پژوهشگران برای سنجش میزان اثرگذاری این روش، از شرکت‌کنندگان خواستند ایمیل‌های تولیدشده با هوش مصنوعی را ارزیابی کنند. این پیام‌ها از نظر کیفیت امتیاز بالایی به دست آوردند. هرچند این نتیجه لزوما به معنای فریب خوردن همه کاربران نیست، اما نشان می‌دهد ایمیل‌های فیشینگ تولیدشده با هوش مصنوعی تا چه اندازه می‌توانند واقعی و متقاعدکننده جلوه کنند.
ابزارهای مقابله با ایمیل‌های فیشینگ هوش مصنوعی
نگران‌کننده‌تر اینکه سامانه‌های هوش مصنوعی از قبل به سازوکارهای ایمنی مجهز شده‌اند که هدف آنها جلوگیری از سوءاستفاده‌های احتمالی است. با وجود این، بررسی پژوهشگران نشان می‌دهد برخی از همین ابزارهای حفاظتی در شناسایی حملات فیشینگ شخصی‌سازی‌شده، عملکرد چندان موفقی ندارند.
در این پژوهش، سه ابزار Llama Guard، ShieldGemma و WildGuard آزمایش شدند؛ سامانه‌هایی که برای شناسایی درخواست‌های بالقوه مخرب در مدل‌های هوش مصنوعی طراحی شده‌اند. نتایج نشان داد این ابزارها در تنظیمات پیش‌فرض خود، تنها صفر تا ۱۹ درصد از درخواست‌های مرتبط با ایمیل‌های فیشینگ هوش مصنوعی را شناسایی می‌کنند.
برای مطالعه بیشتر: موج انتقادها از تحمیل هوش مصنوعی به مدارس گوگل را به عقب‌نشینی واداشت
با وجود این، پژوهشگران راهکاری برای بهبود عملکرد این سامانه‌ها نیز ارائه کردند. آنها با دقیق‌تر کردن دستورالعمل‌های ایمنی و مشخص کردن نشانه‌هایی که ابزارها باید به دنبال آنها بگردند، توانستند نرخ شناسایی این حملات را به ۹۹ درصد برسانند.
نتایج این تحقیق که قرار است در مارس ۲۰۲۷ در یک کنفرانس امنیت سایبری ارائه شود، زنگ خطری درباره گسترش کلاهبرداری‌های مبتنی بر هوش مصنوعی است. نکته اساسی اینجا است که هوش مصنوعی لزوما اطلاعات تازه‌ای درباره شما تولید نمی‌کند؛ بلکه از داده‌هایی استفاده می‌کند که پیش‌تر در فضای عمومی منتشر کرده‌اید و با کنار هم قرار دادن آنها، تصویری دقیق‌تر از زندگی شخصی شما می‌سازد.
مهم‌ترین درسی که باید از این پژوهش گرفت، ساده اما حیاتی است: شخصی بودن محتوای یک ایمیل، به معنای قابل اعتماد بودن فرستنده آن نیست. حتی اگر پیام به جزئیاتی از زندگی شما اشاره کند که به نظر می‌رسد فقط افراد نزدیک از آنها خبر دارند، باز هم نباید به آن اعتماد کنید. در دورانی که هوش مصنوعی می‌تواند از اطلاعات عمومی برای ساخت پیام‌های فریبنده استفاده کند، بررسی دقیق فرستنده و لینک‌ها پیش از هر کلیک، اهمیت بیشتری از همیشه دارد.
