شرکت امنیتی ESET از شناسایی اولین باجافزار شناختهشده مبتنی بر هوش مصنوعی خبر داد که با نام PromptLock معرفی شده است.
به گزارش تکناک، به گفته محققان، PromptLock از یک مدل زبانی متنباز توسعهیافته توسط OpenAI بهره میبرد. این بدافزار با تولید اسکریپتهای Lua میتواند عملیات مختلفی از جمله پیمایش سیستم فایل محلی، شناسایی و انتخاب فایلهای هدف، استخراج دادهها و رمزگذاری اطلاعات را انجام دهد.
همچنین در کد این باجافزار مبتنی بر هوش مصنوعی، قابلیت تخریب دادهها مشاهده شده است، هرچند به نظر میرسد که هنوز به طور کامل پیادهسازی نشده باشد.
مدلهای زبانی بزرگ به صورت غیرقطعی (non-deterministic) عمل میکنند؛ یعنی حتی با دریافت ورودی یکسان، خروجی متفاوتی تولید میکنند. این ویژگی که در بسیاری از کاربردهای هوش مصنوعی مشکلساز است، در باجافزار PromptLock به مزیت تبدیل شده است و باعث میشود که رفتار بدافزار در هر بار اجرا اندکی متفاوت باشد. نتیجه این فرایند، سختتر شدن شناسایی بدافزار توسط سیستمهای امنیتی مبتنی بر الگوهای رفتاری است.
شرکت ESET اعلام کرده است که این باجافزار از مدل gpt-oss:20b به صورت محلی و از طریق Ollama API استفاده میکند. اجرای مدل روی سیستم قربانی باعث میشود که مهاجمان نیازی به برقراری ارتباط با سرورهای OpenAI نداشته باشند و در نتیجه ردیابی فعالیت آنها دشوارتر شود.
اگرچه زبان برنامهنویسی Lua بیشتر به دلیل استفاده در توسعه بازیها در Roblox یا افزونههای NeoVim شناخته میشود، اما در واقع یک زبان همهمنظوره است که عملکرد سریع، پشتیبانی چندسکویی و سادگی در توسعه را ارائه میدهد. همین ویژگیها آن را برای بهرهبرداری در حملات سایبری و تولید کدهای مخرب مناسب کرده است.
به اعتقاد کارشناسان، شناسایی باجافزار مبتنی بر هوش مصنوعی PromptLock نشاندهنده ورود رسمی هوش مصنوعی به دنیای باجافزارها و جرایم سایبری است. پیشتر نگرانیهای گستردهای درباره استفاده از مدلهای زبانی در تولید بدافزار وجود داشت، اما حالا شواهد عملی تأیید میکند که مهاجمان به طور جدی از این فناوری بهره میبرند.
همچنین این کشف هشداری جدی برای صنعت امنیت سایبری به حساب میآید، چرا که ابزارهای دفاعی باید برای مقابله با تهدیداتی آماده شوند که رفتارهای ثابت و قابل پیشبینی ندارند.
باجافزار PromptLock نقطه عطفی در استفاده مجرمان سایبری از هوش مصنوعی به حساب میآید. این بدافزار با ترکیب مدلهای زبانی بزرگ و زبان Lua توانسته است راهی نوین برای رمزگذاری و استخراج دادهها ارائه دهد و همزمان از شناسایی توسط ابزارهای امنیتی فرار کند.
به نظر میرسد با رشد بیشتر هوش مصنوعی، موج تازهای از تهدیدات سایبری در راه است؛ تهدیداتی که مقابله با آنها نیازمند رویکردهای امنیتی کاملاً جدید خواهد بود.
