شرکت گوگل برای نخستین بار از شناسایی و متوقفسازی یک ابزار نفوذ «روز صفر» خبر داد که با بهرهگیری از هوش مصنوعی برای دور زدن تایید هویت دو مرحلهای طراحی شده بود.
به گزارش سرویس امنیت سایبری تکناک، محققان گوگل در بررسی کدهای این ابزار نفوذ، شواهدی یافتند که نشاندهنده دخالت هوش مصنوعی در نگارش آن است. یکی از این دلایل، وجود یک امتیاز امنیتی CVSS نامعتبر و ساختگی در کدها است؛ همچنین نوع قالببندی متون و ساختار کتابخانهای آن کاملاً با دادههای آموزشی مدلهای زبانی بزرگ شباهت دارد.
این ابزار نفوذ «روز صفر» از یک نقص منطقی در سیستم تایید هویت دو مرحلهای (2FA) یک پلتفرم مدیریت سیستم متنباز بهرهبرداری میکرد. در واقع برنامهنویس این پلتفرم، یک فرض اعتماد را به صورت پیشفرض در کدهای خود قرار داده بود که هکرها با استفاده از هوش مصنوعی توانستند این نقطه ضعف را شناسایی کنند. این اتفاق درست زمانی رخ داد که نگرانیها درباره قدرت مدلهای هوش مصنوعی متمرکز بر امنیت سایبری، مانند Mythos متعلق به شرکت آنتروپیک افزایش یافته است.
مرتبط: جستجوی گوگل برای برخی کاربران از دسترس خارج شد
این نخستین بار است که گوگل شواهدی از دخالت مستقیم هوش مصنوعی در چنین حملات پیچیدهای کشف میکند؛ هرچند محققان این شرکت تاکید دارند که طبق بررسیهای آنها از مدل هوش مصنوعی جمنای برای این کار استفاده نشده است. با وجود اینکه گوگل موفق شد این ابزار نفوذ خاص را پیش از وقوع فاجعه مهار کند، اما هشدار داد که مهاجمان سایبری بیش از پیش برای شناسایی و بهرهبرداری از حفرههای امنیتی به هوش مصنوعی متوسل میشوند.
بر اساس گزارش اختصاصی وبسایت The Verge، گروه اطلاعات تهدیدات گوگل (GTIG) اعلام کرده است که اکنون خود سیستمهای هوش مصنوعی نیز به هدف جدیدی برای هکرها تبدیل شدهاند. بر اساس مشاهدات این گروه، مهاجمان به طور فزایندهای اجزای حیاتی این سیستمها، از جمله مهارتهای خودگردان و رابطهای دادهای شخص ثالث را که باعث کارایی هوش مصنوعی میشوند، هدف حملات خود قرار میدهند.
همچنین گزارش گوگل جزئیاتی از شگرد جدید هکرها تحت عنوان «شکستن محدودیتهای هوش مصنوعی با القای هویت جعلی» را فاش کرده است. در این روش، مهاجمان با طراحی دستورات خاص، هوش مصنوعی را متقاعد میکنند تا نقش یک کارشناس خبره امنیت سایبری را ایفا کند؛ ترفندی زیرکانه که با هدف فریب دادن مدل و دور زدن پروتکلهای ایمنی برای استخراج اطلاعات حساس یا شناسایی حفرههای امنیتی انجام میشود. این تحولات نشاندهنده آغاز فصل تازهای از تقابل در فضای سایبری است که در آن، هوش مصنوعی همزمان در قامت یک سلاح تهاجمی قدرتمند و یک سپر دفاعی هوشمند ظاهر میشود.
