گوگل جزئیاتی را درباره نحوه سوءاستفاده مجرمان و هکرها از مدل هوش مصنوعی جمنای برای اهداف مخرب منتشر کرده است.
به گزارش تکناک، گروه اطلاعات تهدید گوگل در بیانیه جدیدش اعلام کرد که برخی گروه‌های هکری وابسته به دولت‌ها، موسوم به گروه‌های تهدید مداوم پیشرفته (APT)، از هوش مصنوعی جمنای برای تحقیقات درباره اهداف نظامی و شناسایی آسیب‌پذیری‌های نرم‌افزاری و دریافت کمک در کدنویسی استفاده کرده‌اند. این گزارش نشان می‌دهد که با وجود تدابیر امنیتی گوگل برای جلوگیری از سوءاستفاده از جمنای، برخی از این گروه‌ها تلاش کرده‌اند تا با روش‌های مختلف از این مدل زبانی در راستای اهداف خود بهره ببرند.
براساس این گزارش، گروه‌های APT کشورهای چین و کره‌شمالی و روسیه بیشترین فعالیت را در‌زمینه سوءاستفاده از جمنای کرده‌اند. گوگل تأکید می‌کند که این گروه‌ها از این هوش مصنوعی به‌عنوان ابزار تحقیقاتی استفاده کرده‌اند تا به اطلاعاتی درباره اهداف نظامی و امنیتی دست یابند. برخی دیگر از کاربردها شامل خلاصه‌سازی اطلاعات حساس و تحلیل آسیب‌پذیری‌های امنیتی و دریافت راهنمایی در برنامه‌نویسی بوده است.
علاوه‌بر این، گروه‌های عملیات اطلاعاتی (IO) از این مدل هوش مصنوعی برای بهبود ترجمه و تنظیم لحن پیام‌ها و تغییر هویت آنلاین برای عملیات مخفیانه بهره برده‌اند. این گروه‌ها که عمدتاً با هدف ایجاد هرج‌ومرج در رسانه‌های اجتماعی فعالیت می‌کنند، از جمنای برای تولید محتواهای هدفمند به‌منظور فریب کاربران و گسترش اطلاعات نادرست استفاده کرده‌اند.
گوگل در گزارش خود تأکید کرده است که اگرچه این گروه‌ها تلاش کرده‌اند با رفع محدودیت جمنای ازطریق دستورهای خلاقانه پروتکل‌های امنیتی را دور بزنند، بیشتر این تلاش‌ها سطحی بوده‌اند و به موفقیت چندانی در سوءاستفاده از این هوش مصنوعی نرسیده‌اند. با‌این‌حال، مهم‌ترین استفاده این گروه‌ها از جمنای در قالب تحقیقات غیرمستقیم و تسهیل فرایندهای هکری بوده است.
اندروید اتوریتی می‌نویسد که این گزارش بر مشکلات جلوگیری از سوءاستفاده از هوش مصنوعی مولد نیز تأکید می‌کند. به گفته کارشناسان، اگرچه گوگل موفق شده است تا از استفاده مستقیم جمنای در اقدامات مخرب جلوگیری کند، سودجویان همچنان می‌توانند با تقسیم اهداف خود به مراحل جزئی از قابلیت‌های این فناوری بهره ببرند.
گزارش گروه اطلاعات تهدید گوگل نشان می‌دهد که سوءاستفاده از هوش مصنوعی به مشکل امنیتی مهمی تبدیل شده است. با گسترش مدل‌های زبانی پیشرفته، گروه‌های تهدید نیز روش‌های جدیدی برای دور‌زدن تدابیر امنیتی پیدا می‌کنند.
گوگل در این گزارش تأکید کرده است که همچنان به تقویت سیستم‌های امنیتی خود برای جلوگیری از سوءاستفاده‌های احتمالی ادامه خواهد داد. این شرکت از جامعه بین‌المللی خواسته است تا با همکاری مشترک، راهکارهای مؤثرتری برای مقابله با این تهدیدات پیدا کند.
