استقرارهای ناامن هوش مصنوعی مولد در واقع میتوانند راه نفوذ تازهای برای مجرمان سایبری باز کنند.
به گزارش تکناک، سازمانها بیش از هر زمان دیگری به سمت استفاده از هوش مصنوعی پیش میروند و آن را نه تنها یک انتخاب بلکه ضرورتی برای بقا و رقابت میدانند. این فناوری میتواند بهرهوری داخلی و نوآوریهای مشتریمحور را متحول کند، اما در صورتی که بدون امنیت کافی به کار گرفته شود، بیشتر از آنکه سودمند باشد، سازمانها را در معرض خطر قرار میدهد.
بر اساس گزارشی از EY، در سال ۲۰۲۵ حدود ۹۲ درصد رهبران فناوری قصد افزایش سرمایهگذاری روی هوش مصنوعی را دارند؛ رقمی که نسبت به ۲۰۲۴ ده درصد رشد را نشان میدهد. در این میان، هوش مصنوعی عاملمحور (Agentic AI) به عنوان مرز تحولآفرین جدید معرفی میشود و ۶۹ درصد مدیران معتقد هستند که برای رقابتپذیری به آن نیاز دارند. با وجود این، گزارش مجمع جهانی اقتصاد (WEF) نشان میدهد که تنها ۳۷ درصد سازمانها فرایندهایی برای ارزیابی امنیت هوش مصنوعی پیش از استقرار دارند و این شکاف در شرکتهای کوچکتر شدیدتر است؛ چرا که ۶۹ درصد آنها حتی حداقل ابزارهای نظارتی را نیز به کار نمیگیرند. همچنین یافتههای Accenture نشان میدهد که ۷۷ درصد سازمانها فاقد اصول پایهای امنیت داده و هوش مصنوعی هستند و تنها ۲۰ درصد نسبت به توانایی خود در تأمین امنیت مدلهای مولد اعتماد دارند.
این ضعفها پیامدهای مهمی دارند. حملات فیشینگ و مهندسی اجتماعی که با کمک هوش مصنوعی تولید میشوند، به تهدیدی اصلی تبدیل شدهاند؛ به طوری که ۴۷ درصد سازمانها آن را دغدغه نخست خود میدانند. نمونههای دیگری مانند دستکاری مدلها با «کرمهای هوش مصنوعی» (مانند Morris II) یا کلاهبرداریهای مبتنی بر دیپفیک نیز نشان میدهد که مهاجمان بهراحتی میتوانند از شکافهای امنیتی سوءاستفاده کنند. در واقع، هوش مصنوعی مولد سطح ورود به دنیای جرایم سایبری را برای مهاجمان بسیار پایینتر آورده است.
کارشناسان توصیه میکنند که امنیت باید از ابتدا در فرایند توسعه هوش مصنوعی نهادینه شود. این موضوع شامل کدنویسی ایمن، رمزنگاری دادهها، تستهای تقابلی و پایش مداوم مدلها است. یکپارچهسازی راهبردهای امنیتی و تمرکز بر کنسولهای مدیریتی مشترک میتواند پیچیدگی را کاهش دهد و مانع سوءاستفاده مهاجمان از نقاط ضعف شود. Accenture تأکید دارد که تنها ۱۰ درصد شرکتها به «منطقه آمادهسازی بازآفرینی» رسیدهاند؛ جایی که استراتژیهای امنیتی بالغ و نظارت یکپارچه به آنها کمک میکند تا ۶۹ درصد کمتر در معرض حملات مبتنی بر هوش مصنوعی قرار گیرند.
مدیریت خدمات فناوری (MSPs) نیز نقشی کلیدی دارند، چرا که هم مشتریان به ابزارهای مبتنی بر هوش مصنوعی نیاز دارند و هم خود این شرکتها در خط مقدم حملات قرار گرفتهاند. گزارش Acronis نشان میدهد که در نیمه نخست ۲۰۲۵ بیش از نیمی از حملات به MSPها، تلاشهای فیشینگ بوده است. بنابراین، ارائه محافظت جامع و یکپارچه در فضای ابری، نقاط پایانی و محیطهای هوش مصنوعی برای آنها حیاتی است.
در نهایت، آینده استقرار هوش مصنوعی مولد به امنیت گره خورده است. سازمانهایی که امنیت را در سطح هیئتمدیره جدی بگیرند، چارچوبهای حاکمیتی روشن تدوین کنند و تیمهای امنیت سایبری خود را برای تهدیدات نوین آموزش دهند، میتوانند از مزایای هوش مصنوعی بهرهمند شوند بدون آنکه هزینههای سنگین حملات سایبری را متحمل گردند. در غیر این صورت، استقرار شتابزده این فناوری مانند ساختن آسمانخراشی بر روی شن خواهد بود: پایهای سست که توان نگهداری سازه را ندارد.
