هشدار گوگل به 1/8 میلیارد نفر کاربر: مراقب حملات هوش مصنوعی باشید

گوگل درباره حمله سایبری هوش مصنوعی با تزریق پنهان داده‌ها هشدار داد؛ تهدیدی که بدون کلیک می‌تواند اطلاعات کاربران را فاش کند.

به گزارش تک‌ناک، گوگل با بیش از ۱/۸ میلیارد نفر کاربر جیمیل در سراسر جهان، اخیراً هشدار مهمی درباره «موج جدید تهدیدها» برای امنیت سایبری صادر کرده است. این هشدار با توجه به پیشرفت‌های هوش مصنوعی و ظهور نوعی حمله سایبری به نام «تزریق غیرمستقیم درخواست‌ها» منتشر شده است.

به گفته گوگل، این تهدید جدید می‌تواند افراد و شرکت‌ها و حتی دولت‌ها را هدف قرار دهد. برخلاف «تزریق مستقیم درخواست‌ها» که در آن مهاجم به‌طور مستقیم دستورهای مخرب را وارد درخواست می‌کند، در «تزریق غیرمستقیم» این دستورها به‌صورت مخفی در منابع داده خارجی مانند ایمیل‌ها یا اسناد یا دعوت‌نامه‌های تقویم قرار می‌گیرند. این داده‌ها می‌توانند هوش مصنوعی را به استخراج اطلاعات کاربر یا انجام اقدامات مخرب وادار کنند.

گوگل در وبلاگ رسمی خود تأکید کرده است که با گسترش استفاده دولت‌ها و کسب‌وکارها و افراد از هوش مصنوعی تولیدی، این نوع حملات ظریف، اما خطرناک بیش‌از‌پیش اهمیت پیدا کرده و نیازمند اقدامات فوری و جدی امنیتی است.

به نقل از منزجورنال، در همین زمینه، اسکات پُلدرمن، کارشناس فناوری، در گفت‌وگو با The Daily Record توضیح داده است که هکرها از محصول دیگر گوگل، جمنای، سوءاستفاده می‌کنند. به گفته او، هکرها ایمیلی با پیام‌های مخفی برای جمنای ارسال می‌کنند که می‌تواند گذرواژه کاربر را بدون آگاهی او فاش کند. این دستورهای پنهان باعث می‌شوند تا هوش مصنوعی علیه خودش عمل و اطلاعات ورود کاربران را آشکار کند.

پُلدرمن هشدار داده است که در این نوع حملات، به کلیک روی لینک یا بازکردن فایل خاصی نیازی نیست و تنها ظاهرشدن پیام از جمنای برای هشدار به کاربر کافی است تا حمله آغاز شود. با‌این‌حال، گوگل اعلام کرده است که برای مقابله با این تهدیدات، مجموعه‌ای از اقدامات امنیتی چندلایه را آغاز کرده است. این اقدامات شامل بهینه‌سازی مدل جمنای ۲/۵ و استفاده از مدل‌های یادگیری ماشینی برای شناسایی دستورهای مخرب و ایجاد تدابیر حفاظتی در سطح سیستم است.

به گفته گوگل، این رویکرد باعث می‌شود تا مهاجمان مجبور شوند به روش‌هایی متوسل شوند که یا به‌راحتی شناسایی‌شدنی هستند یا به منابع بیشتری نیاز دارند؛ در نتیجه، میزان دشواری و هزینه حملات افزایش پیدا می‌کند.