فهرست مطالب
پژوهشگران روشی بر پایه بررسی نوسانات برق ارائه داده‌اند که ردیابی آموزش مخفیانه مدل‌های هوش مصنوعی در مراکز داده را بدون دسترسی به سیستم‌های داخلی آنها ممکن می‌سازد.
به گزارش سرویس هوش مصنوعی تکناک، نظارت بر فعالیت مراکز داده بزرگ همواره یکی از چالش‌برانگیزترین مسائل در حوزه قانون‌گذاری فناوری‌های نوین بوده است. اکنون گروهی از پژوهشگران راهکار بسیار هوشمندانه‌ای را پیشنهاد کرده‌اند که می‌تواند دگرگونی بزرگی در این زمینه ایجاد کند. ایده اصلی این پژوهش بر یک واقعیت فیزیکی ساده استوار است؛ هر زمان که یک مرکز داده مشغول آموزش مدل‌های سنگین هوش مصنوعی باشد، جریان مصرف برق آن الگوی مشخص و متمایزی از خود به جای می‌گذارد. ناظران بیرونی می‌توانند با سنجش این نوسانات، فعالیت‌های آموزشی پنهانی را شناسایی کنند.
بررسی این موضوع نشان می‌دهد که چگونه می‌توان استفاده از ظرفیت‌های هوش مصنوعی را به‌صورت کاملاً مستقل و بدون نیاز به دسترسی مستقیم به سیستم‌های داخلی شرکت‌ها مورد بازرسی قرار داد. اصل فنی این روش بر پایه نوسانات دوره‌ای جریان برق شکل گرفته است. در طول مراحل آموزش مدل‌های هوش مصنوعی، فازهای پردازشی بسیار سنگین به‌طور مداوم با دوره‌های تبادل داده میان پردازنده‌های گرافیکی جابه‌جا می‌شوند. این چرخه مداوم باعث می‌شود که میزان مصرف برق مرکز داده با یک ریتم خاص، یعنی تقریبا یک بار در ثانیه، دستخوش نوسان شود. هرچند این ریتم کاملاً ثابت نیست و متناسب با حجم کار و وضعیت سخت‌افزار تغییر می‌کند، اما ویژگی‌های اختصاصی خود را حفظ می‌کند.
استفاده از تکنیک ردیاب Viterbi
برای ردیابی این نوسانات در شرایط متغیر، پژوهشگران از تکنیکی به نام ردیاب Viterbi بهره گرفته‌اند؛ روش پیشرفته‌ای که پیش‌تر در حوزه‌هایی نظیر پردازش سیگنال برای شناسایی الگوهای زمانی کاربرد داشته است. ویژگی کلیدی این فناوری در استقلال کامل آن از اپراتور مرکز داده خلاصه می‌شود. از آنجا که حسگرهای اندازه‌گیری در خارج از محدوده کنترل شرکت‌ها نصب می‌شوند، نیازی به اعتماد به گزارش‌های داخلی یا اظهارات مدیران درباره محاسبات در حال انجام نخواهد بود. این رویکرد به ناظران اجازه می‌دهد حتی زمانی که چندین مدل هوش مصنوعی به‌صورت موازی در حال اجرا هستند، فعالیت‌های آموزشی پنهانی را تفکیک کرده و تشخیص دهند.
دقت ۹۶ درصدی در آزمایش‌های شبیه‌سازی
آزمایش‌های انجام‌شده روی بارهای کاری شبیه‌سازی‌شده در مراکز داده نشان داد که این روش توانسته است حداقل ۹۶ درصد از فرایندهای آموزشی را شناسایی کند؛ البته مشروط بر اینکه اپراتور اقدامات پیچیده و پرهزینه‌ای برای کتمان این الگوها به کار نبسته باشد. پژوهشگران هشت استراتژی مختلف را برای پنهان‌سازی این نوسانات آزمایش کردند، اما اجرای این راهکارها بسیار زمان‌بر و هزینه‌بر ارزیابی شد. نکته قابل‌توجه دیگر این است که نرخ خطا در این سیستم تنها حدود ۱ درصد ثبت شده است که دقت بالای آن را تأیید می‌کند.
طبق گزارش نوت‌بوک‌چک، این دستاورد علمی پاسخگوی یکی از بنیادین‌ترین مشکلات در تنظیم مقررات هوش مصنوعی است. هنگامی که نهادهای نظارتی نمی‌توانند به گزارش‌های رسمی شرکت‌ها اعتماد کنند، سنجش پارامترهای فیزیکی مانند مصرف برق راهکاری قابل‌اعتماد و شفاف فراهم می‌کند. ثبت دقیق تغییرات انرژی بدون نیاز به ورود به نرم‌افزارها یا سرورهای شرکت‌ها، مسیر تازه‌ای را پیش روی دولت‌ها و سازمان‌های نظارتی قرار می‌دهد تا بتوانند بر فعالیت‌های کلان محاسباتی در سطح جهان نظارت دقیق‌تری داشته باشند.
