ائتلاف جدید غول‌های فناوری برای امنیت هوش مصنوعی

انویدیا، مایکروسافت و ده‌ها شرکت فناوری با تشکیل ائتلاف «هوش مصنوعی باز و امن» به‌ دنبال تقویت امنیت سایبری از طریق مدل‌های وزن‌باز هستند.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، ایمنی و امنیت هوش مصنوعی این روزها به یکی از مهم‌ترین موضوعات صنعت فناوری تبدیل شده است؛ موضوعی که با توجه به افشای مکرر اطلاعات کاربران توسط برخی ابزارهای هوش مصنوعی، چندان هم دور از انتظار نیست. هم‌زمان، بحث‌هایی مانند لزوم استفاده از «کلید توقف اضطراری» برای هوش مصنوعی یا جلوگیری از دخالت دولت‌ها در مدل‌های وزن‌باز، اختلاف نظرهای زیادی را میان فعالان این حوزه ایجاد کرده است. در همین شرایط، شماری از شرکت‌های بزرگ فناوری برای ارتقای امنیت هوش مصنوعی به یک ائتلاف مشترک پیوسته‌اند.

بیشتر بخوانید: سم آلتمن با جدیدترین مدل OpenAI به کاخ سفید می‌رود

شرکت انویدیا اعلام کرده است که با همکاری شرکت‌هایی مانند مایکروسافت، پالانتیر، اسنوفلیک، ادوبی و چندین شرکت دیگر، «ائتلاف هوش مصنوعی باز و امن» را تشکیل داده است. هدف این ائتلاف استفاده از مدل‌های وزن‌باز برای شناسایی، رفع و افشای آسیب‌پذیری‌های امنیتی است. اعضای این گروه معتقد هستند چنین رویکردی می‌تواند توانمندی‌های دفاعی مبتنی بر مشارکت جامعه را در دسترس همگان قرار دهد.

برخورد صحیح با معضل امنیت هوش مصنوعی

مرتبط: چرا دفاع سایبری در برابر هوش مصنوعی اهمیت بیشتری پیدا کرده است؟

البته این ائتلاف می‌پذیرد که مدل‌های باز نیز ممکن است مورد سوءاستفاده قرار بگیرند، اما تاکید کرده است که همین خطر در مدل‌های بسته نیز وجود دارد و باید با مدیریت صحیح کنترل شود. اعضا در این زمینه به حادثه اخیر Hugging face اشاره و بیان کرده‌اند که راه‌حل درست، محروم کردن متخصصان امنیت از دسترسی به مدل‌های باز نیست، بلکه باید شفافیت را با تدابیر امنیتی قوی، قوانین روشن علیه سوءاستفاده، ارزیابی‌های دقیق و رفع سریع مشکلات همراه کرد. به‌ گفته این ائتلاف، متخصصان امنیت سایبری به هر دو نوع مدل‌های پیشرفته باز و بسته نیاز دارند تا بتوانند متناسب با هر ماموریت، بهترین گزینه را انتخاب کنند و از شفافیت، انعطاف‌پذیری و کنترل مستقل بر سامانه‌های امنیتی برخوردار باشند. همچنین انویدیا متعهد شده است مدل‌های باز، وزن‌های مدل، داده‌ها و پژوهش‌های جدید خود را در زمینه چارچوب‌های عامل‌های هوش مصنوعی در اختیار اعضای ائتلاف قرار دهد تا توسعه ابزارهای امنیت سایبری سرعت بگیرد. دیگر اعضا نیز تعهدهای مشابهی داده‌اند که از جمله آنها می‌توان به پروژه MDASH مایکروسافت اشاره کرد.

اعضای ائتلاف

اعضای بنیان‌گذار ائتلاف امنیت هوش مصنوعی عبارت‌انداز:

• ادوبی
• کادنس
• کپیتال وان
• سیسکو
• کلودرا
• کلودفلر
• Cognition
• کراوداسترایک
• دیتابریکس
• دل
• DoorDash
• الاستیک
• اچ‌پی‌ای
• Hugging Face
• IBM
• LangChain
• بنیاد لینوکس
• مایکروسافت
• نیور
• نت‌اپ
• Nous Research
• انویدیا
• OpenClaw
• پالانتیر
• Palo Alto Networks
• رد هت
• ریفلکشن
• Salesforce
• SAP
• ServiceNow
• Snowflake
• اس‌کی تلکام
• اسنوفلیک
• اسپیس‌ایکس‌
• سیناپسیس
• Thinking Machines Lab
• TrendAI

برای مطالعه بیشتر: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد

نکته قابل‌ توجه این است که با وجود حضور “Thinking Machines Lab” متعلق به میرا موراتی، مدیرعامل پیشین OpenAI، شرکت‌های مطرحی مانند OpenAI و آنتروپیک در این ائتلاف حضور ندارند. هنوز مشخص نیست که این دو شرکت خود از پیوستن به ائتلاف صرف‌نظر کرده‌اند یا دعوتی برای عضویت دریافت نکرده‌اند. انویدیا در پایان از قانون‌گذاران و سیاست‌گذاران سراسر جهان خواسته است مدل‌های باز را به‌ عنوان ابزارهای دفاعی در نظر بگیرند. این شرکت تأکید کرد که آینده هوش مصنوعی تنها با محرمانه نگه داشتن فناوری‌ها امن نخواهد شد، بلکه با توسعه سامانه‌هایی محقق می‌شود که در برابر بررسی‌های عمومی مقاوم باشد، همچنین قابلیت بهبود مداوم و مشارکت گسترده جامعه متخصصان امنیت را داشته باشند.