ائتلاف جدید غول‌های فناوری برای امنیت هوش مصنوعی

01

از 02

برخورد صحیح با معضل امنیت هوش مصنوعی

مرتبط: چرا دفاع سایبری در برابر هوش مصنوعی اهمیت بیشتری پیدا کرده است؟

البته این ائتلاف می‌پذیرد که مدل‌های باز نیز ممکن است مورد سوءاستفاده قرار بگیرند، اما تاکید کرده است که همین خطر در مدل‌های بسته نیز وجود دارد و باید با مدیریت صحیح کنترل شود. اعضا در این زمینه به حادثه اخیر Hugging face اشاره و بیان کرده‌اند که راه‌حل درست، محروم کردن متخصصان امنیت از دسترسی به مدل‌های باز نیست، بلکه باید شفافیت را با تدابیر امنیتی قوی، قوانین روشن علیه سوءاستفاده، ارزیابی‌های دقیق و رفع سریع مشکلات همراه کرد. به‌ گفته این ائتلاف، متخصصان امنیت سایبری به هر دو نوع مدل‌های پیشرفته باز و بسته نیاز دارند تا بتوانند متناسب با هر ماموریت، بهترین گزینه را انتخاب کنند و از شفافیت، انعطاف‌پذیری و کنترل مستقل بر سامانه‌های امنیتی برخوردار باشند. همچنین انویدیا متعهد شده است مدل‌های باز، وزن‌های مدل، داده‌ها و پژوهش‌های جدید خود را در زمینه چارچوب‌های عامل‌های هوش مصنوعی در اختیار اعضای ائتلاف قرار دهد تا توسعه ابزارهای امنیت سایبری سرعت بگیرد. دیگر اعضا نیز تعهدهای مشابهی داده‌اند که از جمله آنها می‌توان به پروژه MDASH مایکروسافت اشاره کرد.

02

از 02

اعضای ائتلاف

اعضای بنیان‌گذار ائتلاف امنیت هوش مصنوعی عبارت‌انداز:

• ادوبی
• کادنس
• کپیتال وان
• سیسکو
• کلودرا
• کلودفلر
• Cognition
• کراوداسترایک
• دیتابریکس
• دل
• DoorDash
• الاستیک
• اچ‌پی‌ای
• Hugging Face
• IBM
• LangChain
• بنیاد لینوکس
• مایکروسافت
• نیور
• نت‌اپ
• Nous Research
• انویدیا
• OpenClaw
• پالانتیر
• Palo Alto Networks
• رد هت
• ریفلکشن
• Salesforce
• SAP
• ServiceNow
• Snowflake
• اس‌کی تلکام
• اسنوفلیک
• اسپیس‌ایکس‌
• سیناپسیس
• Thinking Machines Lab
• TrendAI

برای مطالعه بیشتر: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد

نکته قابل‌ توجه این است که با وجود حضور “Thinking Machines Lab” متعلق به میرا موراتی، مدیرعامل پیشین OpenAI، شرکت‌های مطرحی مانند OpenAI و آنتروپیک در این ائتلاف حضور ندارند. هنوز مشخص نیست که این دو شرکت خود از پیوستن به ائتلاف صرف‌نظر کرده‌اند یا دعوتی برای عضویت دریافت نکرده‌اند. انویدیا در پایان از قانون‌گذاران و سیاست‌گذاران سراسر جهان خواسته است مدل‌های باز را به‌ عنوان ابزارهای دفاعی در نظر بگیرند. این شرکت تأکید کرد که آینده هوش مصنوعی تنها با محرمانه نگه داشتن فناوری‌ها امن نخواهد شد، بلکه با توسعه سامانه‌هایی محقق می‌شود که در برابر بررسی‌های عمومی مقاوم باشد، همچنین قابلیت بهبود مداوم و مشارکت گسترده جامعه متخصصان امنیت را داشته باشند.