مدیرعامل مایکروسافت: مدل‌های هوش مصنوعی به ترمز اضطراری نیاز دارند

ساتیا نادلا، مدیرعامل مایکروسافت با تاکید بر ضرورت افزایش ایمنی هوش مصنوعی، خواستار ثبت شفاف اقدامات مدل‌ها، جداسازی آنها از سازوکارهای اجرایی و ایجاد امکان ترمز اضطراری برای مهار خطرات احتمالی شد.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، نادلا تازه‌ترین چهره سرشناس صنعت فناوری است که دیدگاه‌های مفصلی درباره راهکارهای ارتقای ایمنی هوش مصنوعی مطرح می‌کند.

بیشتر بخوانید: آنتروپیک و OpenAI برای مقابله با شورش‌های احتمالی AI آماده می‌شوند

چرا هوش مصنوعی به ترمز اضطراری نیاز دارد؟

حتما بخوانید: از Muse متا تا Dots اوپن‌ای‌آی؛ حریم خصوصی کاربران چقدر امن است؟

مدیرعامل مایکروسافت صبح شنبه در پستی در شبکه اجتماعی X نوشت که زمان آن رسیده است تا با نگاهی دوباره، «معماری اعتماد» در سامانه‌های هوش مصنوعی را ارزیابی کنیم. او تاکید کرد: «نمی‌توانیم با ابرهوش مانند مجموعه‌ای از جعبه‌های سیاه تودرتو برخورد کنیم و توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.» نادلا در این اظهارات از اصطلاح «ابرهوش» استفاده کرد؛ واژه‌ای که دولت ترامپ برای اشاره به هوش مصنوعی ترجیح می‌دهد. به گفته مدیرعامل مایکروسافت، تحقق این رویکرد مستلزم «جداسازی مدل‌های هوش مصنوعی از سازوکاری است که اجرای وظایف آن را مدیریت و هماهنگ می‌کند»، همچنین «مستقل‌سازی سازوکارهای کنترلی و تدابیر حفاظتی مانند یک ترمز اضطراری» است.

برای مطالعه بیشتر: هوش مصنوعی آنتروپیک پلیس فیلادلفیا را با گزارش دروغین قتل به دردسر انداخت

غول‌های فناوری به‌ دنبال کنترل مدل‌ها هستند

همچنین نادلا خواستار ثبت «هر اقدام مهم مدل» با استفاده از شواهدی قابل‌ فهم برای انسان و مقاوم در برابر دست‌کاری شد. او معتقد است باید سامانه‌ها به‌گونه‌ای طراحی شوند که «یک فرد مجاز» در هر لحظه بتواند اجرای وظیفه را متوقف کند یا مدل را به‌طور کامل از کار بیندازد. او در ادامه گفت: «باید از همان ابتدا فرض را بر این بگذاریم که مدل هوش مصنوعی به خطر افتاده است و از ابتدا آن را در چارچوبی مهارکننده قرار دهیم، این سازوکار را مانند ترمز اضطراری در نظر بگیرید.» این اظهارات در حالی مطرح می‌شوند که شرکت‌های پیشرو در صنعت هوش مصنوعی، بیش از گذشته از حوادثی پرده برمی‌دارند که نشان می‌دهند کنترل مدل‌های آنها در برخی شرایط با مشکل مواجه شده است. همچنین این موضع‌گیری پس از انتشار برنامه داریو آمودی، مدیرعامل آنتروپیک برای توسعه محتاطانه‌تر هوش مصنوعی صورت می‌گیرد.