فهرست مطالب
گوگل، متا، OpenAI و دیگر شرکت‌های فناوری با توافقی جدید، چارچوبی برای خودتنظیمی و نظارت بر ایمنی هوش مصنوعی تعیین کردند.
به گزارش سرویس هوش مصنوعی تکناک،این توافق که رسماً «تعهد مشترک درباره مسئولیت‌های هوش مصنوعی پیشرفته» نام دارد، توسط دیوید ساکس، بنیان‌گذار شرکت‌های فناوری و مشاور رئیس‌جمهور آمریکا، به‌صورت آنلاین منتشر شده است.
ساندر پیچای از گوگل، داریو آمودی از آنتروپیک، مارک زاکربرگ از متا، گرگ براکمن از OpenAI، ایلان ماسک از xAI و جنسن هوانگ از انویدیا این توافق را امضا کرده‌اند.
در ابتدای این سند آمده است: «برای ساختن آینده‌ای مثبت برای مردم آمریکا و جهان، ما معتقدیم هر شرکت مسئول توسعه ایمن فناوری خود و ایجاد اعتماد در میان مشتریان و عموم مردم است.»
در ادامه توافق آمده است: «شرکت‌های مشارکت‌کننده به‌طور منظم با یکدیگر دیدار خواهند کرد تا استانداردها و بهترین رویه‌ها را برای افزایش ایمنی سیستم‌های خود تعیین کنند.»
این توافق چهار قاعده را برای هر شرکت تعیین می‌کند. هدف این قواعد، اطمینان از عملکرد مدل‌های پیشرفته هوش مصنوعی مطابق با هدف تعیین‌شده و شناسایی و رفع سریع مشکلات احتمالی است.
چهار سازوکار برای نظارت بر مدل‌های هوش مصنوعی
۱. ایجاد کنترل‌های داخلی قدرتمند:
شرکت‌ها باید سازوکارهای داخلی قدرتمندی برای نظارت بر قابلیت‌ها و میزان همسویی مدل‌های خود در زمان آموزش و استفاده ایجاد کنند.
این نظارت باید حوزه‌هایی مانند امنیت سایبری، امنیت زیستی و تهدیدهای شیمیایی را پوشش دهد.
شرکت‌ها همچنین باید اطمینان حاصل کنند مدل‌هایشان بدون مجوز، سیستم‌های فنی را هک یا به آنها دسترسی پیدا نمی‌کنند.
۲. تشکیل یک تیم داخلی:
هر شرکت باید یک تیم داخلی را مسئول نظارت بر عملکرد صحیح کنترل‌ها، سازوکارهای پایش و سیستم‌های شناسایی مشکلات کند.
این تیم همچنین باید اطمینان حاصل کند مشکلات شناسایی‌شده برطرف می‌شوند.
۳. ارزیابی مستقل خارجی:
شرکت‌ها باید با یک حسابرس یا ارزیاب مستقل خارجی همکاری کنند تا عملکرد کنترل‌ها، سازوکارهای پایش و سیستم‌های شناسایی مشکلات را به‌صورت مستقل بررسی کند.
۴. نظارت مستقل هیئت‌مدیره:
هر شرکت باید یک کمیته مستقل از هیئت‌مدیره را برای نظارت بر این فرایند تعیین کند.
این کمیته گزارش‌های تیم‌های مسئول کنترل‌ها و همچنین حسابرسان و ارزیاب‌های داخلی و خارجی را دریافت خواهد کرد و باید اطمینان حاصل کند مشکلات شناسایی‌شده برطرف شده‌اند.
بیشتر بخوانید: دولت آمریکا چت‌بات هوش مصنوعی خود را راه‌اندازی کرد
همکاری شرکت‌ها برای تدوین استانداردهای ایمنی
بر اساس این توافق، شرکت‌های مشارکت‌کننده قرار است به‌طور منظم با یکدیگر همکاری کنند و درباره استانداردها و بهترین روش‌ها برای افزایش ایمنی سیستم‌های هوش مصنوعی به تبادل نظر بپردازند.
این چارچوب در حال حاضر بر خودتنظیمی شرکت‌ها متکی است.
با این حال، در متن توافق اشاره شده است که در آینده ممکن است این اقدامات به قوانین یا مقررات رسمی تبدیل شوند.
بیشتر بخوانید: ترامپ دستور تغییر نام هوش مصنوعی به هوش برتر را صادر کرد
