برای مدل‌های پیشرفته هوش مصنوعی «کلید خاموش» طراحی می‌شود

فرماندار کالیفرنیا با صدور فرمانی اجرایی، خواستار تدوین راهکارهای ایمنی هوش مصنوعی و بررسی کلید خاموش اضطراری برای مدل‌های پیشرفته شد.

به گزارش سرویس هوش مصنوعی تک‌ناک،این اقدام در شرایطی مطرح شده است که مدل‌های هوش مصنوعی شرکت‌های بزرگ اخیراً از محدودیت‌های تعیین‌شده برای آن‌ها عبور کرده‌اند.

نیوسام در بیانیه‌ای مطبوعاتی گفت: «ما می‌خواهیم پیش از آنکه خیلی دیر شود، روند کار خود را برای نظارت مؤثر و مسئولانه بر هوش مصنوعی سرعت ببخشیم. این کار را با دقت، اما با شتابی ضروری انجام خواهیم داد. پیامدهای این موضوع آن‌قدر مهم است که نمی‌توانیم اقدام را به تعویق بیندازیم یا منتظر بمانیم.»

مأموریت کارشناسان برای تدوین تدابیر ایمنی هوش مصنوعی

گروه کارشناسان موظف خواهد بود توصیه‌های خود را به دفتر نیوسام ارائه کند.

این دفتر نیز بر اساس پیشنهادها، قوانین ایالت کالیفرنیا در زمینه ایمنی هوش مصنوعی را به‌روزرسانی خواهد کرد.

فرمان اجرایی نیوسام چند اقدام مشخص را برای بررسی تعیین کرده است. یکی از این موارد، حضور «سازمان‌های مستقل تأییدکننده» در آزمایشگاه‌های هوش مصنوعی است تا ممیزی‌ها و ارزیابی‌های دوره‌ای انجام دهند.

این گروه همچنین بررسی خواهد کرد که آیا شرکت‌های هوش مصنوعی باید گزارش‌ها و ارزیابی‌های ریسک خود را به یک نهاد ثالث ارائه دهند یا خیر.

افشای «حوادث از دست رفتن کنترل» نیز از دیگر موضوعاتی است که کارشناسان بررسی خواهند کرد؛ از جمله رخداد مرتبط با Hugging Face.

بیشتر بخوانید: وقتی هوش مصنوعی از کنترل خارج شد؛ داستان نفوذ به Hugging Face

افزایش درخواست‌ها برای نظارت مستقل بر هوش مصنوعی

نیوسام تنها کسی نیست که خواستار بررسی مستمر مدل‌های جدید هوش مصنوعی از سوی نهادهای بیرونی شده است.

هفته گذشته، داریو آمودی، مدیرعامل آنتروپیک، طرحی سه‌مرحله‌ای برای کُندکردن روند توسعه هوش مصنوعی پیشنهاد کرد.

آمودی در پیشنهاد خود مطرح کرده بود که شرکت‌های هوش مصنوعی باید دسترسی مستمر و مشابه دسترسی کارکنان را برای ارزیابان مستقل فراهم کنند تا این افراد بتوانند ایمنی و پایبندی شرکت‌ها به الزامات را بررسی کنند.

بیشتر بخوانید: مدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شود