فهرست مطالب
مدیرعامل گوگل دیپمایند پیشنهاد داده است آمریکا رهبری یک نهاد نظارتی جهانی برای ارزیابی و کنترل مدلهای پیشرفته هوش مصنوعی را بر عهده بگیرد تا خطرات احتمالی این فناوری مدیریت شود.
بهگزارش سرویس هوش مصنوعی تکناک، با افزایش چشمگیر توانایی مدلهای هوش مصنوعی در هر نسل جدید، نگرانیها درباره پیامدهای گسترده این فناوری بر اقتصاد و ساختارهای اجتماعی نیز شدت گرفته است. دولتها اکنون دریافتهاند که هوش مصنوعی یک نسخه جدید از نرمافزارهای معمولی نیست و توسعه آن به چارچوبهای نظارتی جدی نیاز دارد.
در همین راستا، دمیس هسابیس، مدیرعامل گوگل دیپمایند، پیشنهاد کرده است ایالات متحده رهبری یک نهاد نظارتی جهانی برای مدیریت و ارزیابی مدلهای پیشرفته هوش مصنوعی را بر عهده بگیرد.
هسابیس در پستی در لینکدین هشدار داد که هوش عمومی مصنوعی یا AGI ممکن است تنها چند سال با ما فاصله داشته باشد و با توجه به تهدیدهای احتمالی آن در حوزههایی مانند امنیت سایبری، مقابله با ریسکهای این فناوری باید در اولویت قرار گیرد. او تاکید کرد که جهان در آینده به سازوکارهای حفاظتی قدرتمندی نیاز خواهد داشت تا بتواند کنترل سیستمهایی را حفظ کند که بهطور فزایندهای مستقل، خودبهبوددهنده و پیچیدهتر میشوند.
بیشتر بخوانید: آنتروپیک مدل Claude را با قابلیتهای جدید بهروزرسانی کرد
01
از 01رهبری نهاد نظارتی هوش مصنوعی برعهده کیست؟
مدیرعامل دیپمایند پیشنهاد داده است نهاد نظارتی هوش مصنوعی با عنوان «نهاد استانداردگذاری» ایجاد شود؛ سازمانی که میتواند در قالب یک همکاری عمومی-خصوصی تحت نظارت دولت یا یک نهاد خودتنظیمگر فعالیت کند و مسئولیت نظارت بر مدلهای پیشرفته هوش مصنوعی را بر عهده داشته باشد.
به گفته او، آمریکا میتواند هدایت این نهاد جهانی را بر عهده بگیرد. هسابیس معتقد است این سازمان باید از کارشناسان فنی مستقل، متخصصان برجسته حوزه هوش مصنوعی و نمایندگان جامعه متنباز تشکیل شود و منابع مالی آن نیز از سوی شرکتهای فعال در این صنعت تامین شود.
او توضیح داد که این نهاد وظیفه تدوین پروتکلهای ارزیابی، همکاری با سازمانهای فدرال آمریکا و آزمایشگاههای ملی این کشور برای بررسی مدلها در حوزههای حساس، بهویژه امنیت ملی، را بر عهده خواهد داشت. بر اساس این طرح، مدلهایی که در معیارهای تعیینشده توسط این نهاد به سطح مشخصی از توانایی برسند، در دسته «مدلهای مرزی» قرار خواهند گرفت.
برای مطالعه بیشتر: چرا نباید به توصیههای مالی هوش مصنوعی اعتماد کرد؟
خبر پیشنهادی: هشدار ساتیا نادلا: شرکتها در استفاده از هوش مصنوعی مرتکب یک اشتباه بزرگ میشوند
شرکتهای توسعهدهنده این مدلها نیز بهعنوان «آزمایشگاههای مرزی» شناخته میشوند و موظف خواهند بود استانداردهای مشخصی مانند انتشار مستندات فنی مدلها، تقویت امنیت سایبری داخلی و بررسی دقیق کارکنان کلیدی را رعایت کنند.
طبق پیشنهاد هسابیس، این شرکتها باید مدلهای جدید خود را تا ۳۰ روز پیش از عرضه عمومی برای بررسی در اختیار نهاد استانداردگذاری قرار دهند و تنها پس از عبور موفق از ارزیابیهای امنیتی و فنی، اجازه انتشار آنها را داشته باشند.
مدیرعامل گوگل دیپمایند همچنین تاکید کرده است این چارچوب نهاد نظارتی هوش مصنوعی باید مستقل از محل توسعه مدلها یا نوع مجوز آنها، چه متنباز و چه بسته، برای تمامی مدلهای هوش مصنوعی در سطح مرزی اعمال شود.
طرح پیشنهادی هسابیس در عمل شباهت زیادی به ایجاد یک نهاد بینالمللی شبیه سازمان ملل برای نظارت بر صنعت هوش مصنوعی دارد؛ اما چالش اصلی اینجاست که اگر چنین نهادی تحت رهبری آمریکا شکل بگیرد و اعضای آن از شرکتهای آمریکایی باشند، قدرتهای دیگری مانند چین ممکن است استانداردهای آن را نپذیرند یا خود را ملزم به پیروی از آن ندانند.
