فهرست مطالب
دولت بریتانیا پیشنهاد ایجاد یک کلید خاموش اضطراری برای هوش مصنوعی را رد کرده است، در حالی که گروهی از قانونگذاران آمریکایی به دنبال وضع قوانین سختگیرانهتر برای کنترل مدلهای پرقدرت هستند.
به گزارش سرویس هوش مصنوعی تکناک، نگرانی درباره کنترلناپذیر شدن هوش مصنوعی روزبهروز بیشتر میشود و دولتها در تلاش هستند راهی برای مدیریت خطرات مدلهای پیشرفته پیدا کنند، اما این اختلاف نظر بین بریتانیا و آمریکا نشان میدهد که موضوع ایمنی هوش مصنوعی تنها یک مسئله فنی نیست و به رقابت جهانی میان کشورها نیز ارتباط پیدا کرده است.
بیشتر بخوانید: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد
چرا بریتانیا کلید خاموشی هوش مصنوعی را رد کرد؟
بحث بر سر ایجاد یک سازوکار اضطراری برای خاموش کردن مدلهای خطرناک هوش مصنوعی در پارلمان بریتانیا مطرح شد. پیشنهاد ارائهشده میتوانست به نهادهای نظارتی اجازه دهد در شرایط بحرانی، فعالیت یک مدل هوش مصنوعی را متوقف کنند.
حامیان این طرح معتقد بودند اگر یک سیستم خودمختار در زیرساختهای حیاتی مورد استفاده قرار بگیرد و رفتار غیرقابلکنترلی از خود نشان دهد، دولت باید ابزار قانونی لازم را برای توقف آن داشته باشد.
با وجود این، دفتر کابینه بریتانیا با این پیشنهاد مخالفت کرد. استدلال اصلی این بود که خاموش کردن یک سیستم در بریتانیا نمیتواند مانع توسعه یا استفاده از مدل مشابه در کشورهای دیگر شود. به همین دلیل، یک کلید خاموش اضطراری هوش مصنوعی در سطح یک کشور نمیتواند بهتنهایی خطرات جهانی این فناوری را برطرف کند.
قانونگذاران آمریکا به دنبال نظارت سختگیرانهتر هستند
در آمریکا شرایط متفاوت است. گروهی از قانونگذاران هر دو حزب در حال بررسی طرحهایی برای افزایش نظارت بر شرکتهای سازنده مدلهای پیشرفته هوش مصنوعی هستند.
یکی از پیشنهادهای مطرحشده، الزام شرکتهای بزرگ هوش مصنوعی به انجام ممیزیهای امنیتی مستقل است. بر اساس این رویکرد، مدلهای قدرتمند باید پیش از عرضه یا در طول فعالیت خود توسط نهادهای مستقل از نظر خطرات امنیتی و عملکردی بررسی شوند.
همچنین برخی قانونگذاران به دنبال ایجاد اختیارات قانونی برای توقف عرضه یک مدل یا حتی خاموش کردن زیرساختهای آن در شرایط بسیار خطرناک هستند. هدف این طرحها ایجاد یک سازوکار اضطراری برای زمانی است که یک سیستم هوش مصنوعی نشانههایی از رفتار فاجعهبار یا غیرقابلکنترل نشان دهد.
رقابت آمریکا و چین تصمیمگیری را دشوار میکند
با وجود افزایش نگرانیها، تصویب قوانین سختگیرانه در آمریکا ساده نخواهد بود. یکی از مهمترین موانع، رقابت فناوری این کشور با چین است.
دولت آمریکا بارها بر اهمیت حفظ برتری فناوری در حوزه هوش مصنوعی تأکید کرده است. مخالفان قوانین سختگیرانه معتقد هستند مقررات بیش از حد میتواند سرعت توسعه شرکتهای آمریکایی را کاهش دهد و در نهایت به رقبای خارجی فرصت بیشتری بدهد.
در نتیجه، قانونگذاران آمریکایی با یک انتخاب دشوار روبهرو هستند: چگونه میتوان هم ایمنی هوش مصنوعی را افزایش داد و هم اجازه نداد محدودیتهای داخلی باعث عقب ماندن آمریکا در رقابت جهانی شود؟
بیشتر بخوانید: مدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شود
آیا این کلید مشکل هوش مصنوعی را حل میکند؟
مخالفت بریتانیا یک نکته مهم را برجسته میکند؛ خطرات هوش مصنوعی مرز جغرافیایی نمیشناسند. اگر یک مدل قدرتمند در یک کشور متوقف شود، امکان توسعه یا اجرای مدلهای مشابه در کشور دیگری وجود دارد.
به همین دلیل، ایجاد کلید خاموش اضطراری برای هوش مصنوعی شاید تنها بخشی از راهحل باشد. هماهنگی بینالمللی، ممیزی مستقل، استانداردهای ایمنی و نظارت دقیق بر شرکتهای فعال در این حوزه نیز میتواند اهمیت زیادی داشته باشد.
در نهایت، اختلاف میان بریتانیا و آمریکا نشان میدهد که هنوز درباره بهترین روش کنترل هوش مصنوعی پیشرفته توافق جهانی وجود ندارد. در حالی که لندن یک اقدام یکجانبه را ناکافی میداند، واشنگتن در حال بررسی ابزارهای قانونی بیشتری برای مقابله با خطرات احتمالی این فناوری است.
