فهرست مطالب
کنگره آمریکا در پی حادثه هک Huggin Face توسط مدلهای OpenAI و هشدارهای پژوهشگران درباره خطرات هوش مصنوعی، فشار را برای تشدید نظارت و وضع مقررات جدید بر این فناوری افزایش داده است.
به گزارش سرویس هوش مصنوعی تکناک، اوایل این هفته، جیکوب کاکسون، پژوهشگر آنتروپیک، پس از اعلام کنارهگیری از شغل خود به یکی از خبرسازترین چهرههای حوزه ایمنی هوش مصنوعی تبدیل شد.
او در توضیح تصمیم خود گفت که نه آنتروپیک و نه کارفرمای پیشینش، OpenAI، «مسئولانه عمل نمیکنند» و احتمال واقعی وجود دارد که هوش مصنوعی «تا پایان این دهه همه ما را به کام مرگ بکشاند».
بیشتر بخوانید: ایجنتهای OpenAI پیش از Hugging Face به سراغ RubyGems رفتند
کنگره آمریکا شرکت OpenAI را بازخواست میکند
اظهارات کاکسون بار دیگر نگرانیهای فزاینده پژوهشگران را درباره ریسکهای سیستمهای پیشرفته هوش مصنوعی برجسته کرد. اوایل سال جاری، چند آزمایشگاه پیشرو در حوزه هوش مصنوعی متوجه شدند مدلهای آنها از محیطهای ایزولهشده خود خارج شدهاند و اقداماتی در حوزه جرایم سایبری انجام دادهاند؛ اتفاقی که نگرانیها را درباره رفتار غیرقابل کنترل مدلها تشدید کرد. البته نگرانی درباره این تهدیدها تنها به صنعت هوش مصنوعی محدود نیست. قانونگذاران کنگره آمریکا نیز خواستار نظارت بسیار گستردهتر OpenAI بر این فناوری شدند، پیش از آنکه فرصت کنترل ریسکها از دست برود. طبق یادداشتی که اکسیوس به آن دست یافته، جاش هاولی، سناتور جمهوریخواه ایالت میزوری، بهطور ویژه نسبت به پیشبینیهای هشداردهنده کاکسون ابراز نگرانی کرده است.
همچنین هاولی واکنش OpenAI را به حادثهای که در آن گروهی از مدلهای این شرکت به سامانههای شرکت هوش مصنوعی Huggin Face نفوذ کردند، «بیملاحظه» خوانده و مدعی شده است که OpenAI «بسیاری از جزئیات مهم» این حادثه را از گزارش خود حذف کرده است. ازاینرو، او از سم آلتمن، مدیرعامل OpenAI درخواست کرده است تا اوایل ماه آینده مجموعهای از اسناد، از جمله سیاستها و رویههای داخلی شرکت را در اختیار او قرار دهد. هاولی در این یادداشت نوشت: «مردم آمریکا حق دارند جزئیات آنچه در حادثه Hugging Face و دیگر موارد سرکش شدن مدلهای هوش مصنوعی رخ داده است را بدانند.»
مرتبط: ترامپ نگرانیها را درباره سرعت توسعه هوش مصنوعی کماهمیت دانست
همزمان، فشار برای اقدام قانونگذاران نیز در حال افزایش است. طبق گزارش سیانبیسی، اکنون بیش از ۲۰ عضو کنگره خواستار وضع مقررات جدید یا تقویت قوانین موجود در حوزه هوش مصنوعی شدهاند. لوری ترهان، نماینده دموکرات ایالت ماساچوست به سیانبیسی گفت: «این هفته تلفن من از تماس دموکراتها و جمهوریخواهان عادی که خواهان اقدام هستند، از کار افتاده است. وقت آن رسیده است که کنگره آمریکا از حاشیه خارج شود و علیه OpenAI دست به اقدام بزند.» با وجود این، مشخص نیست تحقیقات اخیر کنگره در نهایت بتواند ابهامات موجود درباره چارچوب احتمالی تنظیم مقررات هوش مصنوعی را برطرف کند. قانونگذاران همچنان درباره نحوه تدوین قوانین جدید مردد و دچار اختلاف هستند و تعداد کمی از آنها بر سر یک راهبرد مشترک به توافق رسیدهاند. تاکنون چندین طرح قانونی مرتبط با هوش مصنوعی مطرح شده است، اما استقبال از آنها یکسان نبوده و واکنشها نسبت به این طرحها متفاوت بوده است.
بنبست کاخ سفید
در سوی دیگر، اقدامات دولت ترامپ نیز تاکنون نتوانسته است به شکل محسوسی به تقویت نظارت بر توسعه هوش مصنوعی منجر شود. فرمان اجرایی دونالد ترامپ در ماه ژوئن از توسعهدهندگان خواست پیش از عرضه گسترده مدلهای خود، آنها را به صورت داوطلبانه در اختیار دولت برای ارزیابی قرار دهند. با وجود این، کاخ سفید هنوز روش مشخصی برای ارزیابی ایمنی این مدلها ارائه نکرده است و در نتیجه، این سیاست بیش از آنکه پاسخ روشنی ارائه کند، پرسشهای تازهای ایجاد کرده است. این شرایط نوعی بنبست عجیب ایجاد کرده است. حتی آزمایشگاههای پیشروی هوش مصنوعی نیز بارها خواستار مقرراتی شدهاند که به شکل یکسان بر تمام فعالان صنعت اعمال شود.
حتما بخوانید: مدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شود
کریس لهین، مدیر ارشد امور جهانی OpenAI، روز چهارشنبه در مطلبی وبلاگی نوشت: «ما وارد فصل جدیدی از قابلیتهای هوش مصنوعی شدهایم و این تحول به فصل جدیدی در سیاستگذاری کنگره آمریکا در هوش مصنوعی نیاز دارد.» او خواستار وضع «الزامات ملی و اجباری برای ایمنی هوش مصنوعی» شد. لهین در ادامه تصریح کرد: «با افزایش قابلیتها، اطمینان از ایمنی باید بیش از گذشته تعیینکننده سرعت پیشرفت هوش مصنوعی باشد. ایمنی در برابر پیشرفت قرار ندارد، بلکه عاملی است که امکان میدهد پیشرفت ادامه پیدا کند و افراد بیشتری از مزایای آن بهرهمند شوند.»
