آیا گوگل به هوش مصنوعی خودبهبودگر رسیده است؟

شایعات درباره دستیابی گوگل به هوش مصنوعی خودبهبودگر، هم‌زمان با درخواست آنتروپیک، OpenAI و ایلان ماسک برای کند کردن روند توسعه هوش مصنوعی، نگرانی‌هایی درباره خطر این فناوری ایجاد کرده است.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، جنجال امروز با انتشار نامه سرگشاده داریو آمودی، مدیرعامل آنتروپیک آغاز شد؛ نامه‌ای که در آن خواستار کنترل سرعت پیشرفت هوش مصنوعی شده است تا مدل‌های نسل جدید همچنان با هدف کلان تضمین ایمنی انسان‌ها به‌ عنوان یک گونه، هم‌راستا باقی بمانند.

محتوای نامه آمودی

آمودی در این نامه به‌طور ویژه درباره خطر «هوش مصنوعی خودبهبودگر» یا RSI هشدار داده است. او نوشته است:

«نخستین نگرانی من این است که از حدود تابستان امسال، سرعت پیشرفت هوش مصنوعی به‌ شدت افزایش یافته و عامل اصلی آن، توانایی فزاینده هوش مصنوعی برای ساخت نسل بعدی سیستم‌های هوش مصنوعی است. این پدیده هوش مصنوعی خودبهبودگر نام دارد و همان‌طور که ما و دیگران توضیح داده‌ایم، در حال وقوع در سراسر صنعت از جمله آنتروپیک است. اگر این روند بدون کنترل ادامه پیدا کند، ممکن است از توانایی ما برای درک و کنترل این سیستم‌ها پیشی بگیرد. بنابراین، چنین فرایندی باید با احتیاط بسیار زیادی دنبال شود و حتی ممکن است نباید آن را دنبال کرد.»

آمودی در ادامه متعهد شد که آنتروپیک به‌ صورت یک‌جانبه سرعت توسعه هوش مصنوعی خود را کنترل کند. او همچنین اعلام کرد که گروهی از ارزیابان مستقل شخص ثالث، از جمله سازمان‌هایی مانند METR، به سطحی از دسترسی مشابه کارکنان شرکت دسترسی خواهند داشت. این ارزیابان وظیفه خواهند داشت میزان پایبندی آنتروپیک به رویه‌ها و تعهدات ایمنی را بررسی کنند، حوادث را گزارش دهند و هم‌راستایی را نه‌فقط در مدل‌های تکمیل‌شده، بلکه در خطوط آموزش و فرایندهای توسعه هوش مصنوعی نیز ارزیابی کنند.

بیشتر بخوانید: چرا اپل مسیر متفاوتی برای هوش مصنوعی انتخاب کرده است؟

کنترل هوش مصنوعی خودبهبودگر

سم آلتمن، مدیرعامل OpenAI نیز با حمایت از این پیشنهاد نوشت که با آمودی موافق است و «باید سرعت توسعه هوش مصنوعی پیشرفته را کنترل کنیم». او تصریح کرد که این موضوع طی هفته‌های اخیر یکی از محورهای اصلی گفت‌وگوها در OpenAI بوده است. همچنین آلتمن ایده استفاده از ارزیابان مستقل با سطح دسترسی مشابه کارکنان را مثبت ارزیابی کرد و گفت که OpenAI نیز چنین سازوکاری را اجرا خواهد کرد و جزئیات بیشتری را در آینده ارائه می‌دهد. در ادامه، پیشنهاد آمودی برای کنترل سرعت توسعه هوش مصنوعی با واکنش ایلان ماسک، مدیرعامل SpaceX و آلتمن مواجه شد؛ موضوعی که می‌تواند نشانه‌ای از وجود نوعی هماهنگی میان برخی از بازیگران اصلی صنعت هوش مصنوعی باشد. در همین حال، OpenAI حتی برنامه خود را برای عرضه اولیه سهام در سال جاری کنار گذاشته است.

مرتبط: اروپا صاحب یک قطب جدید هوش مصنوعی می‌شود

با وجود این، اگرچه اهداف اعلام‌شده این کارزار در ظاهر معقول و خیرخواهانه به نظر می‌رسند، اما درخواست برای کاهش سرعت توسعه هوش مصنوعی خودبهبودگر با موج قابل‌ توجهی از تردید مواجه شده است. این تردیدها به‌ویژه پس از رفتارهای عجیب آنتروپیک طی چند روز گذشته شدت گرفته‌اند؛ اتفاقاتی که پس از اعلام OpenAI درباره یافتن راه‌حلی برای مسئله ریاضی هزاره ناویر-استوکس رخ داد. ابتدا جیکوب کاکسون، یکی از اعضای آنتروپیک در ابتدای هفته استعفای خود را اعلام کرد؛ اقدامی که گفته شد در اعتراض به حرکت بی‌محابای آنتروپیک به سمت ابرهوش خودبهبوددهنده انجام شده است. پس از آن، ایوان هوبینگر، مسئول ارشد هم‌راستاسازی مدل‌ها در آنتروپیک، احتمال بیش از ۱۰ درصدی را مطرح کرد که هوش مصنوعی طی دهه آینده تمام انسان‌ها را از بین ببرد. انتشار نامه امروز آمودی نیز این زنجیره بحث‌برانگیز را تکمیل کرد.

با توجه به این مجموعه اتفاقات، منتقدان چندان قانع نشده‌اند که روایت آنتروپیک درباره کنترل سرعت توسعه هوش مصنوعی با هدف افزایش ایمنی مطرح شده باشد. برای نمونه، نگرانی درباره احتمال شکستن رمزنگاری SHA-256 باعث توقف تحقیقات در حوزه رایانش کوانتومی نشده است. همچنین در آستانه آغاز هزاره جدید، نگرانی گسترده درباره مشکل Y2K نیز مانع ادامه توسعه نرم‌افزار نشد. از دید منتقدان آنتروپیک، کند کردن روند پیشرفت فناوری راه‌حل مقابله با خطرات احتمالی هوش مصنوعی نیست.

حتما بخوانید: کشورها باید بین ائتلاف هوش مصنوعی واشنگتن و پکن یکی را انتخاب کنند

نقش چین

علاوه بر این، پیشنهاد آنتروپیک و دیگر شرکت‌ها احتمالا می‌تواند باعث وضعیتی شود که مصداق «تسخیر مقررات» باشد؛ وضعیتی که با دخالت گسترده دولت و ایجاد موانع بسیار سنگین برای استارت‌آپ‌ها، همچنین توسعه‌دهندگان مدل‌های با وزن‌های باز همراه خواهد بود. آزمایشگاه‌های هوش مصنوعی چین نیز از جمله بازیگرانی هستند که بر توسعه مدل‌های با وزن‌های باز تمرکز دارند. با وجود این، ممکن است ایجاد چنین شرایطی یکی از اهداف پنهان این حرکت هماهنگ باشد؛ به‌ویژه در شرایطی که مدل‌های هوش مصنوعی چین همچنان جایگاه برتر OpenAI و آنتروپیک را تهدید می‌کنند؛ مسئله‌ای که دیپ‌سیک با مدل V4.1 Flash خود بار دیگر نشان داده است.

در نهایت، به‌نظر می‌رسد زمان‌بندی هشدارهای آنتروپیک درباره RSI یا «هوش مصنوعی خودبهبودگر» بسیار قابل‌ تامل است، چرا که این هشدارها درست زمانی مطرح شده‌اند که شایعاتی درباره دستیابی دیپ‌مایند گوگل به این دستاورد بسیار مهم منتشر شده است. در خودبهبوددهی بازگشتی، یک سیستم هوش مصنوعی می‌تواند برای طراحی، کدنویسی یا آموزش نسل بعدی خود مورد استفاده قرار گیرد و در این فرایند، امکان دستیابی به صرفه‌جویی‌های مقیاس‌پذیر و افزایش بهره‌وری بسیار بزرگی فراهم می‌شود.

شاید آمودی، آلتمن و ماسک نمی‌خواهند دیپ‌سیک، مون‌شات و Z.ai چین نیز به سطح مشابهی از توانمندی دست پیدا کنند. در نهایت، اعمال محدودیت سرعت توسعه هوش مصنوعی در سطح جهانی به همراهی چین نیاز دارد؛ همراهی‌ که بعید است در آینده نزدیک حاصل شود. در چنین شرایطی، به نظر می‌رسد مدیران و چهره‌های بانفوذ صنعت هوش مصنوعی روی ایجاد نوعی «خندق حفاظتی» تحت هدایت دولت حساب کرده‌اند تا موقعیت کنونی خود را در برابر رقبای جدید حفظ کنند. البته از منظر منصفانه، اعمال محدودیت بر سرعت توسعه هوش مصنوعی هزینه‌هایی نیز برای آنتروپیک و OpenAI خواهد داشت و آنها را وادار می‌کند از بخشی از درآمد بالقوه خود صرف‌نظر کنند. اینکه آزمایشگاه‌های هوش مصنوعی حاضر هستند چنین هزینه‌ای را بپذیرند، به‌خوبی نشان می‌دهد پیشرفت چین در رقابت هوش مصنوعی تا چه اندازه آنها را نگران و متزلزل کرده است.