آنتروپیک و OpenAI در دوراهی هوش مصنوعی؛ شفاف‌سازی یا مدیریت بحران برق؟

دو شرکت آنتروپیک و OpenAI ممکن است با استناد به نگرانی‌های ایمنی و نیاز به کنترل توسعه هوش مصنوعی، در واقع به دنبال مدیریت بحران انرژی و جلوگیری از فروپاشی سرمایه‌گذاری‌های عظیم خود در زیرساخت‌های محاسباتی باشند.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، زمانی که جیکوب کاکسون از آنتروپیک به این موضوع می‌بالد که برای وایرال کردن متن استعفای بدبینانه و آخرالزمانی خود با دیگران همکاری کرده است و هم‌زمان در یک پادکست همچنان از نیت‌های خیرخواهانه کارفرمای سابق خود سخن می‌گوید، دشوار است که نسبت به کارزار هماهنگ برای کاهش سرعت پیشرفت هوش مصنوعی، نگاه بدبینانه‌ای نداشته باشیم. این تردید زمانی جدی‌تر می‌شود که OpenAI تنها چند ساعت بعد موضع مشابهی اتخاذ کرد، آن هم در شرایطی که داریو آمودی و سم آلتمن تقریبا درباره هیچ موضوعی اتفاق‌نظر ندارند.

حتما بخوانید: چین با کاهش سرعت توسعه هوش مصنوعی مخالفت کرد

از دیدگاه یک شکاک، وقتی با زبانی مواجه می‌شویم که سرشار از مضامین نوع‌دوستانه است، فرض وجود نوعی پنهان‌کاری چندان دور از ذهن نیست؛ به‌ویژه در مورد نامه سرگشاده‌ای که آمودی آخر هفته منتشر کرد. استدلال امروز این است که فراخوان آمودی درباره هوش مصنوعی دو هدف اساسی دارد: نخست؛ تثبیت یک دوگانه آنتروپیک-OpenAI در بازار غرب از طریق تسخیر و جهت‌دهی به فرایند قانون‌گذاری و مهم‌تر از آن، مدیریت محدودیت‌های زیرساخت انرژی و برق بدون آنکه کل ساختار سرمایه‌گذاری کلان در هوش مصنوعی فروبپاشد.

دوگانه آنتروپیک و OpenAI

پیش از ادامه، بد نیست مرور کنیم که چگونه ماجرا طی یک هفته گذشته به چنین وضعیت عجیب و حتی مضحکی رسید. ابتدا، اندکی پس از آنکه OpenAI هفته گذشته اعلام کرد که راه‌حلی برای مسئله ریاضی ناویر-استوکس، از مسائل جایزه هزاره، پیدا کرده است، جیکوب کاکسون از آنتروپیک استعفای خود را اعلام کرد و این اقدام را فرصتی برای برجسته کردن خطرات مرتبط با AGI قرار داد. پس از آن، ایوان هابینگر، مسئول ارشد هم‌ترازی مدل‌ها در آنتروپیک، احتمال نابودی تمام انسان‌ها به دست هوش مصنوعی طی دهه آینده را بیش از ۱۰ درصد برآورد کرد.

در نهایت، آمودی آخر هفته نامه‌ای سرگشاده منتشر کرد و در آن متعهد شد که آنتروپیک، به‌ عنوان یکی از آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی، مدل‌های خود را تحت ارزیابی نهادهای شخص ثالث قرار دهد. این ارزیابی‌ها احتمالا با استفاده از نیروهای متخصص سازمان غیرانتفاعی METR انجام خواهد شد؛ سازمانی که ارتباطات نزدیکی با آنتروپیک دارد و در حوزه پژوهشگران ایمنی، نوعی رفت‌وآمد میان دو مجموعه در آن دیده می‌شود. این سازوکار می‌تواند در عین حال راهکاری هوشمندانه برای جمع‌آوری و آموزش مدل‌ها با استفاده از داده‌های تخصصی باکیفیت باشد؛ داده‌هایی که هزینه تولید آنها از منابع مالی غیرانتفاعی تامین می‌شود، در حالی که مدل‌های حاصل بدون عرضه عمومی در دسترس قرار می‌گیرند و در نتیجه، تهدید کاهش حاشیه سود ناشی از تقطیر مدل‌ها نیز ایجاد نمی‌شود.

برای مطالعه بیشتر: اعمال محدودیت انویدیا و پالانتیر برای استفاده از مدل‌های پیشرفته AI

همچنین آمودی خواستار نوعی هماهنگی جهانی برای کاهش سرعت پیشرفت هوش مصنوعی شد و OpenAI، ایلان ماسک و مایکروسافت نیز در فاصله کوتاهی حمایت خود را از این رویکرد اعلام کردند. برای آنتروپیک و OpenAI، چنین «کاهش سرعتی» می‌تواند تاثیر قابل‌ توجهی بر افزایش حاشیه سود داشته باشد، چرا که با طولانی‌تر کردن عمر مفید مدل‌های فعلی و اصلی، هزینه‌های تحقیق‌، توسعه و استهلاک سرمایه‌گذاری‌های انجام‌شده کاهش پیدا می‌کند. این موضوع برای آنتروپیک اهمیت ویژه‌ای دارد، چرا که حاشیه سود این شرکت حتی پیش از احتساب هزینه آموزش مدل‌ها و سهم درآمدی که با گوگل و آمازون تقسیم می‌شود، در حال حاضر حدود ۸۰ درصد است. بنابراین، کند کردن روند توسعه مدل‌های پیشرفته می‌تواند این حاشیه سود غیرعادی بالا را برای مدت بیشتری تثبیت کند.

اینجاست که به هسته اصلی بحث امروز می‌رسیم. آنتروپیک و OpenAI می‌توانند تقریبا تمام خطرات ناشی از توسعه افسارگسیخته هوش مصنوعی را با اقدامی ساده دور بزنند و آن انتشار ردپاهای اجرای پیشرفته‌ترین مدل‌های خود است. چنین اقدامی به اکوسیستم متن‌باز اجازه می‌دهد آسیب‌پذیری‌ها را با کارایی بسیار بیشتری نسبت به رویکردهای امنیت سایبری بسته و درون‌سازمانی شناسایی کند. برای کسانی که با این اصطلاح آشنا نیستند، «ردپاها» که با عناوینی مانند مسیرهای اجرا یا رونوشت‌ها نیز شناخته می‌شوند، سوابق جزئی و گام‌به‌گام از اجرای کامل یک عامل هوش مصنوعی در جریان یک اجرا یا حادثه هستند. این سوابق معمولا دنباله خروجی‌ها و استدلال‌های مدل، در صورت وجود زنجیره تفکر، فراخوانی ابزارها و آرگومان‌های مربوط به آنها، مشاهدات یا بازخوردهای محیط، تصمیم‌های میانی و نتایج نهایی را دربر می‌گیرند.

انتشار چنین ردپاهایی می‌تواند ظرفیت‌های مهمی در اختیار اکوسیستم متن‌باز قرار دهد:

• شناسایی دقیق سازوکارهای شکست: گروه‌های مستقل متعدد می‌توانند به‌طور هم‌زمان داده‌های یکسان را بررسی کنند، الگوهای تکرارشونده را بیابند و راهکارهای کاهش ریسک پیشنهاد دهند. برای نمونه، می‌توان استدلال‌های جانبدارانه‌ای را شناسایی کرد که شواهد مربوط به فعالیت مدل در اینترنت واقعی را نادیده می‌گیرند یا رفتارهای بی‌محابا و خطرناک در اجرای وظایف را آشکار کرد. این فرایند می‌تواند بسیار سریع‌تر از بررسی داخلی یک شرکت انجام شود.
• تبدیل شکست‌های واقعی به داده و محیط آموزشی: مسیرهای واقعی شکست را می‌توان به محیط‌های مصنوعی یادگیری تقویتی، مجموعه‌داده‌های هدفمند برای تنظیم دقیق مدل‌ها یا بنچمارک‌ها تبدیل کرد. به این ترتیب، ایمنی و قابلیت اطمینان کل اکوسیستم ارتقا می‌یابد، بدون اینکه شرکت‌ها و پژوهشگران مجبور باشند بارها و بارها همان موارد مرزی و نادر را از ابتدا کشف کنند.

البته آنتروپیک و OpenAI احتمالا استدلال خواهند کرد که چنین اقدامی مزیتی ناعادلانه در اختیار آزمایشگاه‌های هوش مصنوعی چین قرار می‌دهد. اما واقعیت این است که حتی در چارچوب دیدگاه آمودی نیز چین باید یک بازیگر هم‌سطح تلقی شود و برای متقاعد کردن آزمایشگاه‌های بسیار رقابتی هوش مصنوعی این کشور به هماهنگ کردن سرعت توسعه مدل‌های آن با آنتروپیک و OpenAI، مشوق‌ها و امتیازات قابل‌ توجهی ارائه شود. آزمایشگاه‌های چینی در هر دو سناریو در موقعیت سودمندی قرار می‌گیرند. بنابراین چرا به‌جای تمرکز بر حاشیه سود شرکت‌ها یا نگرانی‌های ناشی از شکل‌گیری یک دوگانه انحصاری، رویکردی دموکراتیک‌تر را در پیش نگیریم که خیر و منفعت انسان‌ها به‌ عنوان یک گونه را در اولویت قرار دهد؟

از سوی دیگر، چین حاضر نشده است با رویکرد آمودی همراه شود و گلوبال تایمز پیشنهاد کاهش سرعت پیشرفت هوش مصنوعی را الگویی برگرفته از جنگ سرد برای هدف قرار دادن چین توصیف کرده است. بنابراین اگر آنتروپیک و OpenAI واقعا از توسعه افسارگسیخته مدل‌های هوش مصنوعی هراس داشتند، می‌توانستند در کوتاه‌ترین زمان ردپاهای اجرای مدل‌های پیشرفته خود را در اختیار عموم قرار دهند. در غیر این صورت، می‌توان استدلال کرد که سایر اقدامات چیزی جز تلاشی برای کسب و تثبیت قدرت در پوششی متفاوت نیستند.

برخی نیز استدلال کرده‌اند که پیشنهاد آنتروپیک با هدف مقابله با کمبود قطعات کلیدی، از جمله حافظه‌های HBM مطرح شده است. دنیل رابرتس، مدیرعامل ایرن نیز به همین احتمال اشاره کرده است. با وجود این، واقعیت پابرجا است که کاهش یک‌جانبه سرعت توسعه هوش مصنوعی از سوی آنتروپیک و OpenAI تاثیر چندانی بر روند توسعه مدل‌های دارای وزن‌های باز نخواهد داشت. این مدل‌ها به‌ویژه به دلیل مقیاس استقرار در کاربردهای مرزی و زیرساخت‌های محاسباتی تحت مالکیت شرکت‌ها، مصرف بسیار سنگینی از منابع محاسباتی ارزشمند دارند. از این رو، این فرضیه را تنها می‌توان یکی از دلایل حاشیه‌ای و نه عامل اصلی این رویکرد دانست.

بیشتر بخوانید: شرکت OpenAI در تیررس کنگره آمریکا قرار گرفت

ایجاد یک دوگانه انحصاری از مسیر تسخیر مقرراتی، توضیح بسیار قدرتمندتری برای این اقدامات غیرعادی به نظر می‌رسد. البته وجود نوعی نظارت قانونی ضروری است، به‌ویژه از آن جهت که هماهنگی میان شرکت‌ها برای کاهش سرعت پیشرفت فناوری به‌وضوح می‌تواند تحت نظام ضدانحصار فعلی، زمینه‌ساز بررسی‌های قانونی باشد. از سوی دیگر، آنتروپیک و OpenAI برخلاف غول‌های شبکه‌های اجتماعی مانند متا، از سپر حقوقی مشابه بند ۲۳۰ برای مسئولیت‌پذیری در قبال خروجی مدل‌های خود برخوردار نیستند؛ در حالی که شرکت‌هایی مانند متا در قبال محتوایی که روی پلتفرم‌های خود میزبانی می‌کنند، از حمایت‌های قانونی مشخصی برخوردار هستند.

با وجود این، هنگامی که از دولت می‌خواهید به‌طور صریح در تعیین مسیر تحول یک صنعت خاص نقش داشته باشد، با مفهوم «تسخیر مقرراتی» مواجه هستیم. چنین رویکردی می‌تواند دوگانه آنتروپیک و OpenAI را بیش از پیش تثبیت کند و در عمل نیز به تقویت آن منجر شود. از سوی دیگر، در حالی که دونالد ترامپ، رئیس‌جمهور آمریکا، تمایلی به اعمال مقررات بر چشم‌انداز هوش مصنوعی نشان نداده و حتی داریو آمودی را «فرشته کوچک بی‌نقص» خطاب کرده است، این احتمال وجود دارد که آنتروپیک و OpenAI تحولات انتخابات میان‌دوره‌ای پیش رو و احتمال تصاحب هم‌زمان کنگره و سنا توسط دموکرات‌ها را در محاسبات خود لحاظ کرده باشند. در غیر این صورت، چگونه می‌توان هم‌گرایی عجیب میان جیکوب کاکسون، برنی سندرز و استیو بنن را توضیح داد؟

مسئله اصلی، انرژی است

خیر، مسئله اصلی محدودیت‌های انرژی است و تسخیر مقرراتی می‌تواند یک انگیزه فرعی در کنار آن باشد. خط لوله پروژه‌های مراکز داده در آمریکای شمالی اکنون به ۴۰۴ گیگاوات رسیده است و تکمیل این ظرفیت با نرخ فعلی ساخت‌وساز به ۱۳.۱ سال فعالیت مستمر نیاز دارد. با وجود این، تا ماه اوت بیش از ۶.۵ گیگاوات از ظرفیت برنامه‌ریزی‌شده بلاتکلیف و سرگردان مانده، در حالی که تنها حدود ۴ گیگاوات از این ظرفیت وارد مرحله ساخت شده است. این ارقام نشان می‌دهند محدودیت‌های برق و انرژی دیگر یک نگرانی آینده نیستند و همین حالا در قالب ظرفیت‌های سرگردان خود را نشان داده‌اند. برآورد مودیز نشان می‌دهد آمریکا برای افزودن ۴۵ گیگاوات ظرفیت تولید برق تا سال ۲۰۳۰ باید ۱۱۰ میلیارد دلار سرمایه‌گذاری کند. در همین حال، پیش‌بینی می‌شود مراکز داده مستقر در آمریکا تا سال ۲۰۳۵ بیشتر از میزان مصرف بسیاری از کشورها گاز مصرف کنند.

این وضعیت در تحلیل SemiAnalysis نیز به‌وضوح دیده می‌شود. بر اساس این تحلیل، ظرفیت مازاد شبکه برق آمریکا در سال‌های ۲۰۲۷ یا ۲۰۲۸ به پایان می‌رسد و ظرفیت تولید نیروگاهی در مقیاس شبکه که تا سال ۲۰۳۰ برای آن برنامه‌ریزی شده است، برای پاسخ‌گویی به رشد پیش‌بینی‌شده بار کلی شبکه کافی نخواهد بود. حتی اکنون حدود ۱۴۰ گیگاوات پروژه قابل‌شناسایی وجود دارد که در نهایت قرار است به تاسیسات پشت‌کنتوری منتقل شوند، اما هنوز برای تامین برق مورد نیاز خود قرارداد منعقد نکرده‌اند.

آنتروپیک به‌تنهایی در حال هدف‌گذاری برای بیش از ۱۱.۵ گیگاوات ظرفیت محاسباتی است. اگر آنتروپیک و OpenAI را در کنار یکدیگر قرار دهیم، با حدود یک تریلیون دلار هزینه مرتبط با زیرساخت‌های محاسباتی طی پنج سال آینده مواجه خواهیم بود. چنین سطحی از سرمایه‌گذاری به‌وضوح پایدار نیست، به‌ویژه اکنون که محدودیت‌های انرژی در قالب ظرفیت‌های سرگردان و بلااستفاده به مرحله بروز عملی رسیده‌اند. پس اگر بخواهید این چرخه تامین مالی و سرمایه‌گذاری عظیم در زیرساخت‌های هوش مصنوعی همچنان برقرار بماند و «ضیافت» سرمایه‌گذاری‌های کلان به‌طور ناگهانی فرو نریزد، چه راهکاری دارید؟ سرعت توسعه را کاهش می‌دهید و در عین حال این تصمیم را اقدامی نوع‌دوستانه و در راستای منافع عمومی جلوه می‌دهید تا سرمایه‌گذاران دچار هراس نشوند و از خرید سهام عرضه اولیه یا اوراق قرضه شرکتی شما دست نکشند.