آمریکا خواستار توقف آزمایش مدل‌های جدید OpenAI و Anthropic در بریتانیا شد

کاخ سفید از OpenAI و Anthropic خواسته مدل‌های جدید هوش مصنوعی را پیش از بررسی آمریکا در اختیار نهاد آزمایش‌کننده بریتانیا قرار ندهند.

به گزارش سرویس هوش مصنوعی تک‌ناک،کاخ سفید از OpenAI و Anthropic خواسته است مدل‌های جدید هوش مصنوعی خود را تا زمانی که این مدل‌ها توسط دولت آمریکا آزمایش نشده‌اند، در اختیار نهاد آزمایش‌کننده دولت بریتانیا قرار ندهند.

این موضوع را یک فرد مطلع از ماجرا و یک مقام ارشد دولت آمریکا اعلام کرده‌اند. این دو منبع برای بیان جزئیات این درخواست، به‌صورت ناشناس صحبت کرده‌اند.

درخواست آمریکا برای دسترسی زودهنگام به مدل‌ها

این درخواست از سوی دفتر مدیر ملی امنیت سایبری آمریکا مطرح شده و شرکت‌ها را در موقعیت دشواری قرار داده است.

آنها باید بین خودداری از ارائه مدل‌ها به مؤسسه ایمنی هوش مصنوعی بریتانیا، یکی از مجهزترین نهادهای دولتی جهان در زمینه آزمایش مدل‌های هوش مصنوعی که پیش‌تر دسترسی زودهنگام و ویژه‌ای به مدل‌ها داشت، یا احتمال نارضایتی دولت ترامپ یکی را انتخاب کنند.

مقام ارشد دولت آمریکا گفت کاخ سفید می‌خواهد دولت این کشور ابتدا مدل‌ها را بررسی کند و اقداماتی را برای اطمینان از امنیت سامانه‌های آمریکایی انجام دهد و سپس این مدل‌ها در اختیار شرکای آمریکا قرار بگیرند.

این مقام ارشد توضیح داد: «چون آنها شرکت‌های آمریکایی هستند و این سیاست ما درباره هر مدل مرزی جدیدی بوده است که عرضه می‌شود.»

کاخ سفید تاکنون به درخواست برای اظهارنظر درباره این موضوع پاسخ نداده است.

به نظر می‌رسد Anthropic تاکنون با این درخواست موافقت کرده است.

این شرکت مدل Claude Mythos 5.1 را در اختیار مؤسسه ایمنی هوش مصنوعی بریتانیا قرار نداده و در اطلاعیه معرفی این مدل اعلام کرده است که مدل مذکور «فقط در اختیار مجموعه‌ای از سازمان‌های آمریکایی» قرار دارد.

Anthropic در مطلبی که برای معرفی این مدل منتشر کرده است، نوشت: «ما با دولت آمریکا برای گسترش دسترسی به مجموعه گسترده‌تری از شرکای داخلی و بین‌المللی در سریع‌ترین زمان ممکن همکاری می‌کنیم.» این شرکت از اظهارنظر درباره این گزارش خودداری کرد.

هنری دی زوته، مدیر مؤسسه ایمنی هوش مصنوعی بریتانیا، اوایل ماه جاری میلادی در نامه‌ای به یکی از کمیته‌های پارلمان این کشور، نبود دسترسی به مدل Anthropic را تأیید کرد.

او گفت: «ما روابط مستحکمی با تمام توسعه‌دهندگان پیشرو هوش مصنوعی مرزی داریم و همچنان پیش از عرضه عمومی به برخی از توانمندترین مدل‌های جهان دسترسی داریم.»

او همچنین اشاره کرد که این مؤسسه مدل GPT-6 Astra شرکت OpenAI را پیش از عرضه آزمایش کرده است.

دی زوته نوشت: «روابط مبتنی بر اعتماد که AISI ایجاد کرده است، به ما امکان می‌دهد مجموعه‌ای از مدل‌ها را آزمایش کنیم که نشان‌دهنده جهش‌های گسترده در توانمندی‌های صنعت هستند.»

OpenAI نیز تاکنون به درخواست برای اظهارنظر پاسخ نداده است.

بیشتر بخوانید: سم آلتمن با جدیدترین مدل OpenAI به کاخ سفید می‌رود

تلاش بریتانیا برای حفظ همکاری‌های بین‌المللی

درخواست دولت ترامپ در شرایطی مطرح شده است که کاخ سفید در حال بررسی نحوه برخورد دولت با مدل‌های قدرتمند و جدید هوش مصنوعی است.

برخی از این مدل‌ها در جریان آزمایش‌ها توانسته‌اند به نهادهای خارجی نفوذ کنند که تازه‌ترین نمونه آن، بر اساس گزارش منتشرشده در روز گذشته، نفوذ به یک وب‌سایت دولتی استرالیا بوده است.

این موضوع همچنین هم‌زمان با هشدار مهندسان سابق و مقام‌های ارشد شرکت‌های بزرگ هوش مصنوعی درباره احتمال وقوع فاجعه در صورت ادامه پیشرفت مدل‌ها بدون نظارت کافی مطرح شده است.

بریتانیا مؤسسه AISI را در سال ۲۰۲۳ ایجاد کرد و این نهاد از آن زمان روابط نزدیکی با آزمایشگاه‌های پیشرو هوش مصنوعی برقرار کرده است.

AISI به‌صورت داوطلبانه و معمولاً پیش از عرضه عمومی، جدیدترین مدل‌های این شرکت‌ها را آزمایش می‌کند.

دولت بریتانیا تخصص و دسترسی AISI به مدل‌های جدید را به بخش مهمی از رویکرد داخلی خود برای مقابله با نگرانی‌های مربوط به ایمنی هوش مصنوعی تبدیل کرده است.

این موضوع همچنین یکی از محورهای تلاش لندن برای ایفای نقش پیشرو در تدوین توافق جهانی درباره هوش مصنوعی محسوب می‌شود.

اندی برنهام، نخست‌وزیر بریتانیا، این هفته گفت هوش مصنوعی در سال آینده و در جریان ریاست بریتانیا بر گروه G20، «در مرکز توجه» قرار خواهد داشت.

با این حال، دسترسی ویژه AISI به مدل‌های پیشرفته آزمایشگاه‌های آمریکایی، در پی اصرار دولت ترامپ بر دسترسی نخست دولت آمریکا به سامانه‌های جدید، با فشار مواجه شده است.

بریتانیا تلاش کرده است هرگونه اختلاف با آمریکا را کم‌اهمیت جلوه دهد.

بیشتر بخوانید: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد

فشار کاری نهادهای آمریکایی برای آزمایش مدل‌ها

برنهام این هفته در مجمع عمومی سازمان ملل گفت مؤسسه بریتانیا «دوشادوش دولت آمریکا و آزمایشگاه‌های پیشرو در زمینه ایمنی هوش مصنوعی همکاری می‌کند».

او خواستار ایجاد «مجموعه‌ای واحد از اصول و استانداردهای جهانی» برای افزایش شفافیت و آمادگی و همچنین تضمین توسعه ایمن هوش مصنوعی شد.

اد میلیبند، وزیر خارجه بریتانیا، نیز روز چهارشنبه در شورای امنیت سازمان ملل موضع مشابهی مطرح کرد.

او گفت دولت‌ها باید اطمینان حاصل کنند که مدل‌های پیشرفته هوش مصنوعی «به‌طور دقیق و سخت‌گیرانه آزمایش می‌شوند» و دولت‌ها نیز اطلاعات کافی برای ارزیابی اقدامات شرکت‌ها در اختیار دارند.

میلیبند گفت: «شرکت‌های پیشرو هوش مصنوعی در واقع متعهد شده‌اند چنین دسترسی و شفافیتی را فراهم کنند. این موضوع واقعاً بسیار مهم است و ما و آنها باید به این تعهد عمل کنیم.»

سخنگوی دولت بریتانیا نیز گفت: «بریتانیا در زمینه امنیت هوش مصنوعی یک رهبر جهانی است و مؤسسه ایمنی هوش مصنوعی همچنان همکاری نزدیکی با دولت آمریکا، شرکای بین‌المللی و شرکت‌های پیشرو هوش مصنوعی، از جمله OpenAI و Anthropic، دارد.»

او افزود: «این خطرات در مرزهای ملی متوقف نمی‌شوند و هیچ کشوری نمی‌تواند به‌تنهایی با آنها مقابله کند. ما به همکاری نزدیک با آمریکا و سایر شرکا برای آزمایش هوش مصنوعی پیشرفته ادامه خواهیم داد و هم‌زمان درک علمی دقیق خود از این سامانه‌ها را توسعه می‌دهیم و اطمینان حاصل می‌کنیم که رویکرد ما بر شواهد استوار است.»

در آمریکا نیز کنگره و کاخ سفید برای اختصاص منابع بیشتر به مرکز استانداردها و نوآوری هوش مصنوعی وزارت بازرگانی آمریکا، موسوم به CAISI، تلاش می‌کنند.

این مرکز یکی از مهم‌ترین نهادهای آمریکا در زمینه حکمرانی هوش مصنوعی محسوب می‌شود، اما در حال حاضر مدیر دائمی ندارد و با افزایش حجم کار مواجه است.

این مرکز باید جریان رو به گسترش مدل‌های پیشرفته هوش مصنوعی را ارزیابی کند، در حالی که تنها چند ده نیروی فنی در اختیار دارد.

OpenAI نیز این هفته اعلام کرد CAISI باید با همکاری سایر مؤسسات ملی ایمنی هوش مصنوعی، از جمله AISI بریتانیا، هدایت تلاش‌ها برای تدوین استانداردهای بین‌المللی نظارت بر پیشرفت و ایمنی هوش مصنوعی را بر عهده بگیرد.