تیم ارزیابی OpenAI برای مقابله با خطرات هوش مصنوعی منحل شد

شرکت OpenAI در پایان ماه گذشته تیم «ارزیابی» خود را منحل کرد که ماموریت آن ارزیابی خطرات جدی مدل‌های هوش مصنوعی و طراحی راهکارهایی برای کاهش این خطرات بود.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، یکی از سناریوهایی که چنین تیمی باید برای آن آماده باشد، احتمال خروج یک مدل از کنترل و استفاده از توانایی‌های آن برای حمله سایبری به یک شرکت دیگر است.

بر اساس گزارش فایننشال تایمز، شرکت OpenAI اکنون مسئولیت‌های مربوط به این حوزه را تفکیک کرده و وظایفی مانند ارزیابی خطرات زیستی و سایبری را به تیم‌های موجود در شرکت سپرده است.

بیشتر بخوانید: چت‌جی‌پی‌تی با قابلیت تاریخچه کامپیوتر، فعالیت‌های کاربر را تحلیل می‌ کند

01
از 02
انحلال تیم ارزیابی OpenAI به چه معنی است؟

انحلال تیم ارزیابی OpenAI باعث افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی شد

برای مطالعه بیشتر: حالت Ultrafast مدل GPT-5.6 Sol با سرعت خیره‌کننده معرفی شد

انحلال تیم ارزیابی، جدیدترین تغییر ساختاری در OpenAI است؛ شرکتی که در آستانه مسیری قرار دارد که انتظار می‌رود در نهایت به یک عرضه اولیه سهام بسیار بزرگ منجر شود. شرکت OpenAI طی سال‌های اخیر به‌ تدریج برخی ساختارهای متمرکز بر آمادگی را برای سناریوهای بلندمدت و پرخطر کنار گذاشته است و پیش از این نیز تیم ارزیابی برای AGI و تیم «هم‌ترازی فوق‌العاده» را منحل کرده بود. در همین مدت، چلو باکالار، مسئول اخلاق OpenAI، جاش آکیام، مدیر ارشد آینده‌پژوهی و یوهانس هایدکه، مدیر بخش ایمنی نیز از این شرکت جدا شده‌اند. خروج این افراد نگرانی منتقدان را درباره اولویت‌های ایمنی OpenAI افزایش داده است.

خبر پیشنهادی: مدل تولید تصویر MAI-Image-2.6 از رقبای قدرتمند خود پیشی گرفت

02
از 02
تغییرات اساسی ادامه دارد

یان لایکه، یکی از منتقدان شناخته‌شده OpenAI که در سال ۲۰۲۴ از این شرکت استعفا داد در گفت‌وگو با فایننشال تایمز مدعی شده است که OpenAI ایمنی را به نفع توسعه «محصولات پرزرق‌وبرق» کنار گذاشته است. در همین حال، دیلن اسکاندینارو، رئیس پیشین تیم ارزیابی که در ماه فوریه پس از جذب از آنتروپیک به OpenAI پیوسته بود، اکنون مسئول بررسی پیامدهای هوش مصنوعی «خودبهبودی بازگشتی» خواهد بود؛ مفهومی که به سیستم‌هایی اشاره دارد که می‌توانند به‌ صورت تکرارشونده توانایی‌های خود را بهبود دهند. این تغییر در حالی رخ می‌دهد که چند چهره کلیدی حوزه ایمنی و اخلاق OpenAI نیز از شرکت جدا شده‌اند و منتقدان درباره تغییر اولویت‌های این شرکت هشدار داده‌اند. با وجود این‌، OpenAI همچنان برخی مسئولیت‌های مرتبط با خطرات زیستی و سایبری را حفظ کرده و آنها را میان تیم‌های تخصصی موجود تقسیم کرده است.