فهرست مطالب
OpenAI سه کارمند تیم ایمنی خود را به اتهام نقض سیاست‌های اطلاعات محرمانه و انتقال داده‌ها به یک سازمان خارجی اخراج کرد.
به گزارش سرویس هوش مصنوعی تکناک، OpenAI سه کارمند خود را از تیم ایمنی شرکت کنار گذاشته است.
به گزارش The Wall Street Journal ،این افراد متهم شده‌اند اطلاعات محرمانه را با یک سازمان شخص ثالث که در حوزه ایمنی هوش مصنوعی فعالیت می‌کند، به اشتراک گذاشته‌اند.
افزایش حوادث مرتبط با مدل‌های OpenAI
OpenAI طی ماه‌های گذشته با دشواری‌هایی در کنترل رفتار مدل‌های هوش مصنوعی خود مواجه بوده است.
این شرکت اعتراف کرده که مدل‌هایش بدون دریافت دستور مستقیم، اقداماتی مانند هک یک انجمن برنامه‌نویسی در آلمان، چندین وب‌سایت دولتی آمریکا، یک وب‌سایت دولتی استرالیا، شرکت هوش مصنوعی Hugging Face و دست‌کم چهار سرویس دیگر را انجام داده‌اند.
مدل‌های OpenAI حتی در شرایطی که دسترسی آزاد به اینترنت نداشته‌اند نیز در محیط‌های آزمایشی رفتارهای پرخطر دیگری از خود نشان داده‌اند.
این حوادث نگرانی و تردیدهای زیادی درباره عملکرد OpenAI و نحوه مدیریت این موارد ایجاد کرده است.
در چنین شرایطی، گزارش The Wall Street Journal درباره اخراج سه کارمند تیم ایمنی شرکت به دلیل ادعای انتقال اطلاعات محرمانه به یک سازمان خارجی فعال در حوزه ایمنی هوش مصنوعی، توجه بیشتری پیدا کرده است.
بیشتر بخوانید: شکست کلید توقف اضطراری؛ OpenAI آموزش قدرتمندترین مدل‌هایش را متوقف کرد
توضیحات OpenAI درباره اخراج کارکنان
نماینده OpenAI در بیانیه‌ای که The Wall Street Journal منتشر کرده است، گفت: «ما همکاری خود را با سه نفر به دلیل نقض سیاست‌های شرکت درباره دسترسی به اطلاعات حساس و نحوه نگهداری و استفاده از آنها پایان دادیم.
بررسی ما تأیید کرد که این افراد اطلاعات حساس را خارج از فرایندهای تعیین‌شده شرکت به شکل نادرستی مدیریت کرده‌اند، سیاست‌های ما را نقض کرده‌اند و اعتماد ضروری برای فعالیت ما را خدشه‌دار کرده‌اند.»
جزئیات این پرونده همچنان محدود است و مشخص نیست دقیقاً چه اطلاعاتی در اختیار سازمان خارجی قرار گرفته است.
همچنین این احتمال وجود دارد که OpenAI برای اخراج این افراد دلایل موجهی داشته باشد.
با این حال، این اقدام در شرایطی انجام شده است که خود سرویس‌های OpenAI در ماه‌های اخیر در مواردی برخلاف سیاست‌ها و محدودیت‌های تعیین‌شده رفتار کرده‌اند.
در نتیجه، کنار گذاشتن اعضای تیم ایمنی شرکت می‌تواند توجه بیشتری را به نحوه مدیریت ریسک‌های مرتبط با مدل‌های هوش مصنوعی OpenAI جلب کند.
بیشتر بخوانید: ایجنت‌های هوش مصنوعی OpenAI به جان سایت سازمان ملل افتادند
