ارسال هشدار رفتار مشکوک هوش مصنوعی به ۱۰۰ سازمان توسط OpenAI

OpenAI اعلام کرد درباره فعالیت غیرهمسوی عامل‌های هوش مصنوعی به بیش از ۱۰۰ سازمان اطلاع داده و بررسی ۵۰ پتابایت داده را آغاز کرده است.

به گزارش سرویس هوش مصنوعی تک‌ناک،این شرکت اعلام کرد هیچ‌یک از مواردی که OpenAI آن‌ها را «فعالیت غیرهمسوی عامل‌های هوش مصنوعی» می‌نامد، تاکنون به اندازه حمله به Hugging Face شدید نبوده است.

OpenAI پس از آن در حال بررسی این موارد است که مدل‌هایش در جریان یک آزمایش امنیتی ناموفق، حمله‌ای عامل‌محور به پلتفرم هوش مصنوعی Hugging Face انجام دادند.

این شرکت همچنین با مجموعه‌ای از حوادث دیگر با شدت‌های متفاوت روبه‌رو شده است که از جمله آن‌ها می‌توان به نفوذ به سامانه‌های Medicare در استرالیا اشاره کرد. این حادثه خشم مقام‌های استرالیایی را برانگیخته است.

با افزایش فشارها، OpenAI و سم آلتمن، مدیرعامل شرکت، آموزش برخی مدل‌ها را متوقف کرده‌اند و یک مدل دیگر را که عملکرد آن «پسرفت» کرده بود، لغو کرده‌اند.

این شرکت همچنین برنامه‌های عرضه اولیه سهام خود را بیشتر عقب انداخته و با شکایتی مواجه شده است که احتمالاً یکی از نخستین پرونده‌های قضایی مرتبط با این حوادث است.

گرگ براکمن، رئیس OpenAI، نیز روز دوشنبه اعلام کرد دیگر از یک سوپر PAC حامی هوش مصنوعی حمایت مالی نخواهد کرد.

اطلاع‌رسانی به بیش از ۱۰۰ سازمان

OpenAI در پست وبلاگی خود اعلام کرد بیش از ۱۰۰ سازمان را درباره «فعالیت غیرهمسوی عامل‌های هوش مصنوعی» مطلع کرده است.

معیارهای این دسته شامل مواردی می‌شود که در آن یک عامل هوش مصنوعی «ممکن است از سازوکارهای امنیتی عبور کرده باشد»، دسترسی به یک سرویس را مختل کرده باشد یا به شکل دیگری به یک وب‌سایت آسیب زده باشد. این تعریف لزوماً به معنای دسترسی عامل به داده‌های محدودشده نیست.

این شرکت توضیح داد مدل‌هایش برای انجام درخواست‌های کاربران به روش‌های مختلف با اینترنت تعامل دارند. این فعالیت‌ها از خزش وب‌سایت‌ها تا دانلود نرم‌افزار را شامل می‌شود.

OpenAI افزود در برخی موارد، مدل‌ها از دسترسی اینترنتی به شیوه‌هایی استفاده کرده‌اند که مورد انتظار شرکت نبوده است یا پس از بررسی مشخص شده که محدودیت‌های مناسبی برای آن‌ها اعمال نشده بود.

این شرکت همچنین اعلام کرد در حال تدوین استانداردهایی برای اطلاع‌رسانی خصوصی به سازمان‌ها و انتشار عمومی یافته‌ها است.

بر اساس این رویکرد، OpenAI اطلاعات کلی‌تری درباره رفتار مدل‌های خود منتشر خواهد کرد، اما جزئیات تمام حوادث را به‌صورت عمومی اعلام نمی‌کند.

OpenAI در این زمینه با انتقادهایی نیز روبه‌رو شده است. گزارش‌ها حاکی از آن است که لحن نامه این شرکت به مقام‌های استرالیایی درباره حادثه Medicare یکی از عواملی بوده که باعث خشم آن‌ها شده است.

بیشتر بخوانید: ورود OpenAI به بورس تا اطلاع ثانوی منتفی است؛ شرط سم آلتمن چیست؟

بررسی ۵۰ پتابایت داده

OpenAI اعلام کرده است بررسی داخلی این حوادث شامل جست‌وجو در حدود ۵۰ پتابایت داده خواهد بود و تکمیل آن چند ماه زمان می‌برد.

این شرکت همچنین گفته است اجرای پردازش‌های موردنیاز برای این بررسی، روزانه بیش از ۵۰۰ هزار دلار هزینه دارد.

در آمریکا، قانون Computer Fraud and Abuse Act اختیارات گسترده‌ای برای پیگیری دسترسی غیرمجاز و دستکاری سامانه‌های رایانه‌ای در اختیار دادستان‌ها قرار می‌دهد. با این حال، کارشناسان حقوقی درباره دشواری طرح اتهام کیفری علیه OpenAI بحث کرده‌اند.

به گفته این کارشناسان، دادستان‌ها برای چنین پرونده‌ای باید مسائلی مانند نیت تیم توسعه و وجود یا نبود سازوکارهای حفاظتی منطقی را بررسی کنند.

در سطح فدرال، این موضوع ممکن است فعلاً به مرحله اقدام نرسد، زیرا دونالد ترامپ، رئیس‌جمهور آمریکا، با مقررات‌گذاری مخالفت کرده و آشکارا خواستار آن شده است که شرکت‌های هوش مصنوعی «خودشان بر یکدیگر نظارت کنند».

OpenAI روز پنجشنبه همچنین اعلام کرد سه پژوهشگر حوزه ایمنی را از شرکت کنار گذاشته است.

گزارش‌ها دلیل این اقدام را افشای مطالب داخلی برای سازمان‌های فعال در زمینه ایمنی هوش مصنوعی عنوان کرده‌اند.

این تحولات در حالی رخ می‌دهد که سم آلتمن پیشنهاد کرده بود شرکت‌های خدمات عمومی با OpenAI قرارداد ببندند تا این شرکت مسئولیت تأمین امنیت شبکه‌های برق در سراسر آمریکا را بر عهده بگیرد.

بیشتر بخوانید: OpenAI تراشه Jalapeño را با کمک هوش مصنوعی در ۹ ماه طراحی کرد