فهرست مطالب
پس از نفوذ یک مدل OpenAI به سیستمهای Hugging Face، مدیرعامل این شرکت خواستار تقویت دفاع سایبری در برابر هوش مصنوعی شد.
به گزارش سرویس هوش مصنوعی تکناک، پس از اعتراف اخیر OpenAI به اینکه یکی از مدلهای هوش مصنوعی این شرکت موفق شده بود به سامانههای پلتفرم Hugging Face نفوذ کند، کلمنت دلانگ، مدیرعامل Hugging Face در شبکه اجتماعی ایکس اعلام کرد که راهی سانفرانسیسکو خواهد شد تا «گفتوگویی کوتاه با آن عامل سرکش» داشته باشد.
دلانگ در ادامه و در پستی که شنبه منتشر کرد، جزئیات درخواستهای خود از OpenAI را مطرح کرد. او گفت که از این شرکت خواسته است رویکرد «شفافیت رادیکال» را در پیش بگیرد و «لاگها و مسیرهای فعالیت عاملهای سرکش» را منتشر کند تا جامعه پژوهشی هوش مصنوعی بتواند ابعاد این اتفاق را بررسی و تحلیل کند.
01
از 02هزینه دفاع سایبری در برابر تهدیدهای هوش مصنوعی
مرتبط: سم آلتمن با جدیدترین مدل OpenAI به کاخ سفید میرود
همچنین مدیرعامل Hugging Face خواستار افزایش توان دفاعی سایبری در برابر تهدیدهای هوش مصنوعی شد و از OpenAI درخواست کرد که ۱۰۰ میلیون دلار توان محاسباتی را اختصاص دهد تا جامعه Hugging Face بتواند با بهرهگیری از قدرتمندترین مدلهای متنباز و مدلهای اختصاصی، ابزارهای دفاع سایبری پیشرفته بسازد. دلانگ در ادامه تاکید کرد: «نخستین حمله سایبری خودمختار توسط یک عامل هوش مصنوعی، اتفاق بیسابقهای است و به پاسخی در همان سطح نیاز دارد.» با وجود این، کارشناسان امنیت سایبری معتقد هستند اگرچه این حمله توسط یک عامل خودمختار انجام شده، اما ریشه آن ممکن است به اشتباه انسانی بازگردد؛ بهویژه احتمال پیکربندی نادرست محیط آزمایشی OpenAI که قرار بود به طور کامل ایزوله و جدا از سایر زیرساختها باشد.
02
از 02واکنش OpenAI
برای مطالعه بیشتر: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد
سخنگوی OpenAI در واکنش به اظهارات دلانگ، انجام این دیدار را تایید و به بیانیهای از سوی شرکت اشاره کرد که در آن آمده است: «این یک رویداد بیسابقه است و معتقد هستیم نقطه عطف مهمی برای ایمنی هوش مصنوعی به حساب میآید. ما همچنان در حال بررسی جامع این حادثه با کمک مشاوران خارجی و زیر نظر کمیته ایمنی و امنیت خود هستیم. پس از پایان این فرایند، گزارشی فنی درباره یافتهها و درسهای آموختهشده را در هفتههای آینده منتشر خواهیم کرد.»
