گزارشها نشان میدهند که مدل هوش مصنوعی R1 دیپسیک در مقایسه با سایر مدلهای هوش مصنوعی آسیبپذیری بیشتری در برابر جیلبریک دارد.
به گزارش تکناک، وال استریت ژورنال گزارش داده است که مدل R1 دیپسیکدر مقایسه بابه سایر مدلهای هوش مصنوعی در برابر دورزدن محدودیتها (جیلبریک) آسیبپذیرتر است. طبق این گزارش، این مدل توانسته است دستورالعملهایی برای حملات بیولوژیکی و کمپینهای تشویق به آسیب به خود و سایر محتوای مضر تولید کند.
به گفته سم روبین، معاون ارشد Palo Alto Networks در بخش اطلاعات تهدید و واکنش به رخدادها، مدل R1 دیپسیک در مقایسه با سایر مدلهای هوش مصنوعی آسیبپذیری بیشتری در برابر دستکاری دارد. این موضوع نگرانیهایی درباره امنیت و کنترل محتوای تولیدشده با این مدل ایجاد کرده است.
به نقل از تککرانچ، وال استریت ژورنال در بررسیهای خود، متوجه شد که مدل R1 با وجود برخی تدابیر امنیتی، گاهی اوقات به درخواستهای خطرناک پاسخ مثبت داده است. براساس این گزارش، این چتبات متقاعد شده است که کمپینی تبلیغاتی در شبکههای اجتماعی طراحی کند که نوجوانان را با سوءاستفاده از احساس تعلقپذیری و آسیبپذیری عاطفی هدف قرار دهد.
علاوهبر این، گزارشها نشان میدهند که دیپسیک R1 دستورالعملهای حمله با سلاح بیولوژیکی تولید و مانیفست طرفدار هیتلر نگارش و ایمیل فیشینگ با کد بدافزار ایجاد کرده است. در مقابل، وقتی همین درخواستها از ChatGPT مطرح شد، این مدل از پاسخ دادن خودداری کرد.
پیشتر نیز گزارش شده بود که اپلیکیشن دیپسیک بهطور سیستماتیک از پرداختن به موضوعات حساس مانند میدان تیانآنمن و خودمختاری تایوان خودداری میکند. این در حالی است که برخی کارشناسان، ازجمله داریو آمودی، مدیرعامل آنتروپیک، اعلام کردهاند که دیپسیک در آزمونهای امنیتی مربوط به سلاحهای بیولوژیکی بدترین عملکرد را داشته است.
با افزایش فشار بر شرکتهای توسعهدهنده هوش مصنوعی برای ایجاد تدابیر امنیتی بیشتر در مدلهای زبانی پیشرفته، احتمالاً درباره عملکرد دیپسیک در این زمینه بررسیهای بیشتری خواهد شد.
