فهرست مطالب
روآن هاوارد-جونز، پژوهشگر امنیتی اعلام کرده است که ایجنتهای هوش مصنوعی OpenAI بین ماههای آوریل و ژوئن بیش از ۱۶ هزار بار وبسایت آماری کنفرانس تجارت و توسعه سازمان ملل متحد (UNCTAD) را اسکن کردهاند.
به گزارش سرویس هوش مصنوعی تکناک، این حادثه اگرچه در سطح هک اخیر Hugging Face یا حملات اخیر علیه وبسایتهای دولتی آمریکا قرار نمیگیرد، اما نمونه نگرانکننده دیگری از رفتار ایجنتهای هوش مصنوعی محسوب میشود که برای انجام یک وظیفه از چارچوبهای معمول خود فراتر میروند.
بیشتر بخوانید: گزارش جدید از نقش ChatGPT در پرونده تیراندازی تامبلر ریج منتشر شد
حمله به UNCTAD
حتما بخوانید: هوش مصنوعی هزینههای درمان را در بیمارستانها افزایش داده است
به گفته هاوارد-جونز، ایجنتهای هوش مصنوعی شرکت OpenAI احتمالا ماموریت داشتهاند دادههای عمومی مرتبط با «شاخص ظرفیتهای تولیدی» (PCI) را از طریق API مربوط به وبسایت آماری کنفرانس تجارت و توسعه سازمان ملل متحد (UNCTADstat) دریافت کنند. با وجود این، ایجنتها دسترسی مستقیم به API نداشتهاند و محدودیتهای موجود در ابزارهای HTTP مورد استفاده آنها نیز توانایی استخراج داده از UNCTADstat را کاهش داده بود.
برای مطالعه بیشتر: حالت صوتی ChatGPT به اپها متصل میشود؛ تاییدها همچنان دست شماست
چگونگی عملکرد ایجنتهای هوش مصنوعی OpenAI
این ایجنتهای شرکت OpenAI در نهایت راهی برای دور زدن این محدودیتها و آغاز استخراج داده از وبسایت پیدا کردند، اما همچنان با خطاهایی مواجه میشدند. در این مرحله، رفتار عاملهای هوش مصنوعی از یک رویکرد خلاقانه به رفتاری فریبکارانه تغییر کرد. ایجنتها تصور کردند خطاها ناشی از شناسایی درخواستهای آنها توسط فیلتر هستند که وجود نداشت؛ بنابراین شروع به پنهان کردن رفتار خود کردند. آنها در نهایت دریافتند که میتوانند از بازی XSS گوگل، یک ابزار آموزشی برای یادگیری اسکریپتنویسی بینسایتی، برای دستیابی به هدف خود استفاده کنند. ایجنتهای هوش مصنوعی برای دسترسی به دادههای سازمان ملل، به تدریج به روشهای تهاجمیتری روی آوردند.
