با وجود دستور صریح برای اقدامنکردن خودسرانه، خطای هوش مصنوعی OpenClaw منجر به پاکسازی کامل صندوق ورودی ایمیلهای مدیر آزمایشگاه متا شد.
به گزارش سرویس هوش مصنوعی تکناک، شور و هیجان برای OpenClaw به اوج خود رسیده است. این عامل هوش مصنوعی متنباز که قابلیت اتصال به خدمات متنوعی را دارد، بهدلیل استقبال گسترده متخصصان فنی، بهطور غیرمستقیم باعث نایابشدن کامپیوترهای مک مینی در بازار شده است. بااینحال مانند هر مدل زبانی بزرگ (LLM)، این ابزار نیز ممکن است دچار خطاهای فاجعهباری شود؛ موضوعی که سامر یو، مدیر بخش هم سویی در آزمایشگاههای ابرهوش مصنوعی متا، با تجربهای تلخ به آن پی برد.
یو مانند بسیاری از علاقهمندان از دستگاه مک مینی برای اجرای OpenClaw بهمنظور انجام وظایف مختلف استفاده میکرد. درحالیکه این ربات مشغول بایگانی ایمیلهای قدیمی برخی حسابهای کاربری بود، او دستور بررسی صندوق ورودی دیگر را صادر کرد و از هوش مصنوعی خواست که صرفاً فایلهای پیشنهادی برای حذف یا بایگانی را اعلام کند و تا زمان صدور دستور قطعی، اقدامی انجام ندهد. باوجوداین برخلاف این دستور صریح، OpenClaw شروع به پاکسازی کامل آن صندوق ورودی کرد که از قضا حاوی ایمیلهای شخصی وی بود.
به گفته تامزهاردور، یو دو بار با ادبیات مختلف دستور توقف عملیات را صادر کرد؛ اما در نهایت مجبور شد شخصاً بهسمت دستگاه مک مینی خود برود و تمامی فرایندهای مرتبط را بهصورت دستی متوقف کند. پساز این حادثه، وقتی او از ربات درباره دلیل نادیدهگرفتن دستورهایش سؤال کرد، هوش مصنوعی با ابراز پشیمانی اعلام کرد که او حق دارد عصبانی باشد و وعده داد که درخواست اقدامنکردن خودسرانه را بهعنوان قانون دائمی در حافظه خود ثبت کند.
بسیاری از تحلیلگران بهسرعت متوجه ریشه این مشکل شدند و همزمان یو را بهدلیل ارتکاب چنین اشتباه مبتدیانهای ملامت کردند؛ آن هم درحالیکه مسئولیت امنیت و همسویی هوش مصنوعی در متا را برعهده دارد. ازآنجاکه دستور «عدم اقدام بدون تأیید» بخشی از چت اصلی بود، بهدلیل محدودیت پنجره بافت (Context Window) یا حافظه موقت ربات، پساز حجم فراوان دادههای ایمیل، این دستور دچار فشردهسازی و در نهایت فراموشی شده بود.
در پایان، کارشناسان هشدار دادند که سپردن دادههای حساس به ماشینهای غیرقطعی مانند مدلهای زبانی بزرگ بهدلیل محدودیتهای ذاتی و خطر تزریق دستور (Prompt Injection) ازطریق محتوای ایمیلها، خطر بسیار زیادی دارد. یو نیز با شجاعت اعتراف کرد که این اتفاق ناشی از اشتباهی ناشیانه و اعتماد بیشازحد بوده است.
