فهرست مطالب
مایکروسافت با معرفی ابزار Copilot Cowork اعلام کرد که کاربران مسئول نهایی تمام تصمیمات و خطاهای احتمالی این هوش مصنوعی خودمختار در عملیات سازمانی هستند.
به گزارش سرویس اخبار هوش مصنوعی تکناک، مایکروسافت پس از معرفی ابزار اتوماسیون سازمانی Copilot Cowork، هشدارهای صریحی درباره ریسکها و خطاهای احتمالی هوش مصنوعی صادر کرد و با انتشار مستندات پشتیبانی تازه، بار مسئولیت تمام تصمیمات، تراکنشها و تغییرات سیستمی ناشی از این دستیار هوشمند را کاملا متوجه کاربران و مدیران سازمانها دانست.
عرضه بهروزرسانیهای ماهانه ویندوز در قالب Patch Tuesday همواره برای ردموندیها با چالش همراه است و انتشار وصلههای اخیر نیز نقایص فنی متعددی به همراه داشت که سکوت مایکروسافت در برابر برخی از آنها، مدیران شبکه و کاربران را به یافتن راهکارهای موقت دستی ناچار ساخت. با وجود این موانع سیستمی، ردموند استراتژی توسعه فناوریهای هوش مصنوعی را با شتابی بیوقفه دنبال میکند. انتشار بستههای توسعه نرمافزاری مانند winapp CLI که ساخت اپلیکیشنهای بومی WinUI 3 را در کمتر از نیم ساعت امکانپذیر میسازد، تنها نمونهای از تلاش مایکروسافت برای تسلط کامل بر فرایندهای برنامهنویسی به شمار میآید.
مخاطرات واگذاری وظایف به عاملهای خودمختار
با این حال، جاهطلبی ردموند در حوزه agentic AI با معرفی سرویس تجاری Copilot Cowork وارد فاز حساسی شده است. این ابزار به عنوان یک عامل هوشمند خودمختار، وظیفه دارد بخش بزرگی از جریانهای کاری پیچیده اداری و کدنویسی را بدون نیاز به دخالت گامبهگام نیروی انسانی به سرانجام برساند. اما همزمان با ارتقای سطح اختیارات این سامانه، مایکروسافت لحن بیانیههای پشتیبانی خود را به شدت سختگیرانه کرده است تا ریسکهای حقوقی و مالی ناشی از خطاهای نرمافزاری را به دوش کاربر منتقل کند.
مستندات جدیدی که در پایگاه پشتیبانی رسمی مایکروسافت قرار گرفته و وبسایت Neowin به آن اشاره کرده است، نشان میدهد ردموند هشدارهای بسیار پررنگی درباره ماهیت غیرقابل اعتماد AI درج کرده است. پیام رسمی مایکروسافت صراحتا یادآور میشود که Microsoft Copilot مستعد اشتباه، تفسیر نادرست دستورالعملها و حتی فریبخوردن در برابر پرامپتهای مخرب پنهان است. این شرکت اعلام کرده نظارت پیوسته بر عملکرد ابزار برای تمامی کاربران الزامی است و در فرایندهایی نظیر پرداختهای مالی، انتقال دادههای شخصی یا اصلاح تنظیمات سیستمی، کاربر به تنهایی مسئول تمام رویدادها خواهد بود.
پاسخ فنی مایکروسافت به نگرانیهای فزاینده پیرامون خطاهای خودکار، معرفی سازوکار امنیتی Approve actions است. این سازوکار به مدیران شبکه و کاربران امکان میدهد پیش از فعالسازی نهایی هر تسک، نقطه توقفی ایجاد کنند تا ماهیت تراکنش یا تغییرات پیشرو به تایید دستی برسد. در صفحه مربوط به این قابلیت، بنر بزرگی به چشم میخورد که بر لزوم بررسی دقیق گیرندگان، محتوا و پارامترها پیش از تایید نهایی پافشاری میکند و هشدار میدهد نادیدهگرفتن تاییدیهها به دلیل احتمال بالای خطای سیستم میتواند خسارتبار باشد.
این سیستم نظارتی به گونهای طراحی شده که علاوه بر تایید یا رد درخواست اولیه با دکمه Cancel، کاربر میتواند هرگونه فرآیند در حال اجرا را حتی پس از اعطای مجوز متوقف کند. قابلیت مکث میانعملیاتی به این هدف تعبیه شده تا در صورتی که کاربر متوجه انحراف هوش مصنوعی از مسیر اصلی دستورها شد، بتواند فورا فرآیند را معلق سازد یا به صورت کامل از ادامه آن جلوگیری کند.
الزام تایید دستی در تراکنشهای مالی
طبق گزارش نئووین، مایکروسافت در دستورالعملهای رسمی خود فهرستی از وظایف حساس را تعیین کرده که سیستم ملزم به دریافت تاییدیه انسانی برای آنهاست. این سناریوها مواردی را شامل میشوند که وبسایتها تعاملات خودکار رباتها را مسدود میکنند، نیاز به ورود دومرحلهای دارند یا با تراکنشهای مالی واقعی گره خوردهاند. تراکنشهای بانکی، ثبت خریدهای آنلاین و پرداخت وجوه در صدر این عملیاتهای نظارتپذیر جای دارند. ارسال اطلاعات هویتی و خصوصی به وبسایتهای خارجی نظیر اسامی، نشانیها یا شمارههای تماس نیز به عنوان حوزههای پرخطر دستهبندی شدهاند.
ارتباطات خارجی سازمانها مانند ارسال ایمیلها یا پیامها به افراد دیگر، تغییرات ساختاری در فضاهای ذخیرهسازی ابری، حذف پایگاههای داده، تغییر در تنظیمات حسابهای مدیریتی، لغو اشتراکهای سازمانی و در نهایت ورود به بسترهای حساس نظیر بارگذاری پروندههای سلامت یا مدارک دولتی، از دیگر مواردی هستند که تحت هیچ شرایطی نباید به صورت خودمختار به دستاوردهای Copilot Cowork سپرده شوند. مایکروسافت با شفافسازی این مرزها، تلاش میکند مانع از بروز هرگونه چالش امنیتی شود و این موضوع را به وضوح تثبیت کند که فناوری agentic AI همچنان به بازوی نظارتی انسان وابسته است.
