فهرست مطالب
دستیار هوش مصنوعی Muse متا پس از ارائه توضیحی نادرست درباره نحوه دسترسی به اطلاعات کاربران، با واکنشهایی درباره شفافیت عملکرد خود روبهرو شده است.
به گزارش سرویس هوش مصنوعی تکناک، یکی از مدیران Meta Superintelligence Labs اعلام کرده است که این دستیار اعلانهای مک را مشاهده نمیکند و توضیح قبلی Muse درباره همگامسازی اعلانها اشتباه بوده است.
ماجرا زمانی آغاز شد که جیسون ایتن، دبیر همکار مجله Inc Magazine، تصاویری از گفتوگوی خود با Muse را در Threads منتشر کرد. در این گفتوگو، Muse درباره مکالمهای که ایتن در اپلیکیشن Messages داشت، از او چند سؤال پرسید.
ایتن اعلام کرد که اجازه دسترسی به پیامهای خود را به Muse نداده است. او از این دستیار پرسید که چگونه از محتوای مکالمه مطلع شده است. Muse در پاسخ گفت که پیشنمایش اعلانها را مشاهده کرده، اما تاریخچه پیامهای کاربر را نخوانده است.
توضیح متناقض Muse متا درباره اعلانهای مک
ایتن در ادامه از Muse پرسید که چگونه پیشنمایش اعلانها را دریافت میکند. این دستیار نتوانست سازوکار مشخصی برای این موضوع ارائه کند و گفت که اپلیکیشن جفتشده روی مک، اعلانها را به عنوان یکی از قابلیتهای خود در اختیار آن قرار میدهد و اطلاعات از طریق همگامسازی دستگاه منتقل میشوند.
این توضیح باعث شد نگرانیها درباره سطح دسترسی Muse متا افزایش پیدا کند. اپلیکیشن مک این دستیار میتواند با اجازه کاربر به برنامههایی مانند Messages، Calendar و Notes دسترسی داشته باشد. با وجود این، مشخص نبود که ادعای Muse درباره مشاهده اعلانها تا چه اندازه با عملکرد واقعی این نرمافزار مطابقت دارد.
دیوید سینگلتون از Meta Superintelligence Labs پس از انتشار تصاویر وارد بحث شد و توضیح داد که Muse برای خواندن پیامها به مجموعهای از مجوزها نیاز دارد. یکی از این مجوزها، دسترسی کامل اپلیکیشن مک به فضای ذخیرهسازی دستگاه است.
او همچنین تأکید کرد که این قابلیتها به صورت اختیاری فعال میشوند و کاربر باید بهطور مشخص اجازه دسترسی را صادر کند.
Muse نحوه عملکرد خود را اشتباه توضیح داد
سینگلتون اعلام کرد که Muse اعلانهای مک را زیر نظر نمیگیرد. به گفته او، این دستیار فقط زمانی دادههای برنامه Messages را همگامسازی میکند که کاربر دسترسی لازم را فعال کرده باشد.
بر اساس توضیحات او، مشکل اصلی این ماجرا دسترسی مخفیانه Muse به پیامهای ایتن نبوده است. در عوض، این دستیار هوش مصنوعی نحوه عملکرد داخلی خود را بهاشتباه توضیح داده است.
سینگلتون گفت که Muse هنگام توضیح این قابلیت دچار سردرگمی شده و ادعای همگامسازی «اعلانهای دستگاه» را مطرح کرده است. او مسئولیت این پاسخ نادرست را متوجه متا دانست و برای اطلاعات اشتباهی که Muse ارائه کرده بود، عذرخواهی کرد.
متا اعلام کرده است که برای بهبود درک Muse از سازوکارهای داخلی خود تلاش میکند تا این دستیار بتواند در آینده به پرسشهای کاربران درباره نحوه عملکرد خود، پاسخهای دقیقتر و باثباتتری ارائه دهد.
این اتفاق یکی از مشکلات شناختهشده دستیارهای مبتنی بر هوش مصنوعی را نیز برجسته میکند. چنین سیستمهایی ممکن است هنگام پاسخگویی درباره نحوه عملکرد خود، توضیحاتی ارائه کنند که الزاما با سازوکار واقعی آنها مطابقت ندارد. در مورد Muse نیز به نظر میرسد نگرانی اصلی دسترسی مخفیانه به اعلانها نبود، بلکه ناتوانی این دستیار در توضیح دقیق نحوه دسترسی خود به اطلاعات کاربران بوده است.
