افشای اطلاعات خصوصی کاربران توسط عامل هوش مصنوعی Muse متا

عامل هوش مصنوعی Muse متعلق به متا، به‌دلیل اشتباه گرفتن مکالمات حساب‌های مختلف و نمایش اطلاعات خصوصی کاربران به افراد دیگر، با نگرانی‌های جدی درباره نقض حریم خصوصی مواجه شده است.

به گزارش سرویس هوش مصنوعی تکناک، برخی کارمندان متا در مطالبی که در کانال‌های داخلی شرکت منتشر کرده‌اند، از رفتار غیرمنتظره عامل Muse خبر داده‌اند. این افراد می‌گویند عامل هوش مصنوعی شرکت گاهی اطلاعاتی را نمایش می‌دهد که به حساب‌های دیگر تعلق دارند. این اطلاعات شامل پیام‌های شخصی، درخواست‌های مراقبت از کودکان، توصیه‌های شغلی، سفارش‌های خرید و حتی موجودی حساب‌های بانکی می‌شوند.

خبرگزاری رویترز با بررسی مطالب داخلی متا، چند نمونه از این اتفاقات را شناسایی کرده است. در یکی از موارد، یکی از کارمندان اعلام کرده که هوش مصنوعی Muse هنگام گفت‌وگو درباره وضعیت آب‌وهوا و جزرومد، به‌طور ناخواسته پیام دیگری ارسال کرده است. این پیام شامل اطلاعات موجودی دو حساب بانکی بود.

Muse در پیام خود نوشته بود که موجودی حساب کاربر در بانک Capital One برابر با ۲,۷۲۲.۵۸ دلار و موجودی حساب او در شرکت Charles Schwab برابر با ۵,۸۹۹.۵۷ دلار است. کارمند موردنظر تأکید کرده بود که این اطلاعات به او تعلق ندارند و هیچ ارتباطی با موضوع گفت‌وگویش نداشته‌اند.

دسترسی مشکوک Muse به پیام‌رسان Signal

نمونه دیگری از رفتار این عامل هوش مصنوعی به دسترسی احتمالی آن به اطلاعات برنامه‌های دیگر مربوط می‌شود. یکی از کارمندان متا هنگام استفاده از Muse روی تلفن شخصی خود، یادآوری‌ای دریافت کرده که از او می‌خواسته به پیام خواهرش در پیام‌رسان Signal پاسخ دهد.

تصویری از یک تابلوی تبلیغاتی دیجیتال در محیط مترو که لوگوی شرکت متا را در کنار شعار «AI that gets it done» (هوش مصنوعی که کارها را انجام می‌دهد) نمایش می‌دهد؛ طراحی این تبلیغ مینیمال و با رنگ‌بندی مدرن است.

این اتفاق نگرانی بیشتری ایجاد کرده است، زیرا Signal یک پیام‌رسان محبوب با قابلیت رمزنگاری سرتاسری محسوب می‌شود. این کارمند در واکنش به اتفاق پیش‌آمده، در مطلبی داخلی نوشته است: «به نظر می‌رسد این اتفاق نقض شدید حریم خصوصی باشد. من قطعاً اجازه دسترسی به برنامه‌های دیگر را به آن نداده‌ام و به یاد ندارم که چنین اجازه‌ای از من خواسته شده باشد.»

به‌نوشته تک‌کرانچ، این نمونه‌ها پرسش‌هایی درباره نحوه مدیریت اطلاعات کاربران و سطح دسترسی Muse به داده‌های شخصی ایجاد کرده‌اند. بااین‌حال، گزارش منتشرشده جزئیات فنی این اختلال‌ها یا علت دقیق جابه‌جایی اطلاعات میان حساب‌ها را مشخص نمی‌کند.

رشد سریع Muse در کنار نگرانی‌های امنیتی

متا Muse را در ماه سپتامبر عرضه کرد. این برنامه تاکنون بیش از ۱۰ میلیون بار دانلود شده و به یکی از سریع‌ترین برنامه‌های در حال رشد تبدیل شده است.

با وجود استقبال کاربران، گزارش‌های جدید می‌توانند اعتماد به امنیت این ابزار را تحت تأثیر قرار دهند. متا تاکنون توضیحی درباره این اتفاقات ارائه نکرده است. این شرکت در زمان انتشار گزارش رویترز نیز بلافاصله به درخواست تک‌کرانچ برای اظهارنظر پاسخ نداد.

تارخ ترهنده

تارخ ترهنده

The burning heart never knows surrender.

خبر بعدی

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *