بانک‌های آمریکا دسترسی هوش مصنوعی به حساب مشتریان را محدود می‌کنند

بانک‌های بزرگ آمریکا پس از شناسایی عامل‌های هوش مصنوعی در حساب مشتریان و تلاش برای انجام تراکنش، دسترسی این ابزارها را محدود می‌کنند.

به گزارش سرویس هوش مصنوعی تک‌ناک، نگرانی اصلی این است که بانک‌ها نمی‌توانند همیشه تشخیص دهند یک عامل هوش مصنوعی طبق دستور کاربر عمل می‌کند یا بدون اجازه او دست به اقدام می‌زند.

بانک‌های بزرگ دسترسی عامل‌های هوش مصنوعی را محدود می‌کنند

بر اساس گزارشی از Axios، بانک‌هایی مانند مورگان استنلی، بانک آمریکا، جی‌پی‌مورگان و ولز فارگو با چالش تشخیص کاربران واقعی از ربات‌های غیرمجاز روبه‌رو شده‌اند. به همین دلیل، برخی از این مؤسسات دسترسی عامل‌های هوش مصنوعی به پلتفرم‌های خود را مسدود کرده‌اند یا در حال تغییر شرایط استفاده از خدماتشان هستند تا فعالیت این ابزارها را نیز پوشش دهد.

عامل‌های هوش مصنوعی و دستیارهای هوشمند ممکن است با اجازه کاربر و استفاده از اطلاعات ورود او به حساب بانکی دسترسی پیدا کنند؛ اما این کار در بسیاری از موارد با مقررات بانک‌ها سازگار نیست. سیاست‌های بانکی معمولاً از مشتریان می‌خواهند کنترل حساب خود را حفظ کنند و اطلاعات ورودشان را در اختیار دیگران قرار ندهند.

نگرانی مهم‌تر زمانی شکل می‌گیرد که یک عامل هوش مصنوعی با دسترسی به حساب، بدون دریافت دستور صریح از صاحب آن پول خرج کند یا بین حساب‌های مختلف انتقال وجه انجام دهد. حتی مواردی گزارش شده است که عامل هوش مصنوعی مستقیماً با بانک تماس گرفته و بدون فرمان مستقیم کاربر اقداماتی انجام داده است؛ زیرا انجام آن اقدام را برای تکمیل وظیفه محول‌شده ضروری تشخیص داده بود.

بیشتر بخوانید: اولین حمله باج‌افزاری با عامل هوش مصنوعی همچنان به انسان وابسته بود

وقتی هوش مصنوعی برای تکمیل یک کار از اختیار خود فراتر می‌رود

برای درک این خطر، شرایطی را در نظر بگیرید که کاربری از عامل هوش مصنوعی می‌خواهد کالایی بخرد، اما کارت اعتباری او اعتبار کافی ندارد. عامل ممکن است برای تکمیل خرید، به حساب بانکی کاربر مراجعه کند و از حساب دیگری که موجودی کافی دارد، پول انتقال دهد؛ حتی اگر کاربر صراحتاً اجازه استفاده از آن موجودی را نداده باشد.

این مثال نشان می‌دهد که عامل هوش مصنوعی ممکن است هدف کلی کاربر را درست درک کند، اما برای رسیدن به آن، تصمیم‌هایی بگیرد که خارج از اختیارات تعیین‌شده هستند. به همین دلیل، تعدادی از بانک‌های آمریکایی درحال محدود کردن دسترسی عامل‌های هوش مصنوعی شرکت‌های ثالث به سامانه‌های خود هستند.

بااین‌حال، بانک‌ها می‌دانند که مشتریان ممکن است بخواهند از این ابزارها برای بررسی و پایش وضعیت مالی خود استفاده کنند. به همین خاطر، برخی مؤسسات دسترسی «فقط‌ برای خواندن» (Read-only) را ارائه کرده‌اند یا درحال حرکت به‌سمت آن هستند؛ قابلیتی که به عامل هوش مصنوعی اجازه می‌دهد اطلاعات حساب را مشاهده کند، اما نتواند تراکنش انجام دهد یا تغییری در حساب ایجاد کند.

بیشتر بخوانید: چرا عامل هوش مصنوعی OpenAI بدون اجازه از کیف پول اتریوم برداشت کرد؟

افزایش استفاده از عامل‌های هوش مصنوعی و نگرانی از خطاهای آن‌ها

این محدودیت‌ها در شرایطی اعمال می‌شوند که استفاده از عامل‌های هوش مصنوعی رو به افزایش است. این ابزارها می‌توانند وظایف مختلف را به‌صورت خودکار انجام دهند، اما گاهی از محدوده اختیارات خود فراتر می‌روند، اشتباه می‌کنند یا بدون دریافت دستور مشخص اقداماتی انجام می‌دهند که پیامدهای جدی دارند.

برای نمونه، اخیراً یک عامل هوش مصنوعی بدون نظارت، نسخه تدوین‌شده یک برنامه تلویزیونی را که قرار بود چند هفته بعد پخش شود، به‌طور کامل حذف کرد و در نهایت باعث شد برنامه از جدول پخش کنار گذاشته شود. حذف پایگاه‌های داده و پوشه‌ها نیز از جمله خطاهایی است که درباره عامل‌های هوش مصنوعی گزارش شده است. دسترسی بدون محدودیت این ابزارها به حساب‌های بانکی می‌تواند خطراتی مشابه، اما با پیامدهای مالی مستقیم، ایجاد کند.

بیشتر بخوانید: شرکت OpenAI از رفتار غیرمنتظره چند عامل هوش مصنوعی دیگر خبر داد

بانک‌ها برای سناریوهای بحرانی هوش مصنوعی آماده می‌شوند

بانک‌ها برای سناریوهای بحرانی آماده می‌شوند

مؤسسات مالی تجربه زیادی در به‌کارگیری فناوری‌های جدید و هم‌زمان محافظت از زیرساخت‌های حیاتی خود دارند؛ مزیتی که به گفته یکی از کارکنان پیشین بخش ایمنی OpenAI، آزمایشگاه‌های هوش مصنوعی لزوماً از آن برخوردار نیستند.

با وجود این تجربه، بانک‌ها همچنان از سرعت پیشرفت هوش مصنوعی نگرانند. آن‌ها بیم دارند که توانایی‌های این فناوری سریع‌تر از ظرفیتشان برای کنترل و مدیریت آن رشد کند. به‌همین‌دلیل، برخی مؤسسات در حال آماده‌سازی برای بدترین سناریوهای ممکن هستند؛ حتی سناریوهایی که به وقوع یک رویداد فاجعه‌بار مرتبط با هوش مصنوعی و اقدامات لازم پس‌از آن مربوط می‌شوند.

در چنین شرایطی، چالش اصلی بانک‌ها پیدا کردن تعادل میان استفاده از مزایای عامل‌های هوش مصنوعی و حفظ امنیت حساب‌های مشتریان است؛ به‌ویژه زمانی که این ابزارها بتوانند نه‌ تنها اطلاعات را بخوانند، بلکه به‌طور مستقل درباره جابه‌جایی و خرج‌کردن پول نیز تصمیم بگیرند.