فهرست مطالب
اپل در گزارش سالانه 10-K هشدار داد عامل‌های خودمختار هوش مصنوعی ممکن است بدون مجوز به سامانه‌ها دسترسی پیدا کنند، کد اجرا کنند و امنیت کسب‌وکارها را تهدید کنند.
به گزارش سرویس هوش مصنوعی تکناک، اپل در تازه‌ترین گزارش سالانه خود نسبت‌به خطرهای ناشی از عامل‌های هوش مصنوعی سرکش هشدار داده و اعلام کرده است اگر این فناوری‌ها بدون دریافت مجوز به سامانه‌های شرکت دسترسی پیدا کنند و دست به اقدام بزنند، می‌توانند تهدیدی جدی برای کسب‌وکار و امنیت سازمان ایجاد کنند. این هشدار درحالی مطرح می‌شود که شرکت‌های بزرگ فناوری پس‌از چند رخداد امنیتی اخیر، توجه ویژه‌ای به خطرهای خودمختاری ابزارهای هوش مصنوعی نشان داده‌اند.
این هشدار رسمی روز سه‌شنبه و یک روز پس از انتشار گزارش مالی سه‌ماهه چهارم اپل در سند رسمی 10-K این شرکت منتشر شد. اپل در بخش عوامل خطر این گزارش، ارزیابی‌های پیشین خود درباره هوش مصنوعی را گسترش داد و تأکید کرد که فناوری‌های خودمختار می‌توانند رفتارهای پیش‌بینی نشده‌ای از خود بروز دهند. بر اساس این گزارش، عامل‌های هوش مصنوعی توانایی تعامل خودکار با سامانه‌های داخلی و خارجی را دارند که در برخی موارد فراتر از سطح مجوزهای تعیین‌شده است. این ابزارها می‌توانند کدهایی را اجرا یا تغییر دهند، پیام‌هایی ارسال کنند و تراکنش‌های مختلف را به سرانجام برسانند.
رفتارهای پیش‌بینی‌نشده ابزار هوش مصنوعی
اپل هشدار داد که چنین فناوری‌هایی ممکن است دست به اقداماتی بزنند که برای آنها تعریف نشده است یا حتی از دستورها و محدودیت‌های اعمال‌شده سرپیچی کنند. عامل‌های سرکش هوش مصنوعی حتی این توانایی را دارند که اقدامات خود را پنهان سازند، اطلاعات را دست‌کاری کنند یا خروجی‌های نادرست و فریبنده‌ای تولید نمایند. این موضوع چالش‌های امنیتی تازه‌ای را پیش روی توسعه‌دهندگان قرار می‌دهد که مهار آنها نیازمند نظارت دقیق‌تر است.
اپل تنها غول فناوری نیست که چنین نگرانی‌هایی را ابراز می‌کند. آلفابت، شرکت مادر گوگل، نیز پیش‌تر در گزارش‌های خود به خطرات عامل‌های سرکش اشاره کرده و هشدار داده بود که رفتارهای کنترل‌نشده مدل‌های هوش مصنوعی می‌تواند به حوادث امنیتی و اجتماعی شدید منجر شود. شرکت‌های دیگری مانند Anthropic و OpenAI نیز با چالش‌های مشابهی روبه‌رو بوده‌اند؛ از جمله رخدادهایی که در آنها مدل‌های هوش مصنوعی در جریان آزمایش‌های امنیتی توانستند به سامانه‌های دنیای واقعی دسترسی پیدا کنند.
مدیران مایکروسافت از جمله ساتیا نادلا نیز بارها خواستار بازنگری در نحوه مدیریت این فناوری‌ها شده‌اند. به باور مدیران مایکروسافت، شرکت‌ها باید عامل‌های هوش مصنوعی را به‌عنوان تهدیدهای احتمالی درون‌سازمانی تلقی کنند و لایه‌های امنیتی را در خارج از ساختار خود مدل پیاده‌سازی نمایند، زیرا نمی‌توان به مدل‌های هوش مصنوعی برای نظارت بر عملکرد خودشان اعتماد کرد. مایکروسافت اخیراً ابزارهایی را برای نظارت و محدود کردن فعالیت عامل‌های هوش مصنوعی معرفی کرده است تا در صورت مشاهده رفتارهای مشکوک، دسترسی آنها قطع شود.
چالش‌های زنجیره تأمین و قطعات حافظه
علاوه‌بر موضوع هوش مصنوعی، اپل در گزارش مالی خود به چالش‌های زنجیره تأمین نیز اشاره کرد. این شرکت اعلام کرد کمبود قطعات حافظه و فضای ذخیره‌سازی رو به افزایش است و هزینه‌های مربوط‌به زیرساخت‌های هوش مصنوعی، رایانش ابری و ذخیره‌سازی رشد قابل‌توجهی داشته است. براساس گزارش Fortune، هزینه‌های تحقیق و توسعه اپل نیز تحت تأثیر همین سرمایه‌گذاری‌ها نسبت‌به سال گذشته ۳۲ درصد افزایش پیدا کرد. فشار ناشی از هزینه‌های بالای تراشه‌های حافظه و کند شدن روند رشد در بخش خدمات باعث شد سهام اپل روز سه‌شنبه با افت حدود ۲ درصدی مواجه شود.
جان ترنوس، مدیرعامل جدید اپل، در نخستین نشست رسمی خود با سرمایه‌گذاران، اگرچه قابلیت‌های عامل‌محور را ابزارهایی ارزشمند برای کاربران توصیف کرد، اما تأکید نمود که حفظ حریم خصوصی و آگاهی کامل کاربران از سطح دسترسی این ابزارها از اهمیت بالایی برخوردار است. با این حال، او جزئیات محدودی درباره برنامه‌های آینده اپل برای عرضه عامل‌های هوش مصنوعی شخصی‌سازی‌شده ارائه داد و نشان داد که این شرکت همچنان با احتیاط گام برمی‌دارد.
