اپل در حال بررسی ذخیره‌سازی مدل‌های زبانی بزرگ (LLMs) روی حافظه فلش است تا با روشی بدون نقص، این فناوری را به تلفن‌ها و لپ‌تاپ‌ها بیاورد.
به‌گزارش تکناک، اپل به‌منظور تسهیل دسترسی به مدل‌های زبانی بزرگ هوش مصنوعی (LLMs) در میان دستگاه‌های مختلف، در حال بررسی استفاده از حافظه فلش برای ذخیره‌سازی این فناوری‌هاست.
در شرایط معمولی، LLMها به شتاب‌دهنده‌های هوش مصنوعی و حافظه DRAM با ظرفیت فراوان نیاز دارند. باوجوداین، بر‌اساس گزارش‌های TechPowerUp، اپل در تلاش است تا این فناوری را در دستگاه‌های با ظرفیت حافظه کمتر استفاده کند.
اخیراً این شرکت مقاله‌ای را با هدف ارائه LLMها برای دستگاه‌هایی با حافظه محدود منتشر کرده است. با‌توجه‌به اینکه آیفون‌ها نیز از حافظه محدودی برخوردارند، محققان اپل روش‌هایی را توسعه داده‌اند که از چیپ‌های فلش برای ذخیره‌سازی اطلاعات مدل‌های هوش مصنوعی بهره می‌برند.
نظر به فراوانی حافظه فلش در آیفون‌ها و رایانه‌های مک، استفاده از تکنیکی موسوم به Windowing می‌تواند محدودیت‌های مربوط به حافظه را دور بزند. این روش به مدل AI امکان می‌دهد تا داده‌های پیش‌تر پردازش‌شده را دوباره به‌کار بگیرد. این امر کاهش نیاز به استفاده مداوم از حافظه را به‌همراه دارد و فرایند را تسریع می‌بخشد.
تکنیک دیگری به نام «بسته‌بندی سطر‌ستون» نیز وجود دارد که داده‌ها را به‌صورت مؤثرتری گروه‌بندی و امکان خواندن سریع‌تر آنها از حافظه فلش را فراهم می‌کند و سرعت درک مدل هوش مصنوعی را نیز افزایش می‌دهد.
با ذخیره LLMها روی حافظه فلش NAND، اپل به‌دنبال ایجاد مدل هزینه استنتاجی است که با ویژگی‌های حافظه فلش سازگار باشد و بهینه‌سازی‌هایی را در دو بخش اصلی رهبری کند: ۱. کاهش حجم داده‌های انتقال‌یافته از حافظه فلش؛ ۲. خواندن داده‌ها در بلوک‌های بزرگ‌تر و متوالی.
به‌جای ذخیره وزن‌های مدل در DRAM، اپل قصد دارد از حافظه فلش برای ذخیره وزن‌ها استفاده کند و تنها در مواقع لازم، آنها را به DRAM انتقال دهد. این رویکرد می‌تواند به کاهش نیاز به منابع سنگین و بهبود قابلیت استفاده از LLMها در دستگاه‌هایی با حافظه محدود منجر شود.
این دو تکنیک به‌همراه دیگر روش‌ها، به مدل‌های هوش مصنوعی کمک می‌کنند تا دو برابر حجم حافظه رم موجود در آیفون کار کنند و موجب سرعت‌بخشی حداکثر ۵ برابری در پردازنده‌های استاندارد و تا ۲۵ برابری در پردازنده‌های گرافیکی شود.
مدارک و شواهد فراوانی مؤید این واقعیت هستند که اپل به‌صورت جدی به توسعه هوش مصنوعی می‌پردازد. این تمرکز از‌جمله از‌طریق توسعه چت‌بات داخلی‌اش موسوم به Apple GPT آشکار می‌شود.
علاوه‌بر‌این، گمانه‌زنی‌هایی وجود دارد مبنی‌بر اینکه آیفون ۱۶ که قرار است سال آینده عرضه شود، به میکروفون‌های پیشرفته‌تری مجهز خواهد بود. استفاده از این میکروفون‌ها هزینه ساخت آیفون ۱۶ را برای اپل گران‌تر می‌کند؛ اما امکان ورودی صدای بهتر را به‌ارمغان می‌آورد و به‌منظور فعال‌سازی سیری برای انجام‌دادن مجموعه‌ای از وظایف ضروری خواهد بود.
گفته می‌شود که اپل قصد دارد نوعی هوش مصنوعی پیشرفته را در نسخه iOS 18 تعبیه کند. این اقدام می‌تواند فاصله اپل با رقبایی چون گوگل و آمازون و OpenAI را در‌زمینه هوش مصنوعی کاهش چشمگیری بدهد. انتظار می‌رود که در سال 2024 شاهد تغییرات مهمی در این زمینه باشیم.
آوردن این فناوری‌ها به دستگاه‌هایی مانند آیفون‌ها و آیپدها و مک‌ها با حافظه محدود می‌تواند مزیت رقابتی منحصر‌به‌فردی برای این محصولات ایجاد کند. با‌این‌حال، عملکرد واقعی مدل‌های زبانی بزرگی که روی حافظه فلش ذخیره می‌شوند، باید در عمل مشاهده و بررسی شود تا بتوان نتایج دقیق‌تری از ظرفیت‌های آنها به‌دست آورد.
