یک کاربر توانست مدل هوش مصنوعی Llama 2 را با بهینه‌سازی کد برای معماری PowerPC و مدیریت حافظه بر روی کنسول قدیمی Xbox 360 اجرا کند.
به گزارش تکناک به نقل از وبسایت tomshardware، یک کاربر به نام آندری دیوید موفق شد یک مدل هوش مصنوعی بر اساس پروژه llama2.c ساخته شده توسط آندری کارپاتی را روی کنسول Xbox 360، که نزدیک به ۲۰ سال قدمت دارد، اجرا کند.
دیوید با استفاده از یک بوت‌لودر، مدل هوش مصنوعی را روی این کنسول بارگذاری کرد و درخواست «Sleep Joe said» را در آن به اجرا درآورد. انگیزه دیوید برای این کار، موفقیت تیم EXO Lab در اجرای مدل Llama روی یک کامپیوتر قدیمی Windows 98 با پردازنده Pentium II بود.
اگرچه مدل هوش مصنوعی به‌کاررفته مشابه مدل EXO Lab است، اما دیوید مجبور شد کد را برای معماری PowerPC کنسول و سیستم مدیریت حافظه آن بهینه‌سازی کند. تفاوت بزرگ در اینجاست که معماری PowerPC از نوع بزرگ‌اندین است، یعنی ابتدا مقادیر بزرگ را ذخیره می‌کند، درحالی‌که پردازنده Pentium II از نوع کوچک‌اندین است و مقادیر کوچک را ابتدا ذخیره می‌کند. برای حل این مشکل، دیوید سیستمی برای تغییر ترتیب بایت‌ها پیاده‌سازی کرد و اطمینان حاصل کرد که داده‌ها با تراز حافظه ۱۲۸ بایتی سازگار باشند، که این ویژگی برای عملکرد درست Xbox 360 ضروری است.
یکی دیگر از چالش‌های او، مدیریت حافظه یکپارچه کنسول بود. در زمان عرضه Xbox 360، استفاده از حافظه مشترک میان CPU و GPU نوآوری جدیدی محسوب می‌شد و توسعه‌دهندگان بازی‌ها را ملزم می‌کرد تا بهترین استفاده را از منابع سخت‌افزاری داشته باشند. اگرچه این کنسول ۵۱۲ مگابایت رم داشت، دیوید باید مدل ۶۰ مگابایتی را به گونه‌ای بهینه می‌کرد که در فضایی که برای پردازنده و گرافیک مشترک بود، قرار بگیرد.
با مدیریت دقیق حافظه و تنظیمات خاص معماری PowerPC، دیوید توانست کنسول Xbox 360 را به اجرای مدل زبان بزرگ (LLM) وادار کند. این اقدام گامی دیگر در راستای هدف تیم EXO Lab برای دسترسی همگانی به هوش مصنوعی است، به‌گونه‌ای که این فناوری محدود به شرکت‌های بزرگ و هزینه‌های میلیاردی نباشد.
اجرای مدل هوش مصنوعی مبتنی بر Llama 2 روی یک دستگاه قدیمی دستاوردی چشمگیر است. یکی از کاربران در کامنتی اشاره کرد که حافظه ۵۱۲ مگابایتی RAM برای اجرای مدل‌های سبک‌تری مانند SmolLM از Hugging Face یا مدل Qwen2.5 با دقت ۴ بیت کافی است. در پاسخ، دیوید نوشت: «چالش پذیرفته شد! :)» و این احتمال وجود دارد که به‌زودی شاهد اجرای مدل‌های قدرتمندتری روی Xbox 360 باشیم.
