دیپ مایند (DeepMind)، آزمایشگاه تحقیقات هوش مصنوعی گوگل، روش جدیدی را برای آموزش مدلهای هوش مصنوعی معرفی و ادعا کرده است که سرعت آموزش و کارایی انرژی را افزایش چشمگیری میدهد.
بهگزارش تکناک، آزمایشگاه تحقیقات هوش مصنوعی گوگل، دیپمایند (DeepMind)، روی روش جدیدی به نام JEST کار میکند که دادههای آموزشی را برای دستیابی به پیشرفتهای چشمگیر بهینهسازی میکند و گفته میشود عملکردی ۱۳ برابر بهتر و مصرف انرژی ۱۰ برابر کمتر از سایر روشها ارائه میدهد.
باتوجهبه افزایش بحثها دربارهی تأثیر زیستمحیطی مراکز دادهی هوش مصنوعی، عرضهی روش آموزشی JEST بسیار بهموقع است. روش JEST بهسادگی از شیوههای سنتی آموزش مدلهای هوش مصنوعی جدا میشود. روشهای آموزشی رایج روی نقاط دادهای منفرد برای آموزش و یادگیری تمرکز میکنند؛ درحالیکه JEST براساس کل دستههای داده آموزش میبیند.
روش JEST ابتدا مدل هوش مصنوعی کوچکتری ایجاد میکند که کیفیت دادهها را از منابع با کیفیت بسیار زیاد درجهبندی و دستهها را براساس کیفیت رتبهبندی میکند. سپس این رتبهبندی را با مجموعهای بزرگتر و با کیفیت کمتر مقایسه میکند. مدل کوچک JEST مناسبترین دستهها را برای آموزش تعیین میکند و سپس مدلی بزرگ را با استفاده از یافتههای مدل کوچکتر آموزش میدهد.
پژوهشگران DeepMind در مقالهی خود بهصراحت اعلام میکنند که توانایی هدایت فرایند انتخاب داده بهسمت توزیع مجموعه دادههای کوچکتر و با مدیریت مناسب برای موفقیت روش JEST ضروری است. نکتهی دیگر اینکه سیستم مذکور کاملاً به کیفیت دادههای آموزشی خود متکی است؛ زیرا بدون مجموعهی دادهای با بهترین کیفیت ممکن که انسان مدیریت کرده باشد، تکنیک «بوت استرپینگ» از هم میپاشد.
تحقیقات JEST درست زمانی بهثمر نشسته است که صنعت فناوری و دولتهای جهان در حال آغاز بحث دربارهی تقاضای انرژی شدید هوش مصنوعی هستند. حجم کاری هوش مصنوعی در سال ۲۰۲۳ حدود ۴/۳ گیگاوات انرژی مصرف کرد که تقریباً معادل مصرف سالانهی برق کشور قبرس است.
یک درخواست از ChatGPT ده برابر بیشتر از جستوجوی گوگل انرژی مصرف و مدیرعامل شرکت ARM برآورد میکند که هوش مصنوعی تا سال ۲۰۳۰ یکچهارم از شبکهی برق ایالات متحده را به خود اختصاص دهد.
اینکه روشهای JEST را بازیگران اصلی هوش مصنوعی بپذیرند یا نه، هنوز مشخص نیست. گفته میشود آموزش GPT-4o حدود ۱۰۰ میلیون دلار هزینه داشته است و مدلهای بزرگتر جدید امکان دارد بهزودی به مرز میلیارد دلاری برسند؛ بنابراین، شرکتها احتمالاً بهدنبال راههایی برای صرفهجویی در هزینههای خود در این بخش هستند.
برخی از افراد فکر میکنند که روشهای JEST برای حفظ نرخ بهرهوری آموزش فعلی با مصرف انرژی بسیار کمتر استفاده میشوند و به کاهش هزینههای هوش مصنوعی و سیارهی زمین کمک میکنند. بااینحال، بهاحتمال زیاد ماشین سرمایهگذاری همچنان با تمام قدرت به کار خود ادامه دهد و از روشهای JEST برای حفظ حداکثر مصرف انرژی برای خروجی آموزش بسیار سریع استفاده کند.