• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

هوش مصنوعی GPT-2 در ۲۴ ساعت و فقط با ۶۷۲ دلار بازتولید شد

امیرحسین یونس نوشته شده توسط امیرحسین یونس
شنبه 23 تیر 1403 - 22:10
در اخبار هوش مصنوعی
GPT-2
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

اندری کارپاتی، مدیر سابق هوش مصنوعی تسلا، با استفاده از کد منبع جدیدی به نام llm.c، مدل زبانی GPT-2 را در ۲۴ ساعت و با هزینه‌ی فقط ۶۷۲ دلار بازتولید کرد.

به‌گزارش تک‌ناک، شرکت OpenAI در سال ۲۰۱۹ مدل GPT-2 را معرفی کرد. در آن زمان، گزارش شده بود که هزینه‌ی آموزش این هوش مصنوعی ۲۵۶ دلار در ساعت بود. با‌این‌حال، از آن زمان پنج سال گذشته و اکنون به GPT-4 رسیده‌ایم. همان‌طور‌که آندره کارپاتی، توسعه‌دهنده‌ی پروژه‌ی بازتولید GPT-2 در llm.c، ثابت کرده، پیشرفت در سخت‌افزار و نرم‌افزار و داده‌ها بدین‌معنی است که آموزش همان مدل زمان و هزینه‌ی کمتری می‌برد.

تامزهاردور می‌نویسد که عامل اصلی کاهش هزینه استفاده از گره 8XH100 واحد برای آموزش است که هزینه را به تنها ۲۸ دلار در ساعت کاهش می‌دهد؛ یعنی تقریباً ۹۰ درصد کاهش در کمتر از پنج سال. انویدیا پردازنده‌ی H100 را در سال ۲۰۲۳ معرفی کرد؛ بنابراین، OpenAI احتمالاً از سخت‌افزار با قدرت بسیار کمتر هنگام شروع کار روی GPT-2 استفاده کرده است. با‌این‌حال، تعداد ساعت‌های صرف‌شده برای آموزش GPT-2 مشخص نیست. در مقام مقایسه، هزینه‌ی آموزش GPT-4 بیش از ۱۰۰ میلیون دلار برآورد شده است.

یکی دیگر از عواملی که باعث شد آموزش llm.c بسیار سریع‌تر انجام شود، پیاده‌سازی مستقیم آموزش GPT در آن است. پروژه‌ی llm.c ابتدا به‌عنوان بخشی از ویدئویی آموزشی شروع شد؛ اما به‌زودی به چیزی تبدیل شد که کارپاتی پس از «گیر‌کردن با برخی موارد PyTorch» از ابتدا ساخت. این نشان‌دهنده‌ی علاقه‌ی کارپاتی به هوش مصنوعی و تلاش‌هایی است که برای تکمیل پروژه‌ی خود انجام داده است. با‌این‌حال، وی این کار را به‌تنهایی انجام نداد و از حمایت چندین توسعه‌دهنده از سراسر جهان برخوردار بود.

GPT-2

پیشرفت در سخت‌افزار و نرم‌افزار و داده‌های آموزشی بدین‌معنی نیست که آموزش پیشرفته‌ی هوش مصنوعی ارزان‌تر می‌شود. داریو آمودئی، مدیرعامل آنتروپیک (Anthropic)، گفت مدل‌های هوش مصنوعی که امروز آموزش می‌بینند، در‌حال‌حاضر ۱ میلیارد دلار هزینه دارند و مدل‌های گران‌تر تا سال ۲۰۲۵ به ۱۰۰ میلیارد دلار می‌رسند.

دلیل این افزایش هزینه‌ها آن است که اگرچه سخت‌افزارها قدرتمندتر می‌شوند، قیمتشان نیز افزایش می‌یابد. برای مثال، هر پردازنده‌ی H100 انویدیا در‌حال‌حاضر ۴۰ هزار دلار قیمت دارد. همچنین، انتظار می‌رود که نسل بعدی چیپ‌های هوش مصنوعی بلک‌ول (Blackwell) با قیمت ۷۰ هزار دلار فروخته شوند و رک کامل سرور به ۳ میلیون دلار یا بیشتر برسد؛ مگر اینکه پیشرفت‌های سخت‌افزاری مانند چیپ هوش مصنوعی Sohu، ایسیک (ASIC) طراحی‌شده‌ی مخصوص ترانسفورمرها، پیدا کنیم.

علاوه‌بر پیامدهای هزینه، افزایش نیازهای انرژی مراکز داده هوش مصنوعی برخی از متخصصان را نگران کرده است. فقط یک چیپ H100 با نرخ استفاده سالانه‌ی متوسط ۶۱ درصد، سالانه‌ی ۳/۷ مگاوات‌ساعت برق مصرف می‌کند. با فروش بیش از ۳/۸ میلیون GPU هوش مصنوعی انویدیا و سایر شرکت‌ها در سال گذشته، این میزان به ۱۴/۳ تراوات ساعت برق در سال می‌رسد؛ درست به‌اندازه‌ی تأمین برق ۱/۳ میلیون خانوار متوسط آمریکایی.

بااین‌همه حتی با تمام پول و انرژی صرف‌شده برای هوش مصنوعی، مدیرعامل دیپ‌مایند گوگل می‌گوید که مدل‌های فعلی هنوز در سطح IQ گربه هستند؛ بنابراین، هنوز باید میلیاردها دلار دیگر در مدل‌های آینده سرمایه‌گذاری کنیم. بااین‌حال، اگر می‌خواهید مدل زبان بزرگ خود را با استفاده از مدل‌های قدیمی‌تر بسازید، به صرف سرمایه‌ای هنگفت نیازی ندارید؛ بلکه فقط هوش لازم برای ایجاد زبان و چندصد دلار کافی است.

امیرحسین یونس

امیرحسین یونس

کارشناس ارشد محیط زیست، نویسنده حوزه تکنولوژی

مطالب مرتبط

قرارداد ۲۰۰ میلیون دلاری xAI با وزارت دفاع آمریکا
اخبار هوش مصنوعی

انعقاد قرارداد ۲۰۰ میلیون دلاری وزارت دفاع آمریکا با xAI پس‌از جنجال‌های گراک

نوشته شده توسط اسما کلهر
23 تیر 1404
دیتاسنتر Hyperion متا
اخبار هوش مصنوعی

متا با دیتاسنتر Hyperion به‌دنبال شکست OpenAI در رقابت هوش مصنوعی است

نوشته شده توسط امیرحسین یونس
23 تیر 1404
تأثیر چت‌بات‌های هوش مصنوعی بر کودکان
اخبار هوش مصنوعی

هشدار کارشناسان درباره تأثیر چت‌بات‌های هوش مصنوعی بر سلامت روان کودکان

نوشته شده توسط اسما کلهر
23 تیر 1404
تأثیر هوش مصنوعی بر توانایی‌های شناختی انسان
اخبار هوش مصنوعی

آیا تأثیر هوش مصنوعی بر توانایی‌های شناختی انسان واقعاً منفی است؟

نوشته شده توسط اسما کلهر
23 تیر 1404
ویژگی‌ های اصلی هوش مصنوعی Galaxy AI برای همیشه رایگان خواهند ماند
اخبار هوش مصنوعی

ویژگی‌ های اصلی هوش مصنوعی Galaxy AI برای همیشه رایگان خواهند ماند

نوشته شده توسط نرگس چالوک
23 تیر 1404
خبر بعدی
AT&T

دانلود غیرقانونی داده‌های ۱۰۹ میلیون مشتری شرکت AT&T

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

هم‌زمان با بمبارات تأسیسات اتمی ایران بازار رمزارزها سراسر قرمزپوش شد

هم‌زمان با بمباران تأسیسات اتمی ایران؛ بازار رمزارزها قرمزپوش شد

1 تیر 1404
ابداع دارویی جدید برای نجات میلیون‌ها بیمار مبتلا به فشار خون

ابداع دارویی جدید برای نجات میلیون‌ها بیمار مبتلا به فشار خون

26 خرداد 1404

داغ‌ترین‌های روز

ارتقاء جنگنده میگ‑۲۹ در ایران؛ بازگشت پرقدرت به میدان نبرد

ارتقاء جنگنده میگ‑۲۹ در ایران؛ بازگشت پرقدرت به میدان نبرد

21 تیر 1404
هشدار رابرت کیوساکی: بیت‌کوین وارد منطقه موزی می‌ شود

هشدار رابرت کیوساکی: بیت‌کوین وارد منطقه موزی می‌ شود

21 تیر 1404
پیش‌بینی صعودی پیتر برنت برای ریپل: بالا، بالا و فقط بالا

پیش‌بینی صعودی پیتر برنت برای ریپل: بالا، بالا و فقط بالا

21 تیر 1404
مقایسه شیائومی نوت 13 و نوت 14

مقایسه شیائومی نوت 13 و نوت 14 ؛ اقتصادی‌ترین میان‌رده‌های شیائومی

22 تیر 1404
تحلیلگران: جهش قیمت ریپل تا ۶ دلار در صورت حفظ حمایت کلیدی قطعی است

تحلیلگران: جهش قیمت ریپل تا ۶ دلار در صورت حفظ حمایت کلیدی قطعی است

23 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

قرارداد ۲۰۰ میلیون دلاری xAI با وزارت دفاع آمریکا

انعقاد قرارداد ۲۰۰ میلیون دلاری وزارت دفاع آمریکا با xAI پس‌از جنجال‌های گراک

23 تیر 1404
سیستم پاداش Orbs در دیسکورد

سیستم پاداش Orbs در دیسکورد؛ راهی جدید برای کسب آیتم‌های دیجیتال

23 تیر 1404
رنگ جدید آیفون ۱۷ پرو

رنگ جدید آیفون ۱۷ پرو ۲۰۲۵ فاش شد

23 تیر 1404
۱۰ ویژگی جدید و جذاب ویندوز ۱۱ در سال ۲۰۲۵

این ویژگی‌های جدید ویندوز ۱۱ به‌طور کامل تجربه کاربری شما را تغییر می‌دهند

23 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir