فهرست مطالب
پژوهش جدید آنتروپیک نشان میدهد سیستمهای هوش مصنوعی میتوانند با خودکارسازی فرایند پژوهش و آموزش، عملکرد مدلها را در زمینه همراستایی بهبود دهند و گامی مهم به سوی هوش مصنوعی خودبهبوددهنده بردارند.
به گزارش سرویس هوش مصنوعی تکناک، آموزش مدلهای هوش مصنوعی با کمک مدلهای دیگر، به یکی از اهداف مهم آزمایشگاههای تحقیقاتی هوش مصنوعی تبدیل شده است؛ حالا یکی از پژوهشگران برنامه فلوشیپ آنتروپیک، تصویری اولیه از آنچه اجرای عملی این ایده میتواند به همراه داشته باشد، ارائه کرده است.
حتما بخوانید: حکم دادگاه علیه پنتاگون در پرونده آنتروپیک
فرایند آموزش هوش مصنوعی خودکار میشود
آنتروپیک روز جمعه مقالهای با عنوان «پژوهشگران خودکار میتوانند شکستهای همراستایی را بهطور قابل اعتماد کاهش دهند» منتشر کرد، که در آن نحوه استفاده از سیستمهای هوش مصنوعی برای بهبود قابل اعتماد عملکرد یک مدل در مجموعهای از معیارهای همراستایی بررسی شده است. این سیستمها با دریافت ۱۰ معیار برای رفتارهای مشخص ناهمراستا، توانستند عملکرد مدل را در تمامی معیارها بهبود دهند، بدون اینکه عملکرد کلی مدل دچار افت شود.
برای مطالعه بیشتر: آنتروپیک با مرورگر داخلی Claude به جنگ گوگل میرود
این سیستم که با هدایت چن یوه-هان، پژوهشگر برنامه فلوشیپ آنتروپیک توسعه یافته است، بخش قابل توجهی از فرایند سنتی آموزش و پژوهش را خودکار میکند. هر پژوهشگر خودکار در ابتدا ادبیات و منابع علمی موجود را جستوجو میکند، سپس یک روش را پیشنهاد میدهد و مدل را به مدت ۳۰ دقیقه با استفاده از آن روش آموزش میدهد. این فرایند در چندین تکرار ادامه پیدا میکند و سطح دشواری معیار ارزیابی نیز به تدریج افزایش مییابد. روشهای موفق حفظ و روشهای ناکارآمد حذف میشوند؛ رویکردی که به سیستم اجازه میدهد پژوهش را با سرعت بالا و در مقیاس بسیار بزرگی انجام دهد. آنتروپیک در مقاله خود نوشته است: «در مجموع، این نتایج شواهد اولیهای ارائه میکنند که نشان میدهد پژوهش خودکار برای آموزش پس از مرحله اصلی با هدف همراستایی، ممکن است در آینده نزدیک به روشی عملی تبدیل شود.»
خودبهبوددهی بازگشتی
اهمیت این پژوهش فراتر از بهبود یک مدل خاص است و آن را میتوان گامی در مسیر «خودبهبوددهی بازگشتی» دانست؛ مفهومی که بسیاری از کارشناسان آن را یکی از مراحل مهم بعدی در پیشرفت هوش مصنوعی میدانند. اگر مدلها بتوانند فرایند آموزش همراستایی خود را بهبود دهند، در مرحله بعد این احتمال مطرح میشود که بتوانند روشهای آموزش هوش مصنوعی را در مقیاس گستردهتری نیز بهینه کنند؛ نقطهای که در آن نقش پژوهشگران انسانی هوش مصنوعی ممکن است به شدت کمرنگ شود یا حتی دیگر ضرورت سابق را نداشته باشد. حتی مقاله آنتروپیک بهطور مستقیم به این احتمال میپردازد و عملکرد «پژوهشگر خودکار همراستایی» یا AAR را با پژوهشگران انسانی مقایسه میکند. بر اساس نتایج، «بهترین روش AAR، بهطور میانگین ظرف شش ساعت از روشهایی که پژوهشگران باتجربه انسانی پیشنهاد میکنند بهتر عمل میکند.» همچنین مقاله بیان کرده است که مسیرهای پژوهشی هدایتشده توسط انسان به عملکرد قویتری منجر نشدهاند.
بیشتر بخوانید: انویدیا برای خرید Hugging Face آماده می شود
اختلاف هزینه نیز چشمگیر است. آنتروپیک اعلام کرده است که اجرای AAR از طریق استنتاج API حدود ۴ دلار در ساعت هزینه دارد، در حالی که هزینه پژوهشگران انسانی این شرکت حدود ۱۵۰ دلار در ساعت است. با وجود این، پژوهشگران محدودیتهای این رویکرد را نیز نادیده نگرفتهاند. فرایند آموزش هوش مصنوعی خودکار تنها در صورتی میتواند عملکرد مناسبی داشته باشد که معیارهای ارزیابی، اهداف واقعی همراستایی را به درستی بازتاب دهند. ایجاد، اعتبارسنجی و حفظ همین معیارها نیز خود به تلاش قابل توجهی نیاز دارد. از طرف دیگر، پژوهشگر خودکار برای فعالیت خود به ادبیات و منابع علمی متکی است؛ بنابراین حفظ، بهروزرسانی و گسترش این منابع نیز همچنان به کار انسانی و زیرساخت پژوهشی نیاز خواهد داشت.
