فهرست مطالب
آنتروپیک از سیستم‌های پژوهشگر خودکاری رونمایی کرده که می‌توانند بدون دخالت انسان، فرآیند آموزش و هم‌ترازی هوش مصنوعی را با هزینه بسیار کمتر انجام دهند.
به گزارش سرویس هوش مصنوعی تکناک، شرکت آنتروپیک با انتشار مقاله‌ای علمی از سیستم‌های هوش مصنوعی جدیدی رونمایی کرد که می‌توانند بدون دخالت مستقیم انسان، فرآیند آموزش و هم‌ترازی سایر مدل‌ها را با موفقیت و کارایی بالا به عهده بگیرند. این دستاورد که تحت هدایت چن یوئه هان، همکار پژوهشی آنتروپیک توسعه یافته، نشان می‌دهد که سیستم‌های خودکار می‌توانند با تقلید از روش‌های سنتی تحقیق، خطاهای رفتاری هوش مصنوعی را شناسایی کرده و عملکرد مدل‌ها را در شاخص‌های هم‌ترازی ارتقا دهند.
بر اساس یافته‌های منتشرشده در این مقاله، آموزش مدل‌ها توسط سایر سیستم‌های هوش مصنوعی به یک هدف کلیدی در آزمایشگاه‌های پیشرو تبدیل شده است. در جریان این آزمایش‌ها، هنگامی که ۱۰ معیار سنجش رفتارهای ناهماهنگ و نامطلوب به سیستم‌های خودکار ارائه شد، این سامانه‌ها موفق شدند عملکرد مدل را در تمام این شاخص‌ها بهبود بخشند، بدون آنکه آسیبی به کیفیت و توان کلی مدل وارد شود. این سازوکار متون علمی را بررسی می‌کند، فرضیه و روش ارائه می‌دهد و با اجرای چرخه‌های آزمایشی کوتاه‌مدت، راه‌حل‌های اثربخش را غربال و پیاده‌سازی می‌نماید.
گامی به‌سوی خودبهبودی بازگشتی در مدل‌ها
اهمیت اساسی این پروژه در حرکت به‌سوی خودبهبودی بازگشتی نهفته است؛ مفهومی که کارشناسان آن را مرحله تحول‌آفرین بعدی در توسعه هوش مصنوعی می‌دانند. اگر مدل‌های هوش مصنوعی بتوانند هم‌ترازی رفتاری خود را ارتقا دهند، در ادامه قادر خواهند بود شیوه‌های جامع آموزشی را نیز بهبود بخشند. این فرآیند امکان گسترش مقیاس تحقیقات را با سرعتی بی‌سابقه فراهم می‌آورد و نیاز به نظارت دائمی متخصصان را به‌طور چشمگیری کاهش می‌دهد.
پژوهشگران آنتروپیک در ارزیابی‌های خود، عملکرد سامانه خودکار هم‌ترازی را مستقیماً با متخصصان انسانی مقایسه کرده‌اند. نتایج نشان می‌دهد که بهترین روش‌های ارائه‌شده توسط این سامانه ظرف شش ساعت از پیشنهادات پژوهشگران باتجربه پیشی می‌گیرد و هدایت پژوهش‌ها توسط نیروی انسانی لزوماً به نتایج قوی‌تری ختم نمی‌شود. افزون بر این، بعد اقتصادی این فناوری بسیار چشمگیر است؛ چرا که هزینه پردازش ابری یک پژوهشگر خودکار حدود ۴ دلار در ساعت برآورد می‌شود، در حالی که هزینه به‌کارگیری محققان انسانی رقمی در حدود ۱۵۰ دلار در هر ساعت است.
وابستگی کارایی سیستم به معیارهای انسانی
به نوشته تک‌کرانچ، با وجود این پیشرفت‌ها، گزارش به محدودیت‌های ساختاری این فناوری نیز اشاره دارد. کارایی پژوهشگران خودکار کاملاً به دقت و جامعیت معیارهای سنجش وابسته است و تعریف و نگهداری این شاخص‌ها همچنان نیازمند فعالیت‌های بنیادین انسانی خواهد بود. علاوه بر این، به‌روزرسانی مداوم پایگاه داده‌های علمی که سامانه‌ها از آنها ایده می‌گیرند، یکی از چالش‌های مهم در مسیر گسترش این سیستم‌ها به شمار می‌رود.
در نهایت، نتایج به‌دست‌آمده نشان می‌دهند که خودکارسازی فرآیندهای پس‌آموزش و هدایت رفتاری هوش مصنوعی در کوتاه‌مدت به راهکاری عملیاتی تبدیل خواهد شد. این تحول، سرعت توسعه مدل‌های ایمن‌تر را دوچندان کرده و نقش نیروی انسانی را از انجام آزمایش‌های مکرر، به طراحی ساختارها و معیارهای کلان بازتعریف می‌کند.
