هوش مصنوعی برای حل مسائل دشوار به تشویق نیاز دارد

01

از 03

کلود پس از ۶۵۰ ایده ناموفق دوباره تلاش کرد

این تجربه توجه پژوهشگران را به یکی از ویژگی‌های غیرمنتظره مدل‌های پیشرفته جلب کرده است. هوش مصنوعی برای کارهای ساده مانند تهیه فهرست خرید به تشویق نیاز ندارد، اما شرایط در مواجهه با مسائل پیچیده متفاوت است. مدل ممکن است براساس تجربه‌ها و داده‌های آموزشی خود به این نتیجه برسد که یک مسئله بیش از اندازه دشوار است و ارزش ادامه تلاش را ندارد.

یکی از نظریه‌های مطرح‌شده این است که مدل‌های هوش مصنوعی هنوز توانایی‌های جدید خود را به‌درستی ارزیابی نمی‌کنند. کلود ممکن است برخی کارها را غیرممکن بداند، چرا که نسخه‌های قبلی مدل واقعاً توانایی انجام آنها را نداشتند. افزایش سریع قابلیت مدل‌ها باعث شده است که ارزیابی آنها از محدودیت‌های خود همیشه با توانایی واقعی نسخه جدید هماهنگ نباشد.

این مسئله در آزمایش سامنر به‌ شکل قابل توجهی نمایان شد. کلود برای مسئله مورد نظر ۶۵۰ ایده را امتحان کرد که هیچ‌کدام نتیجه ندادند. سامنر پس از این شکست‌ها از مدل خواست دوباره تلاش کند و کلود در تلاش بعدی ایده‌ای پیدا کرد که کارساز بود.

مدل‌های هوش مصنوعی می‌توانند زمان بسیار زیادی را صرف بررسی یک مسئله ریاضی کنند و مسیرهای متعدد را بدون خستگی جسمی مورد بررسی قرار دهند. با وجود این‌، تشویق انسان ممکن است به آنها اجازه دهد فضای گسترده‌تری از راهکارها را جست‌وجو کنند. در چنین شرایطی، نقش انسان ارائه مستقیم پاسخ نیست، بلکه ترغیب مدل به بررسی روش‌هایی است که احتمال داشت در حالت عادی کنار گذاشته شوند.

این موضوع به معنای مستقل بودن کامل دستاوردهای مدل‌ها از دانش انسانی نیز نیست. در مسئله مورد بررسی، انسان‌ها پیش‌تر قطعات مختلف معمای ریاضی را فراهم کرده بودند. سامنر نقش کلود را یافتن ارتباط میان این قطعات توصیف کرد و گفت: «نقش کلود این بود که ببیند این قطعات چگونه در کنار یکدیگر قرار می‌گیرند.»

داده‌های Epoch AI نیز از پیشرفت سریع مدل‌های OpenAI و Anthropic در حل دشوارترین مسائل ریاضی سطح متخصصان حکایت دارند. عملکرد این مدل‌ها در سال‌های ۲۰۲۵ و ۲۰۲۶ در رده‌های مختلف مسائل دشوار ریاضی افزایش یافته است.

بیشتر بخوانید: ریاضیات را اختراع کردیم یا از دل جهان کشف شد؟ 

02

از 03

مدل‌های هوش مصنوعی گاهی از مسائل دشوار می‌ترسند

رفتار کلود تنها نمونه از این پدیده نیست. شرکت OpenAI چند ماه پیش میزبان گفت‌وگویی با ترنس تائو، ریاضی‌دان برجسته‌ای بود که به «موتسارت ریاضیات» شهرت دارد. مارک چن، مدیر ارشد پژوهش OpenAI، در این گفت‌وگو گفت که سیستم‌های هوش مصنوعی بیشتر از آنچه تصور می‌شود به انسان‌ها شباهت دارند.

این شباهت هنگام مواجهه مدل‌ها با مسائل اردوش آشکار می‌شود. مدل ابتدا سابقه چنین مسائلی را بررسی می‌کند و متوجه می‌شود که ریاضی‌دانان مدت‌ها برای حل آنها تلاش کرده‌اند. سپس ممکن است به این نتیجه برسد که احتمال موفقیت بسیار پایین است و تلاش جدی را آغاز نکند.

تائو این رفتار را با گفت‌وگویی درونی توصیف کرد که مضمون آن چنین است: «خیلی سخت است، پس تلاش نمی‌کنم.» مدل هوش مصنوعی لزوماً خودآگاه نیست، اما اطلاعات مربوط به دشواری یک مسئله می‌تواند بر میزان تلاش و مسیر جست‌وجوی آن اثر بگذارد.

تائو در چنین موقعیت‌هایی توصیه ساده‌ای به مدل‌ها می‌کند. او از آنها می‌خواهد نترسند، تسلیم نشوند و دهه‌ها تلاش ناموفق قبلی را مانعی برای امتحان‌ کردن روش‌های تازه در نظر نگیرند. چن نیز در این گفت‌وگو با لحنی تشویقی گفت: «واقعاً خیلی آسان است، قسم می‌خورم!»

جیمز دونوان، رئیس سابق بخش نتایج شناختی OpenAI، این فرایند را بخشی از پژوهش روی مدل‌های پیشرفته می‌داند. او بیان کرد که پژوهش در مرزهای هوش مصنوعی تا حد زیادی به ترغیب مدل‌ها برای رفتار به شیوه مورد نظر پژوهشگران مربوط می‌شود.

بیشتر بخوانید: انقلاب در کدنویسی با هوش مصنوعی؛ حالت خودکار Claude Code فعال شد

03

از 03

تشویق فقط برای حل مسائل ریاضی کاربرد ندارد

پژوهشگران Anthropic نیز رفتار مشابهی را هنگام آزمایش توانایی Claude Mythos Preview در کشف نقاط ضعف سامانه‌های رمزنگاری مشاهده کردند. آنها از مدل خواستند آسیب‌پذیری‌های دشوار را جست‌وجو کند، اما کلود ابتدا در برابر درخواست مقاومت کرد، زیرا مسئله را «واقعاً دشوار» ارزیابی کرده بود.

سپس پژوهشگران نحوه ارائه درخواست را تغییر دادند. آنها به مدل گفتند که مدل‌ها معمولاً چنین مسائل دشواری را غیرممکن تصور می‌کنند و به همین دلیل برای حل آنها تلاش نمی‌کنند. پژوهشگران تأکید کردند که هدف آنها یافتن موارد ساده و در دسترس نیست و از کلود انتظار دارند پژوهشی جدی برای کشف یافته‌های واقعاً دشوار انجام دهد. مدل پس از دریافت این دستور کار را پذیرفت.

این نمونه‌ها نشان می‌دهند که نحوه بیان درخواست می‌تواند بر میزان تلاش مدل اثر بگذارد. تشویق در این چارچوب لزوما به معنای ایجاد احساس اعتمادبه‌نفس در هوش مصنوعی نیست. مدل‌ها ممکن است پیام تشویقی را به‌ عنوان نشانه‌ای برای اختصاص منابع بیشتر، ادامه استدلال یا بررسی راهکارهایی تفسیر کنند که در حالت عادی احتمال موفقیت آنها را بسیار پایین ارزیابی می‌کردند.

با وجود این‌، تشویق نمی‌تواند تمام محدودیت‌های هوش مصنوعی را از بین ببرد. همچنان مسائل دشواری وجود دارند که مدل‌های پیشرفته قادر به حل آنها نیستند. پژوهشگران نیز هنوز نمی‌توانند با قطعیت توضیح دهند که چرا پیام‌های انگیزشی در برخی موارد عملکرد مدل‌ها را بهبود می‌دهند یا این تأثیر تا چه اندازه قابل تکرار است.

پیشرفت سریع مدل‌ها باعث شده است مرز میان مسئله «غیرممکن برای هوش مصنوعی» و مسئله‌ای که مدل تنها برای حل آن به تلاش بیشتری نیاز دارد، دائماً تغییر کند. کلود در آزمایش سامنر نشان داد که حتی پس از صدها تلاش ناموفق، ادامه جست‌وجو می‌تواند به نتیجه متفاوتی منجر شود.

فرضیه ریمان همچنان یکی از بزرگ‌ترین مسائل حل‌نشده ریاضیات باقی مانده است و مدل‌های هوش مصنوعی هنوز آن را حل نکرده‌اند. با وجود این‌، تجربه‌های اخیر نشان می‌دهند مدل‌ها می‌توانند در حوزه‌هایی پیشرفت کنند که خارج از توان آنها تصور می‌شد. شاید در آینده، جمله ساده «دوباره تلاش کن» نقش مهم‌تری در کشف ظرفیت واقعی هوش مصنوعی داشته باشد.

بیشتر بخوانید: آنتروپیک خروجی‌های متنی و تصویری کلود را واترمارک‌گذاری می‌ کند