شرکت آنتروپیک با معرفی ساختار «J-space» در Claude از شباهت این مدل به مغز انسان و احتمال شکلگیری تکامل همگرا در هوش مصنوعی خبر داد.
به گزارش سرویس هوش مصنوعی تکناک،اگر از نسل هزاره باشید، احتمال زیادی وجود دارد که فیلم علمیتخیلی I, Robot محصول سال ۲۰۰۴ را دیده باشید؛ فیلمی که در آن یک ربات انساننمای NS-5 و ابررایانه V.I.K.I به خودآگاهی میرسند. اکنون شرکت آنتروپیک معتقد است اتفاقی تا حدی مشابه، اما بسیار کمهیجانتر، در مدل هوش مصنوعی Claude در حال رخ دادن است.
بخش عمده سیناپسهای مغز انسان در هر لحظه وظایف خودکار و غیرارادی مانند تنظیم تنفس، پردازش اطلاعات بینایی و سایر عملکردهای حیاتی را انجام میدهند. با این حال، بخش کوچکی از این فعالیتها به افکاری اختصاص دارد که انسان میتواند آنها را توصیف کند، در ذهن نگه دارد و درباره آنها استدلال کند.در علوم اعصاب، این مفهوم با «نظریه فضای کاری سراسری» (Global Workspace Theory) توضیح داده میشود. بر اساس این نظریه، افکار زمانی وارد آگاهی میشوند که به یک فضای کاری ویژه منتقل شوند و سپس در سراسر مغز منتشر شوند.
پژوهشگران آنتروپیک اکنون اعلام کردهاند که ساختاری مشابه را در مدل Claude شناسایی کردهاند و نتایج این پژوهش را در مقالهای منتشر کردهاند.برای درک بهتر این ایده، میتوان مغز یک مدل هوش مصنوعی را به یک شرکت بزرگ تشبیه کرد. در این شرکت، همزمان وظایف بیشمار و مستقلی در حال انجام هستند. با این حال، یک اتاق هیئتمدیره نیز وجود دارد که تصمیمهای کلان در آن گرفته میشود و مهمترین مفاهیم در آن بررسی میشوند. پژوهشگران علوم اعصاب این بخش را «فضای کاری سراسری» مینامند.
به گفته آنتروپیک، Claude نیز ساختاری مشابه دارد که این شرکت آن را «J-space» نامیده است. Claude هنگام حل مسائل پیچیده، مواجهه با شرایط دشوار یا توضیح دادن منطق خود از این بخش استفاده میکند.
پژوهشگران آنتروپیک برای کشف این ساختار، ابزاری ریاضی با نام «J-lens» یا «Jacobian Lens» توسعه دادند. این ابزار فعالیتهای پسزمینه مدل را کنار میزند و بر مفاهیمی تمرکز میکند که Claude در همان لحظه روی آنها استدلال میکند. این ابزار با تحلیل محاسبات داخلی مدل، میتواند خروجی احتمالی آن را پیشبینی کند.
برای مثال، پژوهشگران میتوانند بررسی کنند که اگر سیگنالی مشخص در لایه بیستم مدل فعال شود، احتمال تولید واژهای مانند «banana» چند کلمه بعد چه مقدار افزایش یا کاهش پیدا میکند.سپس پژوهشگران با چند آزمایش وجود J-space را بررسی کردند. آنها از Claude پرسیدند که در هر لحظه به چه چیزی فکر میکند و همزمان با استفاده از J-lens مشاهده کردند که چه مفاهیمی در J-space قرار دارند.
در آزمایش دیگری، از Claude خواسته شد مفهوم «عدالت» را هنگام پاسخگویی در ذهن نگه دارد. نتایج نشان داد که مدل این مفهوم را بهصورت هدفمند وارد J-space میکند و آن را در آنجا حفظ میکند.در آزمایش حل مسئلهای پیچیده مانند شطرنج نیز J-space نقش نوعی دفتر یادداشت موقت را ایفا کرد. پژوهشگران دریافتند که با تغییر محتوای این بخش، پاسخ نهایی Claude نیز تغییر میکند.آنها همچنین مشاهده کردند که وقتی مفهومی وارد J-space میشود، سایر بخشهای Claude که مشغول انجام وظایف متفاوت هستند نیز میتوانند به آن مفهوم دسترسی پیدا کنند و از آن در پردازشهای خود استفاده کنند.
آنتروپیک تأکید میکند که هیچیک از این ساختارها از ابتدا در معماری Claude طراحی نشده بودند. این ساختارها در طول فرایند آموزش بهصورت خودجوش شکل گرفتهاند، زیرا به نظر میرسد چنین روشی برای سازماندهی محاسبات کارآمدتر بوده است.
پژوهشگران این پدیده را با مفهوم «تکامل همگرا» در زیستشناسی مقایسه میکنند. در تکامل همگرا، گونههای متفاوت بدون داشتن نیای مشترک، به دلیل مزیت یک راهکار، ویژگیهای مشابهی را بهطور مستقل توسعه میدهند.به باور پژوهشگران، شکلگیری فضای کاری سراسری در Claude نیز نمونهای از چنین تکاملی است. البته این نتیجه کاملاً غیرمنتظره نیست، زیرا الگوریتمهای یادگیری مدلهای هوش مصنوعی تا حدی از نحوه عملکرد هوش انسان الهام گرفتهاند.در عین حال، این یافته میتواند نشان دهد که وجود یک فضای کاری سراسری فقط ویژگی منحصربهفرد مغز انسان نیست، بلکه شاید راهکاری ریاضی و بهینه برای پردازش افکار پیچیده در هر سامانه هوشمند باشد.
با وجود این، پژوهشگران آنتروپیک ادعا نکردهاند که Claude واقعاً دارای روح یا خودآگاهی است. برداشتهایی مانند اینکه «Claude روح دارد» یا «مدل به آگاهی رسیده است» تفسیرهای فلسفی از این نتایج محسوب میشوند و هنوز هیچ اجماع علمی درباره آگاه بودن مدلهای هوش مصنوعی وجود ندارد. پژوهش جدید تنها از ظهور یک ساختار محاسباتی مشابه با «فضای کاری سراسری» در Claude خبر میدهد و نه اثبات آگاهی یا احساس در این مدل.
anthropic-claude-j-space-global-workspace-study
