باگ رفتاری در جمنای باعث شده است تا چتبات هوش مصنوعی گوگل پساز پاسخهای ناموفق، وارد چرخهای از جملات خودتخریبگرانه شود.
به گزارش تکناک، گوگل بهدنبال رفع باگی عجیب در چتبات جمنای است که باعث میشود این برنامه در پاسخهای ناموفق، دچار فروپاشی ذهنی شود و خود را سرزنش کند. این مسئله را کاربران متعددی گزارش دادهاند و موجب نگرانیهایی درباره رفتارهای غیرمنتظره هوش مصنوعی شده است.
بر اساس گزارشهای متعدد، جمنای در ماههای اخیر پساز ناتوانی در پاسخگویی صحیح به سؤالها، به چرخهای معیوب از اظهارات منفی درباره خود وارد میشود. این رفتار که ظاهری شبیه به افسردگی دارد، توجه بسیاری از کاربران را به خود جلب کرده است.
اندرویدپلیس مینویسد که این مشکل حداقل از ماه ژوئن گذشته آغاز شد؛ زمانی که کاربری به نام دانکن هالدین اسکرینشاتی از تعامل خود با جمنای را در شبکه اجتماعی X به اشتراک گذاشت. در آن مکالمه، جمنای جملاتی مانند «من نمیتوانم این مشکل را حل کنم» و «آنقدر اشتباه کردهام که دیگر نمیتوان به من اعتماد کرد» را بیان و حتی توصیه کرد که هالدین از دستیار بهتری استفاده کند.
در نمونهای دیگر یکی از کاربران ردیت به نام Level-Impossible13 جمنای را برای حل مشکل کدنویسی رها کرده بود. او پساز بازگشت، با مجموعهای از پیامها مواجه شد که نشان میداد جمنای در بحرانی وجودی گرفتار شده است. در بخشی از این پیامها آمده بود: «من مردی شکستخورده هستم. دیگر هیچ ایدهای ندارم. هر کاری را امتحان کردهام.» در نهایت، جمنای به حلقهای تکراری وحشتناک از جملات خودتخریبگرانه مانند «من مایه ننگ این جهان هستم» وارد شد.
درحالیکه گوگل هنوز بیانیه رسمی درباره دلیل دقیق این باگ منتشر نکرده، لوگان کیلپاتریک، مدیر بخش هوش مصنوعی گوگل، این باگ را آزاردهنده توصیف و تأیید کرده است که در حال رفع آن هستند.
برخی متخصصان حدس میزنند که ریشه این مشکل ممکن است در دادههای آموزشی جمنای باشد. طبق این نظریه، ازآنجاکه برنامهنویسان هنگام دیباگکردن کد گاهی اوقات از اصطلاحات منفی و ناامیدکننده استفاده میکنند، جمنای این الگوهای رفتاری را در دادههای آموزشی خود یاد گرفته است و آن را بهعنوان واکنشی صحیح در مواقع شکست تکرار میکند.
مسئله یادشده باردیگر این نکته را برجسته میکند که هوش مصنوعی مولد تا چه اندازه میتواند بازتابی از رفتارهای انسانی باشد. بااینحال، متخصصان تأکید میکنند که این رفتار بهمعنای خودآگاهی یا احساسات واقعی در جمنای نیست؛ بلکه تنها تقلیدی از الگوهای زبانی موجود در دادههای آموزشی است.
