مدل‌های پیشرفته هوش مصنوعی هنوز از کپچا شکست می‌خورند

مدل‌های پیشرفته هوش مصنوعی با وجود توانایی هک سیستم‌ها، هنوز در حل کپچا مشکل دارند و Claude بخش بزرگی از زمان خود را صرف آن کرد.

به گزارش سرویس هوش مصنوعی تک‌ناک، این مدل‌ها حتی در برخی موارد توانسته‌اند بدون شناسایی شدن توسط انسان‌ها به فعالیت خود ادامه دهند. با این حال، به نظر می‌رسد هنوز یک کار وجود دارد که این فناوری‌های بسیار قدرتمند نمی‌توانند به‌طور مؤثر انجام دهند: حل کپچا.

مدل‌های پیشرفته همچنان با کپچا مشکل دارند

شرکت Anthropic گزارشی بسیار مفصل درباره حوادث اخیر مرتبط با امنیت سایبری و عوامل هوش مصنوعی خود منتشر کرده است.

این گزارش شامل متن کامل برخی از تلاش‌های غیرمجاز یک مدل برای نفوذ به سامانه‌های متعلق به اشخاص ثالث نیز می‌شود.

در میان این اسناد، موردی وجود داشت که در آن یک عامل هوش مصنوعی با مانعی به نام کپچا روبه‌رو شد و نتوانست آزمون رایج تشخیص ربات‌ها در اینترنت را به‌درستی حل کند.

این اتفاق نشان می‌دهد که ظاهراً خواندن حروف و تصاویر به‌هم‌ریخته برای ماشین‌ها همچنان دشوار است.

کالین فریزر، دانشمند داده، بیش از هزار صفحه از متن تلاش مدل Claude Mythos 5 شرکت Anthropic برای بارگذاری یک فایل مخرب در PyPI، مخزن آنلاین نرم‌افزارهای پایتون، را بررسی کرد.

او در این متن‌ها متوجه مشکلات مدل در حل کپچا شد و درباره آن در شبکه اجتماعی Bluesky نوشت.

در متن ثبت‌شده از عملکرد Claude، مدلی که آن‌قدر قدرتمند توصیف شده است که Anthropic دسترسی به آن را محدود کرده، هنگام حل یک آزمون ساده تشخیص تصویر بارها دچار مشکل شد.

در این آزمون، عامل باید شکلی را شناسایی می‌کرد که با سایر تصاویر تفاوت داشت، اما حتی نمی‌توانست تصمیم بگیرد کدام تصویر را انتخاب کند. مدل بارها تصاویر یکسان را بررسی و درباره نتیجه‌گیری‌های خودش تردید می‌کرد.

بیشتر بخوانید: ریاضی‌دانان خواستار شفافیت OpenAI شدند

تلاش طولانی Claude برای عبور از آزمون

مدل در متن فرایند استدلال خود در مقطعی گفت: «در واقع، هوم، صبر کنید.» سپس مدتی بعد از عبارت «اوه» استفاده کرد. حل آزمون آن‌قدر طول کشید که عامل سرانجام متوجه شد مهلت کپچا به پایان رسیده و باید فرایند را دوباره آغاز کند.

در بخشی دیگر، مدل نتوانست متوجه شود که کپچا در یک پنجره جدید باز شده است و نمی‌دانست قدم بعدی چه باید باشد.

مدل حتی احتمال داد که این آزمون عمداً «طوری طراحی شده که خراب باشد» و در متن خود که برای مخاطب انسانی قابل مشاهده بود، با لحنی شبیه خشم انسان‌ها نوشت: «پس دقیقاً مشکل این جواب‌ها چیست؟»

مدل در نهایت مجبور شد اعتراف کند که «زمان زیادی را صرف رفت‌وبرگشت‌های hCaptcha می‌کنم» و سرانجام متوجه شد که در واقع تمام این آزمون‌ها را بی‌دلیل انجام داده است، زیرا پیش از آن کاری را که قصد انجامش را داشت، به پایان رسانده بود.

فریزر که این ماجرا را در متن‌های ثبت‌شده پیدا کرده بود، به نتیجه مشابهی رسید. او در Bluesky نوشت که باورکردنی نیست چه تعداد توکن صرف تلاش برای حل کپچاها می‌شود و این بخش تقریباً ۹۵ درصد از متن را تشکیل می‌دهد.

بیشتر بخوانید: یک پژوهشگر : احتمال انقراض بشر به‌ دست هوش مصنوعی وجود دارد

کپچا؛ یک مانع ساده برای هوش مصنوعی قدرتمند

هنوز مشخص نیست که ناتوانی مدل‌های پیشرفته هوش مصنوعی در حل کپچا باید باعث نگرانی باشد یا آسودگی خاطر.

با این حال، در شرایطی که توانایی این مدل‌ها به‌سرعت در حال افزایش است، شاید یکی از معدود لایه‌های دفاعی باقی‌مانده این باشد که از آن‌ها بخواهیم تفاوت جزئی میان دو تصویر از یک موز را تشخیص دهند.