استفاده گسترده از ابزارهای کدنویسی مبتنی بر هوش مصنوعی، با وجود افزایش سرعت تولید کد، مشکلات جدی در کیفیت، امنیت و پایداری نرم‌افزارها ایجاد کرده و بسیاری از وعده‌های اولیه این فناوری را با تردید مواجه ساخته است.
به گزارش سرویس هوش مصنوعی تکناک، در سال‌های اخیر، ابزارهای هوش مصنوعی به سرعت جای خود را در فرایندهای توسعه نرم‌افزار باز کرده‌اند. برنامه‌نویسان اکنون می‌توانند تنها با چند دستور متنی، بخش‌های بزرگی از کد را تولید کنند. طبق داده‌هایی که اوایل امسال توسط گوگل منتشر شد، حدود ۹۰ درصد از توسعه‌دهندگان نرم‌افزار در سراسر صنعت از ابزارهای هوش مصنوعی در محیط کار استفاده می‌کنند؛ آماری که در مقایسه با سال گذشته، رشد چشمگیر ۱۴ درصدی را نشان می‌دهد.
با وجود این، هم‌زمان با افزایش محبوبیت این ابزارها، نشانه‌های فزاینده‌ای از چالش‌ها و پیامدهای منفی آنها نیز آشکار شده است. گزارش جدیدی از شرکت نرم‌افزاری هوش مصنوعی CodeRabbit نشان می‌دهد که کد تولیدشده توسط هوش مصنوعی به طور معناداری خطاپذیرتر از کد نوشته‌شده توسط انسان است. این شرکت با بررسی ۴۷۰ درخواست Pull Request دریافت که کد تولیدی هوش مصنوعی به طور میانگین ۱۰٫۸۳ مشکل در هر درخواست ایجاد می‌کند، در حالی که این عدد برای کد انسانی تنها ۶٫۴۵ مورد است. این آمار به معنای آن است که کد هوش مصنوعی حدود ۱٫۷ برابر بیشتر از کد انسانی دچار مشکل می‌شود.
بخوانید: شرکت Lightrun دی‌باگر کد هوش مصنوعی خود را عرضه کرد
شرکت CodeRabbit در گزارش خود تأکید کرده است که این نتایج با تجربه شهودی بسیاری از توسعه‌دهندگان همخوانی دارد. بر اساس این گزارش، هوش مصنوعی اگرچه خروجی را افزایش می‌دهد، اما در عین حال دسته‌های مشخصی از خطاها را نیز تشدید می‌کند. به گفته این شرکت، کدهای تولیدشده توسط هوش مصنوعی نرخ بالاتری از مشکلات «بحرانی» و «اصلی» دارند؛ مسائلی که نیازمند توجه فوری بازبین‌های کد هستند و می‌توانند ریسک‌های جدی برای پروژه‌ها ایجاد کنند.
یکی از مهم‌ترین ضعف‌های شناسایی‌شده، خطاهای مرتبط با منطق و صحت عملکرد کد است. این نوع خطاها می‌تواند باعث بروز رفتارهای غیرمنتظره در نرم‌افزار شود. با وجود این، CodeRabbit اعلام کرده است که بزرگ‌ترین چالش در حوزه کیفیت و خوانایی کد مشاهده شده است؛ مشکلی که اگرچه ممکن است در کوتاه‌مدت بحرانی به نظر نرسد، اما در بلندمدت سرعت تیم‌ها را کاهش می‌دهد و بدهی فنی قابل توجهی ایجاد می‌کند.
برای مطالعه: ابزار کدنویسی هوش مصنوعی GitHub Copilot از مرز ۲۰ میلیون کاربر عبور کرد
این گزارش می‌نویسد، نگرانی‌ها تنها به کیفیت کد محدود نمی‌شود. گزارش CodeRabbit به مشکلات امنیتی نیز اشاره کرده است. بر اساس این یافته‌ها، کد تولیدشده توسط هوش مصنوعی در برخی موارد شامل رویه‌های ناامن مانند مدیریت نادرست رمزهای عبور است، که می‌تواند باعث افشای اطلاعات حساس و آسیب‌پذیری‌های جدی شود. این موضوع با نتایج تحقیقات دیگر نیز هم‌راستا است. شرکت امنیتی Apiiro پیش‌تر اعلام کرده بود توسعه‌دهندگانی که از ابزارهای هوش مصنوعی استفاده می‌کنند، تا ده برابر بیشتر از دیگران مشکلات امنیتی ایجاد می‌کنند.
در کنار این انتقادها، برخی نکات مثبت نیز مطرح شده است. شرکت CodeRabbit گزارش داده است که کد هوش مصنوعی در کاهش غلط‌های املایی، عملکرد بهتری دارد و انسان‌ها حدود دو برابر بیشتر دچار اشتباهات املایی می‌شوند. هرچند، این مزیت کوچک در برابر حجم بالای خطاهای منطقی، کیفی و امنیتی، چندان تعیین‌کننده تلقی نمی‌شود.
پیش از این، شرکت مشاوره مدیریتی Bain & Company در گزارشی در ماه سپتامبر اعلام کرده بود که اگرچه برنامه‌نویسی از نخستین حوزه‌هایی بوده که هوش مصنوعی مولد را به کار گرفته است، اما صرفه‌جویی‌های حاصل از آن «چشمگیر» نبوده و نتایج به سطح انتظارات اولیه نرسیده است.
همچنین مطالعه‌ای که در ماه ژوئیه توسط سازمان غیرانتفاعی Model Evaluation and Threat Research انجام شد، نشان داد که ابزارهای کمک‌برنامه‌نویسی مبتنی بر هوش مصنوعی در عمل می‌توانند سرعت برنامه‌نویسان را کاهش دهند. طبق این پژوهش، توسعه‌دهندگانی که از این ابزارها استفاده می‌کنند، زمان بیشتری را صرف بازبینی و اصلاح کد می‌کنند تا اطمینان یابند خطاهای جدی از قلم نیفتاده است.
در مجموع، یافته‌های جدید تصویر پیچیده‌تری از آینده کدنویسی با هوش مصنوعی ترسیم می‌کند. اگرچه شرکت‌ها وعده داده بودند این فناوری زندگی برنامه‌نویسان را به طور اساسی ساده‌تر کند، اما شواهد نشان می‌دهد که واقعیت باعث مدیریت فعال ریسک‌ها و تغییر نقش توسعه‌دهندگان انسانی شده است. به نظر می‌رسد بخشی از وظایف برنامه‌نویسان در آینده نزدیک، صرفاً نوشتن کد نباشد، بلکه شناسایی و رفع مشکلاتی باشد که توسط ابزارهای کدنویسی مبتنی بر هوش مصنوعی ایجاد می‌شود.
دیوید لوکر، مدیر هوش مصنوعی CodeRabbit، در واکنش به این گزارش اعلام کرده است که این یافته‌ها احساس بسیاری از تیم‌های مهندسی را در طول سال ۲۰۲۵ تأیید می‌کند، چرا که ابزارهای کدنویسی هوش مصنوعی، خروجی را به طور چشمگیری افزایش می‌دهند، اما در عین حال ضعف‌های قابل پیش‌بینی و قابل‌اندازه‌گیری ایجاد می‌کنند که سازمان‌ها ناچار هستند به صورت فعال آنها را کنترل و مدیریت کنند.
