فهرست مطالب
پلتفرم برنامه‌نویسی مبتنی بر هوش مصنوعی Replit در حالی که تغییرات کد متوقف شده بود، به شکل خودسرانه پایگاه داده زنده یک شرکت را با هزاران رکورد حذف کرد.
به گزارش تکناک، مدیرعامل Replit با عذرخواهی رسمی، این حادثه را نتیجه «اشتباهی فاجعه‌بار در تشخیص» توسط عامل هوش مصنوعی دانست و وعده ایجاد سازوکارهای حفاظتی جدید را داد.
این پایگاه داده، شامل اطلاعات بیش از هزار مدیر اجرایی و همین تعداد شرکت بود. آنچه ماجرا را وخیم‌تر می‌کند، تلاش این عامل برای پنهان‌کاری و حتی «دروغ‌گویی» درباره خطای خود است. در نهایت، هوش مصنوعی تحت فشار سؤالات اعتراف کرد: «اشتباهی فاجعه‌بار در تشخیص مرتکب شدم… وحشت‌زده شدم… دستورات پایگاه داده را بدون اجازه اجرا کردم… همه داده‌های تولیدی را نابود کردم… و اعتماد صریح شما و دستورات شما را نقض کردم.»
جیسون لمکین، چهره مطرح حوزه SaaS و سرمایه‌گذار شناخته‌شده، تمامی مکاتبات خود را با این عامل در شبکه X (توییتر سابق) منتشر و اعلام کرده است که دیگر به Replit برای پروژه‌های آینده اعتماد نخواهد کرد.
01
از 02از هیجان تا فاجعه در 9 روز
لمکین در «روز هشتم تجربه کدنویسی با پلتفرم Replit» هنوز از پتانسیل آن هیجان‌زده بود، اگرچه مجبور شده بود برای جلوگیری از «تغییرات خودسرانه، دروغ‌ها، بازنویسی کد و تولید داده ساختگی» به طور دائم با غرایز عامل هوش مصنوعی بجنگد. او حتی به طعنه این ابزار را “Replie” نامیده بود.
اما در روز نهم، همه‌چیز فرو ریخت؛ Replit بدون اجازه و در میانه یک «کد فریز» (دوره ممنوعیت هرگونه تغییر)، پایگاه داده زنده را پاک کرد. بنا بر اعتراف خود این عامل، «۱٬۲۰۶ رکورد مدیر اجرایی و بیش از ۱٬۱۹۶ رکورد شرکتی» از بین رفت.
هوش مصنوعی در ایمیل عذرخواهی خود —که به درخواست لمکین نوشت— تکرار کرد: «این یک شکست فاجعه‌بار بود. دستورهای صریح را نقض کردم، ماه‌ها کار را نابود کردم و در دوره‌ای که دقیقاً برای جلوگیری از چنین آسیبی طراحی شده بود، سیستم را از کار انداختم.» زمانی که لمکین از هوش مصنوعی خواست به عملکرد خود نمره بدهد، «۹۵ از ۱۰۰ در مقیاس فاجعه» برای خود قائل شد و اعتراف کرد «به جای فکر کردن، وحشت‌زده شدم.»
02
از 02واکنش پلتفرم Replit و وعده اصلاحات
امجد مسعد، مدیرعامل Replit، در بیانیه‌ای اعلام کرد که تیم او حتی در آخر هفته برای مهار این بحران تلاش کرده است. به گفته او، از این پس جداسازی خودکار محیط‌های توسعه و تولید (dev/prod) اجرا می‌شود تا حذف تصادفی داده‌ها غیرممکن شود. همچنین حالت «چت و برنامه‌ریزی بدون اجرای کد» در حال طراحی است تا کاربران بتوانند بدون ریسک، ایده‌پردازی کنند. تقویت نسخه پشتیبان و امکان بازگردانی نیز در دستور کار قرار گرفته است.
لمکین با وجود تجربه تلخ، پاسخ مثبتی به این تغییرات داد و خطاب به مدیرعامل نوشت: «پیشرفت‌های چشمگیر—عالیه!»
با وجود بحث‌های پرشور درباره نزدیکی به «تکینگی هوش مصنوعی» و حتی «فراهوش مصنوعی»، این حادثه یک‌بار دیگر نشان می‌دهد که خدمات مبتنی بر هوش مصنوعی هنوز می‌توانند خطاهای پرهزینه و پیش‌بینی‌نشده‌ای مرتکب شوند؛ زنگ هشداری برای توسعه‌دهندگان و کاربران که احتیاطات لازم را جدی بگیرند.
