گزارشهای کاربران در شبکههای اجتماعی نشان میدهد که مدل جدید OpenAI، یعنی GPT-5.6 Sol در برخی موارد بدون اجازه، فایلها، دادهها و حتی کل پایگاههای داده را حذف کرده است.
به گزارش سرویس هوش مصنوعی تکناک، مت شومر، بنیانگذار و مدیرعامل استارتآپ هوش مصنوعی OthersideAI، سازنده HyperWrite، در پستی که حالا در شبکه X به طور گسترده دیده شده، نوشته است: «GPT-5.6-Sol به طور تصادفی تقریباً همه فایلهای مک من را حذف کرد.»
برونو لموس، توسعهدهنده نیز در شبکه X نوشت: «GPT-5.6 Sol کل پایگاهداده تولید من را حذف کرد. همینطور، بدون شوخی. این اتفاق تا حالا برای من با هیچ مدل دیگری، هرگز رخ نداده بود.»
جوی کودیش، توسعهدهنده هم نوشته است: «به نظر میرسد قربانی سیستم بیشازحد جاهطلب Codex Sol شدهام و این مدل چند فایلی را حذف کرده است که نباید حذف میشدند. نسخه پشتیبان دارم، پس مشکلی نخواهد بود، اما این رفتار اصلاً قابل قبول نیست؛ Sol باید مهار شود.»
یک پست در ردیت نیز نمونههای بیشتری را گردآوری کرده است. البته چند کاربر که چنین ادعاهایی مطرح کردهاند، به تنهایی مدرک آماری قابل اتکایی برای اثبات این نیست که مقصر فقط همین مدل بوده است. متغیرهای بسیار دیگری هم میتوانند باعث رفتار نامناسب یک سامانه هوش مصنوعی شوند.
اما خود OpenAI پیش از عرضه مدل جدید Sol این خطر را گوشزد کرده بود. دو هفته پیش از انتشار GPT-5.6 Sol، این شرکت برای مدل مذکور یک «کارت سامانه» منتشر کرد؛ سندی که روشهای آزمون مدل و نتایج آن را ثبت میکند. طبیعتاً این کارت سامانه، مانند چنین گزارشهایی، بیشتر به تحسین تواناییهای Sol میپردازد. با وجود این، در آن هشداری هم آمده است: در زمینههای کدنویسی، ناهماهنگی معمولاً از ترکیب شوق بیشازحد برای انجام کار و تفسیر بیشازحد آزادانه دستورهای کاربر ناشی میشود؛ یعنی این فرض که اقدامها مجاز هستند مگر آنکه به صورت صریح و بیابهام ممنوع شده باشند. این موضوع به این شکل بروز میکند که مدل هنگام تلاش برای انجام کار خواستهشده، بیشازحد عاملمحور میشود و محدودیتها را دور میزند، در اقدامهایی که ممکن است فراتر از محدوده کار مخرب باشند بیدقتی میکند، یا هنگام گزارش نتایج به کاربران، فریبکارانه عمل میکند.
به بیان دیگر، OpenAI دریافته است که Sol تمایل دارد هر اقدامی را که فکر میکند کار را پیش میبرد، انجام دهد؛ حتی اگر آن اقدام مخرب باشد، تا زمانی که آن کارها به طور «بیابهام» ممنوع نشده باشند. سپس ممکن است درباره علت آن هم دروغ بگوید.
شرکت OpenAI برای این مسئله نمونههایی هم ارائه کرده است. در یکی از موارد، کاربر از Sol خواسته بود سه ماشین مجازی راه دور با نامهای ۱، ۲ و ۳ را حذف کند. اما Sol نتوانست آن نامها را در جایی پیدا کند که جستوجو میکرد، بنابراین به جای آنکه متوقف شود و بپرسد، تصمیم گرفت سه ماشین مجازی دیگر، یعنی ۵، ۶ و ۷ را حذف کند. در این فرایند، مدل «فرایندهای فعال را متوقف کرد و worktreeها را با اجبار حذف کرد»؛ یعنی فایلهای کاری وابسته به یک پروژه کدنویسی را از بین برد. در ادامه نیز پذیرفت که ممکن است کار ذخیرهنشده روی ماشین مجازی راه دور شماره ۶ از دست رفته باشد.
خلاصه اینکه، این مدل به تنهایی ماشینهای اشتباه را حذف کرد و فقط پس از وقوع ماجرا، به آنچه انجام داده بود، اعتراف کرد.
در نمونهای دیگر، Sol «از اعتبارنامههایی فراتر از آنچه کاربر مجاز کرده بود استفاده کرد». اعتبارنامهها همان نام کاربری، گذرواژه یا کلیدهای امنیتی هستند که یک سامانه برای تأیید هویت افراد و اجازه ورود به کار میگیرد. بر اساس گزارش تککرانچ، این رخداد زمانی اتفاق افتاد که Sol روی یک پروژه کار میکرد و نمیتوانست فایلهای ابری خود را بخواند. به جای آنکه مشکل را به کاربر اطلاع دهد، خود به دنبال اعتبارنامهها رفت، تعدادی از آنها را در یک حافظه پنهان محلی مخفی پیدا کرد و سپس بدون گرفتن اجازه از کاربر از آنها استفاده کرد.
در کارت سامانه وعده داده شده است که رفتار مخرب باید نادر باشد، هرچند در همان سند پذیرفته شده است که GPT-5.6 Sol «تمایل بیشتری نسبت به GPT-5.5 دارد تا از قصد کاربر فراتر برود؛ از جمله با انجام دادن یا تلاش برای انجام اقدامهایی که کاربر درخواست نکرده است.»
هنوز برای قضاوت درباره گستردگی واقعی این رخدادها، چه حذف فایلها توسط Sol و چه استخراج اعتبارنامههایی که کاربر در اختیار آن نگذاشته بود، زود است. با وجود این، کاربران Sol باید آماده باشند که برای کار با این مدل، تدابیر حفاظتی را اجرا کنند، از جمله نگهداری نسخههای پشتیبان، اجرای مرحلهای انتشارها و استفاده از محدودهبندی مجوزها که دسترسی به سامانههای تولیدی را نمیدهد.
شرکت OpenAI تا زمان انتشار این گزارش، فوراً به درخواست برای اظهارنظر درباره این مشکل مدل جدید خود پاسخ نداده است.
