ریاضی‌دانان خواستار شفافیت OpenAI شدند

ریاضی‌دانان از OpenAI خواسته‌اند درباره استفاده احتمالی از پژوهش‌ها و گفت‌وگوهای ChatGPT در آموزش مدل‌های این شرکت شفاف‌سازی کند.

به گزارش سرویس هوش مصنوعی تک‌ناک، آندریاس توم، ریاضی‌دان، در مجموعه‌ای از پست‌ها در شبکه اجتماعی Mastodon نگرانی خود را درباره تعاملاتی که او و همکارانش پیش از اعلام دستاورد مهم OpenAI با چت‌بات ChatGPT داشتند، مطرح کرد.

او احتمال داده است این تعاملات در موفقیت OpenAI در حوزه ریاضیات نقش داشته باشند.

یکی از ۱۰ نتیجه ریاضی که OpenAI ماه گذشته با تبلیغات گسترده اعلام کرد، به حوزه تخصصی توم، یعنی گروه‌های موسوم به non-sofic، مربوط می‌شد.

OpenAI نیز پذیرفته است که این نتیجه به‌شدت بر پژوهش‌های پیشین توم و گابور کون، ریاضی‌دان دیگر، تکیه داشته است.

افزایش پرسش‌ها درباره استفاده از پژوهش‌های ریاضی‌دانان

توم می‌گوید پس از آن شروع به بررسی تعاملات خود با OpenAI کرد که تریستان باک‌مستر، استاد ریاضیات دانشگاه نیویورک، به‌صورت عمومی این پرسش را مطرح کرد که آیا مدل‌های هوش مصنوعی OpenAI از استفاده او از Codex بهره برده‌اند یا خیر.

پس از اعلام دستاورد OpenAI درباره گروه‌های non-sofic، این شرکت در محافل ریاضی به دلیل نادیده گرفتن مشارکت‌های اخیر توم و کون با انتقادهای گسترده‌ای مواجه شد و در نهایت OpenAI متن توضیحات خود درباره این دستاورد را بدون سروصدا اصلاح کرد.

گروه‌های non-sofic به‌طور کلی به ساختارهای ریاضی نامتناهی گفته می‌شود که نمی‌توان آن‌ها را با ساختارهای متناهی تقریب زد.

بیشتر بخوانید: شرکت OpenAI مدعی حل یکی از دشوارترین مسائل ریاضی شد

تردید درباره نحوه استفاده از داده‌های ChatGPT

توم همچنین می‌گوید از «تسلط دقیق OpenAI بر تکنیک‌های ما» متعجب شده است.

به گفته او، این تکنیک‌ها در آن زمان نه بدیهی‌ترین مسیرها برای رسیدن به راه‌حل بودند و نه امیدبخش‌ترین مسیرها محسوب می‌شدند.

توم در ادامه برای سباستین بوبک، پژوهشگر OpenAI، و مارک سِلکه، آماردان دانشگاه هاروارد، ایمیل‌هایی ارسال کرد.

او از آن‌ها پرسید آیا تعاملاتش با ChatGPT «بخشی از داده‌های آموزشی بوده یا برای فرایند استدلال قابل دسترسی بوده‌اند» و در نتیجه می‌توانسته‌اند در رسیدن OpenAI به این نتیجه نقش داشته باشند یا خیر.

با این حال، پاسخ OpenAI توم را قانع نکرد. او می‌گوید پاسخ این شرکت فقط به این موضوع پرداخته است که آیا گفت‌وگوهای او با چت‌بات مستقیماً قابل دسترسی بوده‌اند یا خیر، اما مشخص نکرده است که آیا این گفت‌وگوها وارد مجموعه عظیم داده‌های آموزشی شده‌اند که OpenAI برای بهبود مدل‌های خود از آن‌ها استفاده می‌کند یا خیر.

بیشتر بخوانید: GPT-6 Astra واقعا AGI است؟ ادعای OpenAI جنجال‌برانگیز شد