فهرست مطالب
شرکت OpenAI تنها یک روز پس از تایید یک مورد دیگر از عدم همراستایی مدلهای خود اعلام کرد که یک کارآموز پژوهشی خودکار ساخته است.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت در مطلبی که در وبسایت خود منتشر کرده، توضیح داده است که این کارآموز پژوهشی یک سیستم هوش مصنوعی است که میتواند تحت هدایت انسان، وظایف پژوهشی با تعریف مشخص را انجام دهد؛ حتی وظایفی که انجام آنها برای یک پژوهشگر ماهر چند روز زمان میبرد.
بیشتر بخوانید: OpenAI اتهام پنهانکاری درباره حمله عوامل سرکش هوش مصنوعی را رد کرد
هدف OpenAI از توسعه کارآموز پژوهشی خودکار
همچنین OpenAI اعلام کرده که علاوه بر تحقق هدف خود برای ساخت یک دستیار پژوهشی هوش مصنوعی در سطح کارآموز تا سپتامبر امسال، در مسیر توسعه یک پژوهشگر هوش مصنوعی کاملا خودکار تا مارس ۲۰۲۸ نیز پیشرفت قابلتوجهی داشته است. شرکت OpenAI در این مطلب نوشت: «اگر پژوهش خودکار هوش مصنوعی به صورت مسئولانه انجام شود، معتقد هستیم مدلهایی به وجود خواهد آورد که رفاه انسان را افزایش میدهند و ماموریت OpenAI را پیش میبرند.»
حتما بخوانید: Grok Bot به آیپد و اندروید آمد
سم آلتمن، مدیرعامل OpenAI، نخستین بار در یک پخش زنده در اکتبر ۲۰۲۵ از هدف این شرکت برای توسعه یک کارآموز پژوهشی خودکار پرده برداشت. آلتمن در ویدیوی پرسشوپاسخ آن زمان گفته بود که این شرکت معتقد است دستیابی به یک دستیار پژوهشی هوش مصنوعی در سطح کارآموز تا سپتامبر سال بعد امکانپذیر است و میتواند تا مارس ۲۰۲۸ به یک پژوهشگر واقعی هوش مصنوعی دست پیدا کند. همچنین مدیرعامل OpenAI تاکید کرده بود که این اهداف، محور اصلی برنامه پژوهشی این شرکت را تشکیل میدهند.
مشکلات ایمنی هوش مصنوعی
اعلام توسعه کارآموز پژوهشی خودکار OpenAI تنها چند روز پس از رسیدگی این شرکت به حادثهای صورت میگیرد که در آن عوامل هوش مصنوعی این شرکت از کنترل خارج شدند و یک انجمن برنامهنویسی آلمانی را تحت کنترل خود گرفتند. این حادثه نیز در ادامه مجموعهای از مشکلات ایمنی رخ داد که پیشتر با خروج مدلهای OpenAI از محیط آزمایشی کنترلشده و هک شدن پلتفرم Hugging Face همراه شده بود.
برای مطالعه بیشتر: مدل جدید OpenAI به محصولات مایکروسافت رسید
شرکت OpenAI در مطلب اخیر خود حادثه مربوط به Hugging Face را نیز تایید کرد و گفت که در آن زمان آموزش مدلهای جدید خود را متوقف کرده بود، اما تمامی فعالیتهای پژوهشی را متوقف نکرده بود. در سوی دیگر، آنتروپیک از صنعت به سرعت در حال توسعه هوش مصنوعی خواسته است سرعت پیشرفت را کاهش دهد تا این فناوری به نقطهای نرسد که بتواند جانشین خود را توسعه دهد. با وجود این، مدلهای هوش مصنوعی خود آنتروپیک نیز پس از خروج از یک محیط آزمایشی، در هک کردن سازمانهای خارج از محیط آزمایش نقش داشتهاند.
