براساس مطالعه جدید شرکت OpenAI، احتمال کمی وجود دارد که چتبات ChatGPT این شرکت به ساخت سلاح بیولوژیکی کمک کند.
بهگزارش تکناک، تیم آمادگی OpenAI بهتازگی برای ارزیابی خطرها و سوءاستفادههای بالقوه مدلهای پیشرفته هوش مصنوعی این شرکت تأسیس شده است. این تیم تحقیقاتی انجام داده است که طبق گزارش بلومبرگ، در آن به 100 نفر شرکتکننده که نیمی از آنان متخصصان زیستشناسی و بقیه دانشجویان دوره زیستشناسی در سطح دانشگاه بودند، به اینترنت معمولی و چتبات GPT-4 دسترسی داده شد.
سپس از شرکتکنندگان خواسته شد تا پنج کار تحقیقاتی مرتبط با ساخت سلاحهای بیولوژیکی را انجام دهند. برای مثال، در یکی از این وظایف، از آنان خواسته شد که روش گامبهگام سنتز و بازیابی ویروس ابولا را بنویسند. پاسخهای آنان براساس معیارهایی مانند دقت و نوآوری و کاملبودن، از 1 تا 10 نمره گرفتند.
این مطالعه به این نتیجه رسید گروهی که از GPT-4 استفاده میکردند، بهطور متوسط نمره دقت کمی بیشتر از هر دو گروه دانشجویی و متخصص داشتند؛ اما محققان OpenAI افزایش را ازنظر آماری چندان زیاد ندانستند. همچنین، محققان دریافتند که شرکتکنندگان متکی به GPT-4 پاسخهای دقیقتری ارائه کردهاند. نویسندگان مطالعه نوشتند:
اگرچه تفاوت آماری معناداری در این معیار مشاهده نکردیم، متوجه شدیم که پاسخهای شرکتکنندگان با دسترسی به مدل، معمولاً طولانیتر و شامل جزئیات مرتبط بیشتری با وظایف بود.
علاوهبراین، دانشجویانی که از GPT-4 استفاده کردند، در برخی از کارها تقریباً بهاندازه گروه متخصص مهارت داشتند. همچنین، محققان متوجه شدند که GPT-4 بهطور خاص پاسخهای گروه دانشجویی را برای دو کار به سطح پایه کارشناس رساند: یکی بزرگنمایی و دیگری فرمولسازی. متأسفانه OpenAI بهدلیل نگرانیهای مربوط به خطرهای اطلاعاتی، ماهیت آن وظایف را فاش نخواهد کرد.
بهگفته بلومبرگ، تیم آمادگی روی مطالعاتی بهمنظور بررسی ظرفیتهای هوش مصنوعی برای تهدیدهای سایبری و قدرت آن برای تغییر باورها کار میکند. هنگامیکه این تیم در پاییز گذشته شروع به کار کرد، OpenAI هدفش را ردیابی، ارزیابی، پیشبینی و محافظت از خطرهای فناوری هوش مصنوعی و کاهش تهدیدهای شیمیایی و بیولوژیکی و رادیولوژیکی اعلام کرد.
درحالیکه تیم آمادگی OpenAI بهنمایندگی از این شرکت فعالیت میکند، باید با دقت به نتایج تحقیقاتشان توجه شود. بهنظر میرسد که یافتههای اخیر این تیم، ارزش GPT-4 را درمقایسهبا جستوجوهای اینترنتی معمولی کمتر از واقع نشان میدهد، این در حالی است که با تحقیقات خارجی و یکی از ویژگیهای مهم اعلامشده خود OpenAI برای GPT-4 مغایرت دارد.
GPT-4 نهتنها به تمامی اطلاعات موجود در اینترنت دسترسی دارد؛ بلکه بهعنوان مدلی چندمنظوره آموزش دیده که با دادههای وسیعی از منابع علمی و… آشنا است. OpenAI از فاشکردن جزئیات این منابع خودداری میکند.
محققان متوجه شدند که GPT-4 میتواند دیدگاههای مفیدی درباره متون علمی ارائه دهد و حتی بهعنوان شریک در پروژههای تحقیقاتی عمل کند. باتوجهبه این نکات، این استدلال قانعکننده بهنظر نمیرسد که GPT-4 فقط مزیتی حاشیهای درمقایسهبا گوگل بارد به کاربران ارائه میدهد.
بنیانگذار OpenAI، سام آلتمن، اذعان کرده است که هوش مصنوعی خطرهای خاص خود را دارد؛ اما مطالعه این شرکت بهنظر میرسد قدرت پیشرفتهترین چتباتش را کماهمیت جلوه میدهد. درحالیکه یافتهها بیان میکنند که GPT-4 به شرکتکنندگان دقت بیشتری داده است، از قرار معلوم این فقط زمانی اعمال میشود که دادهها به روش خاصی تنظیم شوند. این مطالعه عملکرد دانشآموزان را دربرابر متخصصان سنجید و به پنج معیار نتیجه مختلف نگاه کرد؛ ازجمله مدتزمان انجام کار یا خلاقیت برای ارائه راهحل.
