ظهور مدل‌های زبانی مبتنی بر هوش مصنوعی مانند ChatGPT ، علاقه شدیدی را در میان کاربران این برنامه ها برای جمع‌آوری توصیه‌های پزشکی در زمینه سلامت ایجاد کرده است.
به گزارش تکناک، اکنون، محققان قصد دارند این فناوری ها را ارزیابی کنند تا مشخص شود آیا اطلاعات ارائه شده توسط هوش مصنوعی قابل اعتماد و دقیق است یا خیر؟
مطالعه جدیدی که توسط تیمی در دانشکده پزشکی دانشگاه مریلند (UMSOM) انجام شد، نشان می‌دهد که پاسخ‌های تولید شده اغلب درست هستند. با این حال، این احتمال وجود دارد که گاهی اوقات نادرست یا حتی ساختگی باشد. یافته های این مطالعه در مجله Radiology منتشر شده است.
این مطالعه با ایجاد مجموعه ای از 25 سوال مرتبط با مشاوره برای غربالگری سرطان سینه انجام شد و سپس تیم هر سوال را سه بار برای تجزیه و تحلیل پاسخ های ایجاد شده به ChatGPT داد. پاسخ ها توسط سه رادیولوژیست متخصص در ماموگرافی ارزیابی شد و آنها دریافتند که پاسخ ها برای 22 سوال از 25 سوال مناسب است.
اطلاعات قدیمی منجر به این شد که چت بات به یک سوال پاسخ نادرستی ارائه دهد. دو سوال باقی مانده پاسخ های متناقضی داشتند و هر بار که این سوال ها مطرح می شد پاسخ ها به طور قابل توجهی متفاوت بود.
محققان نسبت به امکان استفاده از چنین محصولی در بخش ابزار سلامت خوش بینی کرده اند. دکتر پل یی، استادیار رادیولوژی تشخیصی و پزشکی هسته‌ای در UMSOM و نویسنده این مطالعه، در یک بیانیه مطبوعاتی گفت: ما متوجه شدیم که ChatGPT در حدود 88 درصد مواقع به سؤالات پاسخ صحیح می‌دهد، که بسیار شگفت‌انگیز است. این تیم افزود که ربات چت می تواند به خلاصه کردن اطلاعات و مفهوم کردن آن برای متقاضیان مفید باشد.
پاسخ ها در بخش منابع جامع نیستند
از جنبه منفی، محققان تاکید کرده اند که اطلاعات ارائه شده جامع نیست. به عبارت دیگر, بر اساس تمام منابعی که در اینترنت در دسترس هستند ارائه نشده است. هانا هاور، رادیولوژیست در مرکز پزشکی دانشگاه مریلند و سرپرست این مطالعه، گفت: ChatGPT تنها یک مجموعه از توصیه‌ها را در مورد غربالگری سرطان سینه ارائه کرد که از سوی انجمن سرطان آمریکا صادر شد، اما به توصیه‌های متفاوت ارائه شده توسط مراکز کنترل و پیشگیری از بیماری‌ها یا گروه ویژه خدمات پیشگیرانه ایالات متحده اشاره نکرده است.
شگفت‌انگیزتر این است که ChatGPT اغلب می‌تواند مقالات مجلات جعلی یا کنسرسیوم‌های بهداشتی را برای حمایت از ادعاهای خود ایجاد کند. دکتر یی گفت: کابران باید بدانند که این‌ها فناوری‌ها جدید و اثبات‌نشده هستند و همچنان باید برای مشاوره به جای ChatGPT به پزشک خود اعتماد کنند.
این تیم در حال تجزیه و تحلیل توصیه‌های غربالگری سرطان ریه ChatGPT است. علاوه برای این، این تیم به دنبال یافتن روش هایی است که پاسخ های ChatGPT جامع، دقیق و برای کسانی که سطح تحصیلات بالایی ندارند قابل فهم باشد.
