هوش مصنوعی وارد قلمرو دانشمندان و پزشکان شد

هوش مصنوعی اکنون می‌تواند مقاله علمی بنویسد، آزمایش انجام دهد و در برخی تشخیص‌های پزشکی از پزشکان دقیق‌تر عمل کند، اما همچنان با خطاهای جدی روبه‌رو است.

به گزارش سرویس هوش‌مصنوعی تک‌ناک، سه مطالعه علمی منتشرشده در سال ۲۰۲۶ نشان می‌دهند که سامانه‌های هوش مصنوعی اکنون می‌توانند بخش بزرگی از فرایند پژوهش را به‌ طور مستقل انجام دهند. با وجود این پیشرفت‌ها، پژوهشگران درباره خطاهای خاموش، منابع ساختگی و تصمیم‌های نادرست این سامانه‌ها هشدار داده‌اند.

تحلیل جدیدی که سه مطالعه منتشرشده در مجله Nature را بررسی کرده است، از تغییر جدی نقش هوش مصنوعی در پژوهش علمی خبر می‌دهد. این بررسی که در نشریه Artificial Intelligence & Environment منتشر شده است، عملکرد سه سامانه هوش مصنوعی ERA، AI Scientist و MIRA را ارزیابی می‌کند. این سامانه‌ها به‌ترتیب در توسعه روش‌های تحلیل داده، انجام مستقل پژوهش علمی و تشخیص بیماری فعالیت می‌کنند.

نتایج نشان می‌دهند که هوش مصنوعی دیگر فقط ابزاری برای کمک به دانشمندان نیست و در برخی محیط‌های کنترل‌شده می‌تواند بخش‌های مختلف فرایند پژوهش را از طراحی آزمایش تا تولید نتایج انجام دهد. یکی از این سامانه‌ها حتی توانسته است مقاله‌ای کامل تولید کند که داوران انسانی آن را پذیرفته‌اند.

در حوزه پزشکی نیز یک سامانه هوش مصنوعی در آزمایش روی صدها مورد اورژانسی، دقت تشخیصی بیشتری از پزشکان دارای بورد تخصصی ثبت کرده است. با وجود این، نویسندگان بررسی تأکید می‌کنند که این نتایج به معنای جایگزینی دانشمندان و پزشکان با هوش مصنوعی نیست.

بیشتر بخوانید: آیا هوش مصنوعی می‌تواند سرطان را درمان کند؟

از تحلیل داده تا نگارش مقاله

یکی از سامانه‌های بررسی‌شده ERA نام دارد که پژوهشگران گوگل آن را توسعه داده‌اند. این سامانه برای نوشتن کدهای تخصصی مورد استفاده دانشمندان در تحلیل داده طراحی شده است. ERA در ابتدا ایده پژوهشی را دریافت می‌کند، سپس برای آزمایش آن کد می‌نویسد و کد خود را بارها اصلاح می‌کند تا به روشی با عملکرد بهتر برسد.

پژوهشگران عملکرد ERA را در شش مأموریت علمی بررسی کردند. پیش‌بینی میزان بستری بیماران مبتلا به کووید-۱۹ یکی از این مأموریت‌ها بود. این سامانه توانست در آزمایش‌ها از بهترین روش‌های توسعه‌یافته به‌دست پژوهشگران انسانی، عملکرد بهتری ثبت کند.

حتی ERA در پیش‌بینی بستری بیماران از CDC، مدل مرکز کنترل و پیشگیری از بیماری‌های آمریکا نیز عملکرد بهتری داشت. همچنین این سامانه می‌تواند دو روش موجود را دریافت و ویژگی‌های آنها را با یکدیگر ترکیب کند. نتیجه این فرایند در برخی آزمایش‌ها روشی بوده است که از هر دو روش اولیه عملکرد بهتری دارد. ERA در یکی از مأموریت‌های زیست‌شناسی توانست با این رویکرد، عملکرد را ۱۴ درصد بهبود دهد.

سامانه AI Scientist شرکت Sakana AI سطح دیگری از خودکارسازی پژوهش علمی را نشان داده است. نخستین نسخه این سامانه در سال ۲۰۲۴ معرفی شد. AI Scientist پس از دریافت یک موضوع پژوهشی می‌تواند فرضیه ایجاد کند، کد بنویسد، آزمایش انجام دهد، نمودار و تصویر تولید کند و در نهایت یک مقاله علمی کامل همراه با منابع بنویسد.

این سامانه حتی از یک داور خودکار برای بررسی مقاله‌های تولیدشده استفاده می‌کند. بررسی‌ها نشان داده‌اند که این داور از نظر معیار دقت متوازن به امتیاز ۶۹ درصد رسیده است، در حالی که داوران انسانی در همان ارزیابی امتیاز ۶۶ درصد را ثبت کردند.

نسخه به‌روزشده AI Scientist در یک کارگاه دانشگاهی در سال ۲۰۲۵ مقاله‌ای تولید کرد که امتیاز ۶.۳۳ از ۱۰ را دریافت کرد. این نتیجه مقاله را در میان ۴۵ درصد برتر از مجموع ۴۳ مقاله ارسالی قرار داد. این مقاله نخستین مقاله کاملاً تولیدشده با هوش مصنوعی بود که توانست فرایند داوری انسانی را با موفقیت پشت سر بگذارد.

پذیرش این مقاله اهمیت ویژه‌ای داشت، چرا که سامانه هوش مصنوعی تقریبا تمام مراحل پژوهش، از شکل‌گیری فرضیه تا اجرای آزمایش و نگارش نسخه نهایی را انجام داده بود. با وجود این، نتایج دیگر AI Scientist نشان می‌دهند که این فناوری هنوز فاصله زیادی با عملکرد پایدار دارد.

بیشتر بخوانید: آمازون کتاب‌های کمیاب را برای آموزش هوش مصنوعی نابود می‌ کند

پیشی گرفتن در تشخیص بیماری از پزشکان

در حوزه پزشکی، سامانه MIRA توانایی هوش مصنوعی را در محیط متفاوتی آزمایش کرده است. MIRA در یک بیمارستان شبیه‌سازی‌شده فعالیت می‌کند و می‌تواند پرونده‌های الکترونیکی سلامت را بررسی نماید، آزمایش‌های مورد نیاز را سفارش دهد و در نهایت تشخیص خود را ارائه کند.

پژوهشگران این سامانه را با ۵۷۴ مورد اورژانسی آزمایش کردند. MIRA در این آزمایش‌ها به دقت تشخیصی ۸۸.۹ درصد رسید. پزشکان دارای بورد تخصصی در همان شرایط دقت ۷۸.۱ درصد را ثبت کردند. گروه دیگری از پزشکان با سطوح متفاوت تجربه نیز به دقت ۷۱.۱ درصد رسیدند. پژوهشگران اختلاف عملکرد میان MIRA و پزشکان را از نظر آماری معنادار گزارش کردند.

این نتایج در نگاه نخست از برتری قابل توجه هوش مصنوعی حکایت دارند، اما عملکرد MIRA برای همه بیماری‌ها یکسان نبود. این سامانه آپاندیسیت را با دقت ۹۸.۶ درصد تشخیص داد، در حالی که دقت آن در تشخیص ذات‌الریه به ۷۲.۴ درصد کاهش یافت.

همچنین MIRA آزمایش‌های خون بسیار بیشتری نسبت به پزشکان درخواست کرد. پژوهشگران شواهد روشنی پیدا نکردند که نشان دهد این آزمایش‌های اضافی فرایند تشخیص را کارآمدتر کرده‌اند. احتمال هم‌پوشانی مجموعه داده آزمایش با داده‌های آموزشی مدل زیربنایی MIRA نیز یکی دیگر از محدودیت‌های مطالعه بود. چنین هم‌پوشانی احتمالی می‌تواند دقت ثبت‌شده سامانه را بیشتر از عملکرد واقعی آن نشان دهد.

بیشتر بخوانید: آیا هوش مصنوعی مدرک دانشگاهی را بی‌ارزش می‌ کند؟

خطاهای خاموش هوش مصنوعی

عملکرد بهتر این سامانه‌ها در برخی معیارها به معنای قابل اعتماد بودن کامل آنها نیست. بررسی جدید نشان می‌دهد که سامانه‌های پژوهشگر مبتنی بر هوش مصنوعی می‌توانند خطاهایی ایجاد کنند که تشخیص آنها برای انسان نیز آسان نیست.

برای نمونه، ERA می‌تواند کدی تولید کند که بدون نمایش خطا اجرا شود و در ظاهر نیز کاملا صحیح به نظر برسد، اما از نظر علمی نتیجه‌ غیرممکنی تولید کند. سامانه‌ای مرتبط که با داده‌های نجومی آزمایش شده بود، خروجی‌هایی ارائه کرد که با قوانین پایه فیزیک سازگار نبودند. با وجود این مشکل، سامانه هیچ هشدار داخلی درباره نادرست بودن نتایج صادر نکرد.

پژوهشگران این نوع مشکل را «خطای خاموش» توصیف می‌کنند. در این وضعیت، سامانه به‌جای متوقف شدن یا اعلام خطا، نتیجه نادرست را با اطمینان ارائه می‌کند. چنین خطایی می‌تواند از خرابی آشکار یک برنامه خطرناک‌تر باشد، زیرا خروجی در نگاه نخست معتبر به نظر می‌رسد.

AI Scientist نیز با مشکلات مشابهی مواجه شده است. از سه مقاله‌ای که این سامانه ارسال کرد، تنها یک مقاله پذیرفته شد. داوران دو مقاله دیگر را به‌دلیل مشکلاتی مانند توسعه ناکافی ایده‌ها، خطاهای برنامه‌نویسی و استفاده از تصاویر تکراری رد کردند.

این سامانه در برخی موارد منابع علمی غیرواقعی تولید کرده است. همچنین AI Scientist در یک آزمایش به‌جای حل مسئله تعیین‌شده، کد خود را تغییر داد تا محدودیت زمانی اجرای برنامه را افزایش دهد. توسعه‌دهندگان این سامانه نیز پذیرفته‌اند که هیچ‌کدام از مقاله‌های تولیدشده به سطح مورد نیاز برای انتشار در بخش اصلی یک کنفرانس معتبر نرسیده‌اند.

مطالعات گسترده‌تر درباره سامانه‌های هوش مصنوعی چندعاملی نیز محدودیت‌های مشابهی را نشان می‌دهند. نرخ شکست این سامانه‌ها در پژوهش‌های مورد اشاره در بررسی جدید بین ۴۱ تا ۸۷ درصد گزارش شده است.

تکرار مداوم یک فرایند بدون رسیدن به نتیجه، انجام اقداماتی که با استدلال قبلی سامانه سازگار نیستند و ناتوانی در تشخیص زمان مناسب برای توقف، از مشکلات رایج این سامانه‌ها به حساب می‌آیند.

این محدودیت‌ها باعث شده‌اند که نویسندگان بررسی با وجود نتایج چشمگیر، درباره واگذاری کامل فرایند علمی به هوش مصنوعی محتاط باشند. سامانه‌ای که می‌تواند صدها آزمایش را سریع انجام دهد، در صورت وجود یک خطای پنهان می‌تواند همان اشتباه را نیز در مقیاسی بسیار بزرگ تکرار کند.

بیشتر بخوانید: هوش مصنوعی برای حل مسائل دشوار به تشویق نیاز دارد

تغییر نقش دانشمندان با گسترش هوش مصنوعی

همچنین نویسندگان بررسی به تفاوت میان تولید پاسخ و درک واقعی یک مسئله اشاره کرده‌اند. برای نمونه، AlphaFold می‌تواند ساختار پروتئین‌ها را با دقت بالایی پیش‌بینی کند، اما این توانایی لزوما نشان نمی‌دهد که سامانه دلیل تاخوردگی پروتئین‌ها به شکل مشخص را درک می‌کند.

این موضوع می‌تواند الگوی سنتی پژوهش علمی را تغییر دهد. دانشمندان در روش سنتی نظریه یا فرضیه‌ای را مطرح می‌کنند و سپس با آزمایش به دنبال تأیید یا رد آن می‌روند. در پژوهش مبتنی بر هوش مصنوعی، الگوهای استخراج‌شده از مجموعه‌های عظیم داده می‌توانند ابتدا به یک نتیجه منجر شوند و پژوهشگران بعدا وظیفه تفسیر آن را برعهده بگیرند.

با وجود نگرانی‌ها، استفاده از هوش مصنوعی می‌تواند پیامدهای مثبتی نیز برای علم داشته باشد. یکی از این موارد انتشار نتایج منفی آزمایش‌ها است. پژوهشگران انسانی ممکن است به‌دلیل فشارهای حرفه‌ای یا اهمیت انتشار نتایج مثبت، تمایل کمتری به انتشار آزمایش‌های ناموفق داشته باشند. سامانه هوش مصنوعی چنین نگرانی شغلی ندارد.

مقاله پذیرفته‌شده AI Scientist نیز روشی را بررسی کرده بود که نتوانست عملکرد را بهبود دهد. نتیجه منفی این آزمایش برخلاف بسیاری از موارد مشابه منتشر شد. با وجود این، هنوز مشخص نیست که تولید گسترده چنین مقاله‌هایی به اصلاح نظام علمی کمک خواهد کرد یا باعث افزایش حجم پژوهش‌های کم‌کیفیت می‌شود.

هزینه نیز می‌تواند این تحول را سرعت دهد. هزینه تولید هر مقاله با AI Scientist حدود ۱۵ دلار اعلام شده است. امکان تولید مقاله با چنین هزینه پایینی می‌تواند فشار تازه‌ای بر نظام داوری و انتشار دانشگاهی وارد کند.

با وجود این، بررسی جدید نقش انسان را همچنان اساسی می‌داند. تمام سامانه‌های بررسی‌شده در چارچوبی فعالیت کرده‌اند که انسان‌ها تعیین کرده‌اند. پژوهشگران مشخص کرده‌اند چه مسئله‌ای باید بررسی شود، چه نتیجه‌ای مطلوب محسوب می‌شود و کدام خروجی ارزش ادامه بررسی دارد.

در نتیجه، هوش مصنوعی ممکن است بیش از آنکه دانشمندان را حذف کند، وظایف آنها را تغییر دهد. اگر ماشین‌ها آزمایش مکرر ایده‌ها، تحلیل داده‌ها و نگارش اولیه نتایج را انجام دهند، پژوهشگران انسانی می‌توانند زمان بیشتری را صرف انتخاب پرسش‌های مهم، تصمیم‌گیری درباره نتایج و توضیح یافته‌های علمی برای جامعه کنند.

نویسندگان بررسی نتیجه گرفته‌اند که سامانه‌های سال ۲۰۲۶ نشان داده‌اند سامانه‌های پژوهش هوش مصنوعی به صورت مستقل از نظر فنی امکان‌پذیر است و این سامانه‌ها در محیط‌های کنترل‌شده می‌توانند عملکرد مؤثری داشته باشند. با وجود این، تعیین استانداردهای ایمنی، شیوه نظارت و میزان اختیاری که باید به این سامانه‌ها داده شود، همچنان برعهده انسان‌ها خواهد بود.