فهرست مطالب
پژوهشگران روشی جدید برای کاهش عدم‌قطعیت هوش مصنوعی معرفی کرده‌اند که دقت و ایمنی مدل‌ها را در کاربردهای حساس افزایش می‌دهد.
به گزارش سرویس هوش مصنوعی تکناک، بیشتر سامانه‌های هوش مصنوعی معاصر با تکیه بر یادگیری ماشینی وظایف خود را انجام می‌دهند. یادگیری ماشینی یک رویکرد محاسباتی است که به مدل‌ها امکان می‌دهد الگوهای پنهان در داده‌ها را شناسایی کنند و از آنها برای پیش‌بینی بهره ببرند. در مقابل، یادگیری عمیق به عنوان زیرمجموعه‌ای از این حوزه، مبتنی بر شبکه‌های عصبی چندلایه است که قادر هستند به صورت خودکار ویژگی‌ها را استخراج کنند و الگوهای پیچیده را از داده‌های غیرساختاریافته، گاه با حداقل یا بدون نظارت انسانی فرا بگیرند.
بخش قابل توجهی از این سامانه‌ها علاوه بر خروجی پیش‌بینی، «امتیاز اطمینان» نیز تولید می‌کنند؛ شاخصی آماری که احتمال صحت هر پیش‌بینی را برآورد می‌کند. با وجود این، شواهد پژوهشی نشان می‌دهد که این سیستم‌ها در بسیاری از موارد دچار بیش‌اطمینانی هستند و حتی پاسخ‌های نادرست را با سطح اطمینان بالا ارائه می‌دهند یا اطلاعات ناصحیح را به عنوان حقیقت القا می‌کنند. این مسئله، به‌ویژه در کاربردهای حساس به طور جدی قابلیت اتکای این سامانه‌ها را محدود می‌سازد.
بیشتر بخوانید: چین جایگزینی کارکنان شرکت ها با هوش مصنوعی را ممنوع کرد
در همین راستا، پژوهشگران مؤسسه علوم و فناوری پیشرفته کره (KAIST) رویکردی الهام‌گرفته از سازوکارهای مغز انسان ارائه کرده‌اند که می‌تواند باعث برآوردهای واقع‌بینانه‌تر از عدم‌قطعیت در مدل‌های هوش مصنوعی شود. این روش که در مقاله‌ای در مجله Nature Machine Intelligence منتشر شده، شامل یک مرحله آموزش اولیه کوتاه روی نویز تصادفی و خروجی‌های دلخواه است تا شبکه عصبی پیش از ورود به یادگیری وظایف اصلی، کالیبراسیون واقع‌بینانه‌تری از سطح اطمینان خود به دست آورد.
در این مطالعه تاکید شده است که «کاهش عدم‌قطعیت هوش مصنوعی» (یعنی هم‌ترازی بین میزان اطمینان پیش‌بینی و دقت واقعی) برای استقرار قابل اعتماد سیستم‌های یادگیری ماشین در محیط‌های واقعی حیاتی است. با وجود این، مدل‌های فعلی در تحقق این هدف ناکام می‌مانند و خروجی‌هایی بیش‌ازحد مطمئن، نادرست یا حتی توهمی تولید می‌کنند. نویسندگان نشان می‌دهند که روش رایج مقداردهی اولیه در یادگیری عمیق، که سال‌ها به عنوان یک استاندارد پذیرفته‌شده تلقی می‌شد، در واقع یکی از عوامل کلیدی شکل‌گیری این پدیده «بیش‌اطمینانی» در مدل‌ها است.
هم‌ترازسازی اطمینان هوش مصنوعی با دقت پیش‌بینی‌ها
عدم انطباق میان دقت واقعی پیش‌بینی‌های یک سامانه هوش مصنوعی و سطح اطمینان اعلام‌شده توسط آن، می‌تواند پیامدهای جدی به همراه داشته باشد. در کاربردهای پزشکی مبتنی بر هوش مصنوعی، چنین ناهماهنگی‌هایی ممکن است باعث تشخیص‌های نادرست شود و در حوزه خودروهای خودران، خطر بروز تصادفات و برخوردهای جاده‌ای را افزایش دهد. در همین راستا، پژوهشگران رویکرد «گرم‌سازی» الهام‌گرفته از سازوکارهای نوروتکاملی معرفی کرده‌اند که به طور ذاتی مسائل مرتبط با عدم‌قطعیت را بدون نیاز به مراحل پیش‌پردازش یا پس‌پردازش برطرف می‌کند. در این روش، شبکه‌های عصبی پیش از ورود به داده‌های واقعی برای مدت کوتاهی روی داده‌ها و برچسب‌های کاملا تصادفی آموزش می‌بینند. این فاز اولیه باعث کالیبراسیون بهینه مدل می‌شود و زمینه هم‌ترازی پایدار میان اطمینان و دقت را در ادامه فرایند آموزش فراهم می‌سازد.
مرتبط: سم آلتمن پاسخ داد: آیا هوش مصنوعی مشاغل را نابود می‌کند؟
در این چارچوب، یک مرحله آموزش مقدماتی پیش از یادگیری داده‌های واقعی و مرتبط با وظیفه اصلی به مدل اضافه می‌شود؛ مرحله‌ای که در آن ورودی‌ها و خروجی‌های تصادفی و نامرتبط به مدل ارائه می‌شود. پس از تکمیل این فاز، آموزش استاندارد روی داده‌های هدف آغاز می‌گردد. پژوهشگران با به‌کارگیری این روش، مدل پیشنهادی خود را آموزش دادند و عملکرد آن را با مدل‌های مبتنی بر رویکردهای استاندارد یادگیری ماشین مقایسه کردند. نتایج به‌دست‌آمده حاکی از بهبود قابل توجه بود؛ مدل‌های دارای فاز گرم‌سازی، گرایش کمتری به بیش‌اطمینانی نشان دادند، در مواجهه با پیش‌بینی‌های نادرست سطح اطمینان پایین‌تری تولید کردند و در عین حال در پاسخ‌های صحیح، کالیبراسیون مناسبی از اعتماد ارائه دادند.
راهبرد آموزش الهام‌گرفته از مغز برای کاهش عدم‌قطعیت هوش مصنوعی
در چشم‌انداز آینده، رویکرد توسعه‌یافته توسط این تیم پژوهشی می‌تواند مورد بهینه‌سازی بیشتری قرار گیرد و در دامنه وسیع‌تری از مدل‌های هوش مصنوعی استفاده شود. چنین گسترشی امکان ارزیابی جامع‌تر ظرفیت این روش را در طیف گسترده‌ای از کاربردهای واقعی فراهم خواهد کرد. از جمله مزیت‌های کلیدی این رویکرد جدید، حذف نیاز به فرایندهای پیچیده مهندسی و مراحل پردازشی اضافی، از جمله پس‌پردازش داده‌های آموزشی است. در مقابل، تنها یک فاز کوتاه اما موثر «گرم‌سازی پیش‌آموزشی» پیش از آغاز فرایند یادگیری اصلی مورد نیاز است.
برای مطالعه بیشتر: مدیر انویدیا: هوش مصنوعی از نیروی انسانی گران‌تر است
پژوهش چئون و پایک در نهایت می‌تواند باعث توسعه نسل جدیدی از سامانه‌های هوش مصنوعی ایمن‌تر و قابل‌اعتمادتر شود؛ سامانه‌هایی که در تخمین احتمال صحت پیش‌بینی‌های خود عملکرد دقیق‌تری دارند. این پیشرفت می‌تواند زمینه را برای به‌کارگیری گسترده‌تر ابزارهای مبتنی بر هوش مصنوعی در حوزه‌هایی با حساسیت بالا (از جمله محیط‌های بالینی و سایر سناریوهای پرریسک) فراهم کند، جایی که خطاهای پیش‌بینی می‌توانند پیامدهای جدی و گاه جبران‌ناپذیر داشته باشند.
