فهرست مطالب
پژوهشگران هشدار می‌دهند که فرسایش دانش به دلیل استفاده گسترده از هوش مصنوعی مولد می‌تواند دقت اطلاعات، اعتماد و بهره‌وری سازمان‌ها را کاهش دهد.
به گزارش سرویس هوش مصنوعی تکناک، هوش مصنوعی مولد در چند سال اخیر به یکی از مهم‌ترین فناوری‌های مورد استفاده در سازمان‌ها و کسب‌وکارهای جهان تبدیل شده است. ابزارهایی مانند ChatGPT، Claude، Gemini و Copilot توانسته‌اند بسیاری از فعالیت‌های روزمره را ساده‌تر و سریع‌تر کنند. از نگارش ایمیل و گزارش گرفته تا تحلیل داده‌ها، تولید محتوا، برنامه‌نویسی و حتی تصمیم‌گیری‌های تجاری، اکنون هوش مصنوعی در بخش‌های مختلف سازمان‌ها حضور دارد.
با وجود این مزایا، گروهی از پژوهشگران و متخصصان مدیریت نسبت به یک تهدید کمتر دیده‌شده هشدار می‌دهند؛ تهدیدی که می‌تواند به تدریج کیفیت دانش سازمانی را کاهش دهد و حتی دستاوردهای بهره‌وری حاصل از هوش مصنوعی را از بین ببرد. این پدیده با عنوان «فرسایش دانش» یا Knowledge Decay شناخته می‌شود.
کارشناسان معتقد هستند همان‌طور که استفاده بی‌رویه از هوش مصنوعی در سطح فردی می‌تواند باعث تولید محتوای کم‌ارزش و سطحی شود، گسترش این روند در سطح سازمانی نیز می‌تواند کیفیت فرایندها، تصمیم‌ها و اطلاعات را تحت تأثیر قرار دهد. در چنین شرایطی، خطاها به مرور زمان روی هم انباشته می‌شوند، اعتماد به اطلاعات کاهش می‌یابد و سازمان‌ها ناچار می‌شوند زمان و منابع بیشتری را برای بررسی صحت داده‌ها صرف کنند.
فرسایش دانش چگونه آغاز می‌شود؟
به باور پژوهشگران، نقطه آغاز این مشکل زمانی است که کارکنان مسئولیت کنترل کیفیت خروجی‌های هوش مصنوعی را کنار می‌گذارند. در بسیاری از سازمان‌ها، افراد برای صرفه‌جویی در زمان از هوش مصنوعی برای تهیه گزارش‌ها، نگارش اسناد، پاسخ به ایمیل‌ها و انجام تحلیل‌های مختلف استفاده می‌کنند. مشکل زمانی به وجود می‌آید که کاربران بدون بررسی دقیق، خروجی تولیدشده را به عنوان اطلاعات معتبر بپذیرند.
این وضعیت معمولاً به صورت زنجیره‌ای گسترش پیدا می‌کند. فردی که یک گزارش را با کمک هوش مصنوعی تولید کرده است، آن را برای شخص دیگری ارسال می‌کند. دریافت‌کننده نیز برای بررسی یا خلاصه‌سازی همان گزارش دوباره از هوش مصنوعی استفاده می‌کند. در مراحل بعدی، افراد دیگری نیز همین مسیر را ادامه می‌دهند. نتیجه این چرخه آن است که کیفیت اطلاعات به مرور زمان کاهش پیدا می‌کند و فاصله آن با واقعیت بیشتر می‌شود.
کارشناسان این وضعیت را مشابه یک «بازی تلفن خراب» می‌دانند. در این بازی، هر بار که یک پیام از فردی به فرد دیگر منتقل می‌شود، بخشی از اطلاعات اصلی از بین می‌رود یا تغییر می‌کند. در فرایندهای مبتنی بر هوش مصنوعی نیز هر بار که محتوا توسط یک مدل زبانی تولید، بازنویسی یا خلاصه می‌شود، احتمال بروز خطا افزایش می‌یابد.
بحران اعتماد در فرایند استخدام
یکی از نمونه‌های ملموس این پدیده در حوزه استخدام دیده می‌شود. در گذشته، مدیران منابع انسانی آگهی‌های شغلی را به صورت دستی تهیه می‌کردند و متقاضیان نیز رزومه و نامه درخواست همکاری خود را شخصاً می‌نوشتند. اما اکنون هوش مصنوعی تقریباً در تمام مراحل این فرایند حضور دارد.
شرکت‌ها از مدل‌های زبانی برای تولید آگهی‌های استخدامی استفاده می‌کنند. متقاضیان نیز با کمک همان ابزارها رزومه‌ها و نامه‌های پوششی خود را می‌نویسند. پس از آن، سامانه‌های هوش مصنوعی وظیفه غربالگری رزومه‌ها، رتبه‌بندی متقاضیان و انتخاب افراد مناسب برای مصاحبه را بر عهده می‌گیرند.
در برخی موارد حتی مصاحبه‌های اولیه نیز توسط سامانه‌های خودکار انجام می‌شود. از سوی دیگر، گزارش‌هایی وجود دارد که نشان می‌دهد برخی متقاضیان در زمان مصاحبه‌های آنلاین از مدل‌های زبانی برای تولید پاسخ‌های لحظه‌ای استفاده می‌کنند.
نتیجه این روند کاهش اعتماد به کل فرایند استخدام است. پژوهش‌های انجام‌شده نشان می‌دهد که اگرچه استفاده از هوش مصنوعی تعداد آگهی‌های شغلی را افزایش داده است، اما بسیاری از این آگهی‌ها عمومی‌تر، تکراری‌تر و کم‌اطلاعات‌تر شده‌اند. در چنین شرایطی مشخص نیست که سازمان‌ها در حال ارزیابی توانایی واقعی افراد هستند یا مهارت آنها را در استفاده از ابزارهای هوش مصنوعی می‌سنجند.
کارشناسان هشدار می‌دهند که این وضعیت می‌تواند باعث شود متقاضیان ضعیف‌تر تنها به دلیل استفاده بهتر از ابزارهای هوش مصنوعی رتبه بالاتری نسبت به افراد توانمندتر کسب کنند.
پژوهش علمی نیز با این چالش روبه‌رو شده است
فرسایش دانش تنها به دنیای کسب‌وکار محدود نمی‌شود. جامعه علمی نیز با سرعت زیادی در حال تجربه آثار این پدیده است. در سال‌های اخیر استفاده از هوش مصنوعی برای نگارش مقالات علمی رشد چشمگیری داشته است. برخی پژوهشگران از مدل‌های زبانی برای تهیه پیش‌نویس مقاله، خلاصه‌سازی مطالعات، ویرایش متن و حتی طراحی بخش‌هایی از پژوهش استفاده می‌کنند. برخی پروژه‌های آزمایشی نیز پا را فراتر گذاشته‌اند و از سامانه‌های موسوم به «دانشمند هوش مصنوعی» برای طراحی مطالعه، اجرای آزمایش و نگارش مقاله استفاده کرده‌اند.
هم‌زمان ناشران علمی با افزایش حجم مقالات ارسالی مواجه شده‌اند. نشریه Organization Science اعلام کرده است که از زمان عرضه ChatGPT در سال ۲۰۲۲ تعداد مقالات ارسالی به این مجله ۴۲ درصد افزایش یافته است. با وجود این، سردبیران این نشریه تأکید کرده‌اند که کیفیت نگارش و ارزش علمی بسیاری از این مقالات کاهش یافته است.
به گفته پژوهشگران، هوش مصنوعی انتشار مقالات را آسان‌تر کرده، اما لزوماً کیفیت پژوهش‌ها را افزایش نداده است. برخی مقالات حتی دارای نویسندگان جعلی بوده‌اند یا نام پژوهشگران واقعی بدون اطلاع آنها در فهرست نویسندگان درج شده است.
در ماه‌های اخیر چندین ناشر علمی نیز مقالاتی را به دلیل استفاده نامناسب از هوش مصنوعی یا وجود اطلاعات نادرست پس فرستاده‌اند.
نگرانی‌ها از فرسایش دانش در صنعت سلامت
حوزه سلامت یکی دیگر از بخش‌هایی است که استفاده از هوش مصنوعی در آن با سرعت زیادی در حال گسترش است.
پزشکان از ابزارهای مبتنی بر هوش مصنوعی برای ثبت مکالمات با بیماران، تهیه پرونده‌های پزشکی، کدگذاری خدمات درمانی و پشتیبانی تصمیم‌های بالینی استفاده می‌کنند. شرکت‌های بیمه نیز به طور فزاینده‌ای از هوش مصنوعی برای بررسی درخواست‌های درمانی و صدور مجوزهای لازم بهره می‌برند.
بر اساس برخی برآوردها، حدود ۴۰ درصد پزشکان مراقبت‌های اولیه در آمریکا از نوعی سامانه پشتیبان تصمیم‌گیری مبتنی بر هوش مصنوعی استفاده می‌کنند.
اگرچه این فناوری می‌تواند سرعت انجام کارها را افزایش دهد، اما بروز خطا در هر مرحله از این زنجیره می‌تواند پیامدهای جدی برای بیماران داشته باشد. علاوه بر این، متخصصان نگران هستند که وابستگی بیش از حد به هوش مصنوعی در بلندمدت باعث کاهش مهارت‌های حرفه‌ای پزشکان شود.
سه چالش بزرگ پیش روی سازمان‌ها
پژوهشگران سه چالش اساسی را در مسیر استفاده گسترده از هوش مصنوعی مولد شناسایی کرده‌اند.
- راستی‌آزمایی دانش: نخستین چالش، تشخیص صحت اطلاعات است. مدل‌های زبانی گاهی اطلاعات نادرست یا ساختگی تولید می‌کنند. هرچه این مدل‌ها پیشرفته‌تر می‌شوند، تشخیص خطاهای آنها نیز دشوارتر می‌شود. بررسی صحت خروجی‌های هوش مصنوعی معمولاً نیازمند زمان، تخصص و منابع انسانی قابل توجهی است. در برخی موارد، زمان لازم برای راستی‌آزمایی محتوا آن‌قدر زیاد است که مزایای بهره‌وری حاصل از استفاده از هوش مصنوعی را از بین می‌برد.
- اعتبارسنجی دانش: دومین چالش، تعیین سهم واقعی انسان در تولید دانش است. مشتریان، مدیران و ذی‌نفعان اکنون می‌خواهند بدانند چه میزان از یک گزارش، تحلیل یا پیشنهاد، حاصل تفکر و تخصص انسانی بوده است. این مسئله در حوزه‌هایی مانند مشاوره، حقوق، آموزش و پژوهش اهمیت ویژه‌ای پیدا کرده است. برای مثال، مشتریان شرکت‌های مشاوره حاضر نیستند هزینه‌های سنگین را برای محتوایی بپردازند که عمدتاً توسط یک مدل زبانی تولید شده است. به همین دلیل، متخصصان باید بتوانند نشان دهند که چه ارزش افزوده‌ای از طریق دانش، تجربه و قضاوت انسانی به خروجی نهایی اضافه شده است..
- آنتروپی دانش: سومین چالش، آنتروپی یا کاهش تدریجی کیفیت اطلاعات است. هر بار که محتوا میان مدل‌های مختلف هوش مصنوعی جابه‌جا می‌شود، بخشی از ارتباط آن با داده‌های اصلی از بین می‌رود. این مسئله به نحوه عملکرد مدل‌های زبانی بزرگ مربوط می‌شود. این مدل‌ها بر پایه احتمال و پیش‌بینی کلمات عمل می‌کنند و درک مستقیمی از حقیقت یا واقعیت ندارند. به همین دلیل، تکرار فرایند تولید و بازتولید محتوا می‌تواند به تدریج کیفیت اطلاعات را کاهش دهد.
خطر بزرگ‌تر؛ فروپاشی مدل‌ها
پژوهشگران از پدیده دیگری نیز ابراز نگرانی می‌کنند که «فروپاشی مدل» یا Model Collapse نام دارد. این اتفاق زمانی رخ می‌دهد که مدل‌های هوش مصنوعی جدید با داده‌هایی آموزش ببینند که خود توسط مدل‌های هوش مصنوعی قبلی تولید شده‌اند. در این حالت، کیفیت داده‌های آموزشی به مرور زمان کاهش پیدا می‌کند و مدل‌ها دقت و تنوع خود را از دست می‌دهند.
برخی مطالعات نشان می‌دهد که بخش قابل توجهی از محتوای موجود در اینترنت و شبکه‌های اجتماعی اکنون توسط هوش مصنوعی تولید شده است. این موضوع می‌تواند در آینده به یکی از مهم‌ترین چالش‌های توسعه مدل‌های زبانی تبدیل شود.
سازمان‌ها چگونه می‌توانند از فرسایش دانش جلوگیری کنند؟
کارشناسان برای مقابله با این تهدید چند راهکار کلیدی پیشنهاد می‌کنند.
- نخست، سازمان‌ها باید منشأ اطلاعات و داده‌های مورد استفاده خود را به دقت ثبت کنند و میان داده‌های واقعی و محتوای تولیدشده توسط هوش مصنوعی تفاوت قائل شوند.
- دوم، استفاده از هوش مصنوعی باید تنها در بخش‌هایی مجاز باشد که واقعاً ارزش افزوده ایجاد می‌کند. استفاده از این فناوری صرفاً برای تولید حجم بیشتری از محتوا نمی‌تواند مزیت پایداری ایجاد کند.
- سوم، مدیران باید مشخص کنند که هوش مصنوعی دقیقاً چه مشکلی را حل می‌کند و چه ارزشی به فرایندهای سازمانی می‌افزاید.
- چهارم، تأثیر هوش مصنوعی بر کل فرایندهای کاری باید ارزیابی شود. پرسش اصلی این نیست که آیا هوش مصنوعی یک وظیفه خاص را بهتر انجام می‌دهد یا خیر، بلکه باید بررسی شود حضور آن در مجموع، کیفیت و کارایی کل فرایند را بهبود می‌بخشد یا خیر.
کارشناسان در پایان تأکید می‌کنند که هوش مصنوعی مولد به احتمال زیاد بخش جدایی‌ناپذیر محیط‌های کاری آینده خواهد بود. با وجود این، سازمان‌هایی که نتوانند کیفیت دانش و صحت اطلاعات خود را حفظ کنند، ممکن است با کاهش اعتماد، افزایش خطا و افت بهره‌وری مواجه شوند. از نگاه پژوهشگران، موفقیت در عصر هوش مصنوعی تنها به استفاده از فناوری وابسته نیست؛ بلکه به توانایی سازمان‌ها در مدیریت، کنترل و حفاظت از دانش نیز بستگی دارد.
