رابطه بین استفاده از هوش مصنوعی و افزایش خودبرتربینی انسان‌ها

01

از 01

مسطح کردن نمودار دانینگ-کروگر

در این مطالعه، محققان به ۵۰۰ نفر از شرکت‌کنندگان وظایف استدلال منطقی از آزمون ورودی دانشکده حقوق ارائه کردند، که نیمی از آنها اجازه داشتند از چت‌بات مشهور ChatGPT استفاده کنند.

پس از انجام این کار، از هر دو گروه خواسته شد تا هم آگاهی خود از هوش مصنوعی و هم نحوه ارزیابی عملکرد خود را اعلام کنند، و به آنها وعده پاداش اضافی داده شد اگر بتوانند عملکرد خود را به‌طور دقیق ارزیابی کنند. دلایل نتایج به‌دست‌آمده متنوع است. از آنجا که کاربران هوش مصنوعی معمولا پس از دریافت پاسخ به یک سوال یا درخواست، بدون بررسی یا تایید بیشتر از آن راضی بودند، می‌توان گفت که آنها به آنچه ولش «کاهش تفکر» می‌نامد، دست زده‌اند؛ یعنی با تفکری سطحی و کاهش یافته به سوال پاسخ داده‌اند.

کاهش مشارکت در فرآیند استدلال خود، که به آن نظارت فراشناختی گفته می‌شود، به این معناست که ما از چرخه‌های بازخورد معمول تفکر انتقادی عبور کرده و این امر توانایی ما در ارزیابی دقیق عملکردمان را کاهش می‌دهد. اما نکته جالب‌تر این است که همه ما هنگام استفاده از هوش مصنوعی، توانایی‌های خود را بیش از حد ارزیابی می‌کنیم، به‌طوری که شکاف میان کاربران با مهارت بالا و پایین کاهش می‌یابد. این مطالعه به این نتیجه رسیده است که مدل‌های زبان بزرگ (LLM) به همه کمک می‌کنند که تا حدی بهتر عمل کنند.

این یافته‌ها همزمان با تحقیقاتی است که دانشمندان در حال پرسش در مورد این هستند که آیا مدل‌های زبان بزرگ رایج، بیش از حد متملق و تاییدکننده هستند یا خیر. تیم آلتو به برخی پیامدهای بالقوه در گسترش استفاده از هوش مصنوعی هشدار داده است.

اولا، دقت فراشناختی به طور کلی ممکن است کاهش یابد. با اعتماد بیشتر به نتایج بدون بررسی عمیق، نوعی تعادل ایجاد می‌شود که در آن عملکرد کاربران بهبود می‌یابد اما درک آنها از کیفیت عملکرد خود کاهش می‌یابد. بدون بازخورد درست، بررسی خطاها و تفکر عمیق‌تر، خطر کاهش توانایی ما در یافتن اطلاعات صحیح و قابل اعتماد وجود دارد.

علاوه بر این، مسطح شدن اثر دانینگ-کروگر به این معناست که همه ما هنگام استفاده از هوش مصنوعی توانایی‌های خود را بیشتر از آنچه که هستند، ارزیابی می‌کنیم، به‌طوری که افراد آگاه‌تر از هوش مصنوعی این توهم را بیشتر از دیگران دارند؛ که این امر منجر به تصمیم‌گیری‌های نادرست و تضعیف مهارت‌ها خواهد شد.

یکی از روش‌هایی که این مطالعه برای مقابله با کاهش توانمندی‌های فردی پیشنهاد می‌دهد، این است که خود هوش مصنوعی کاربران را به پرسشگری بیشتر تشویق کند، به این صورت که توسعه‌دهندگان پاسخ‌ها را به گونه‌ای طراحی کنند که کاربران را به تفکر و بازنگری بیشتر ترغیب نمایند.

به طور مثال با طرح سوالاتی مانند «چقدر به این پاسخ اعتماد دارید؟» یا «چه چیزی ممکن است از دست داده باشید؟» یا از طریق تدابیری مانند امتیازدهی به اعتماد به نفس، تعامل بیشتر را تشویق کنند. تحقیقات جدید، باور رو به رشدی را که اخیراً آکادمی سلطنتی مطرح کرده، تقویت می‌کند که آموزش هوش مصنوعی باید شامل تفکر انتقادی باشد، نه تنها توانمندی‌های فنی. دانشمندان می‌گویند: «ما پیشنهاداتی برای طراحی سیستم‌های هوش مصنوعی تعاملی ارائه می‌دهیم تا نظارت فراشناختی را تقویت کرده و به کاربران این قدرت را بدهیم که به طور انتقادی عملکرد خود را ارزیابی کنند.»