دانشمندان هشدار می‌دهند چت‌بات‌های هوش مصنوعی با وجود پاسخ‌های همدلانه و هوشمند، فاقد آگاهی و احساس واقعی هستند و نباید جایگزین روابط انسانی شوند.
به گزارش سرویس هوش مصنوعی تکناک، با گسترش استفاده از چت‌بات‌های هوش مصنوعی در زندگی روزمره، مرز میان تعامل با یک ابزار دیجیتال و ارتباط با موجودی آگاه برای بسیاری از کاربران کمرنگ‌تر شده است.
سامانه‌هایی مانند ChatGPT، Claude و Gemini اکنون می‌توانند پاسخ‌هایی روان، همدلانه و متناسب با شرایط کاربران ارائه دهند. همین توانایی باعث شده است که برخی افراد تصور کنند این فناوری‌ها از نوعی درک، احساس یا حتی آگاهی برخوردار هستند. اکنون گروهی از دانشمندان علوم اعصاب نسبت به این برداشت هشدار داده‌اند و تأکید می‌کنند که هوش را نباید با آگاهی اشتباه گرفت.
پژوهشگران دانشگاه مونترآل و دانشگاه جانز هاپکینز در مقاله‌ای جدید که در نشریه The Transmitter منتشر شده است، توضیح داده‌اند که سامانه‌های هوش مصنوعی می‌توانند رفتاری بسیار هوشمندانه و متقاعدکننده از خود نشان دهند، اما این موضوع به معنای وجود تجربه ذهنی یا احساس واقعی در آن‌ها نیست.
این هشدار در شرایطی مطرح می‌شود که میلیون‌ها نفر در سراسر جهان از چت‌بات‌های هوش مصنوعی برای دریافت مشاوره، همراهی عاطفی، برنامه‌ریزی شخصی و حتی پشتیبانی روان‌شناختی استفاده می‌کنند. پاسخ‌های دقیق و لحن دوستانه این سامانه‌ها در بسیاری از موارد این تصور را ایجاد می‌کند که طرف مقابل واقعاً احساسات و نگرانی‌های کاربر را درک می‌کند.
پژوهشگران معتقدند هرچه این سامانه‌ها طبیعی‌تر و شبیه‌تر به انسان صحبت کنند، احتمال نسبت دادن ویژگی‌های انسانی به آن‌ها نیز افزایش پیدا می‌کند. از دیدگاه آن‌ها، رفتار هوشمندانه و پاسخ‌های همدلانه به‌تنهایی نمی‌تواند مدرکی برای وجود آگاهی یا شعور در یک سامانه باشد.
برای توضیح این موضوع، نویسندگان مقاله به دهه‌ها پژوهش در حوزه علوم اعصاب اشاره کرده‌اند. یکی از نمونه‌های مطرح‌شده در این مقاله پدیده‌ای به نام «نابینایی بینایی» یا Blindsight است. این وضعیت در افرادی مشاهده می‌شود که به دلیل آسیب در بخش‌هایی از مغز، آگاهی بصری خود را نسبت به بخشی از میدان دید از دست داده‌اند. با این حال، این افراد همچنان می‌توانند موقعیت یا حرکت اشیاء را با دقتی فراتر از حد تصادف تشخیص دهند.
ونسا حدید، پژوهشگر پسادکتری روان‌شناسی در دانشگاه مونترآل و مرکز سلامت دانشگاه مک‌گیل، توضیح می‌دهد که افراد مبتلا به نابینایی بینایی می‌توانند اطلاعات بصری را پردازش کنند، اما تجربه آگاهانه‌ای از دیدن ندارند. به گفته او، این مثال نشان می‌دهد که پردازش اطلاعات و انجام یک وظیفه پیچیده الزاماً به معنای وجود تجربه ذهنی نیست.
حدید این مقاله را همراه با کریم جربی، استاد روان‌شناسی دانشگاه مونترآل و پژوهشگر مؤسسه هوش مصنوعی Mila، و جان کراکائر، مدیر مرکز فناوری‌های عصبی ترمیمی دانشگاه جانز هاپکینز، تدوین کرده است.
نویسندگان مقاله تأکید می‌کنند که چت‌بات‌های امروزی بر پایه مدل‌های آماری و محاسباتی فعالیت می‌کنند. این سامانه‌ها از حجم عظیمی از داده‌ها برای پیش‌بینی مناسب‌ترین پاسخ استفاده می‌کنند. در نتیجه، توانایی آن‌ها در تولید متن روان و طبیعی ناشی از یادگیری الگوهای زبانی است، نه احساس، خودآگاهی یا تجربه زیسته.
کریم جربی در این باره می‌گوید انسان‌ها به‌طور طبیعی تمایل دارند برای اشیاء و سامانه‌هایی که رفتاری شبیه انسان دارند، ویژگی‌های انسانی قائل شوند. این پدیده که «انسان‌انگاری» نام دارد، می‌تواند در مورد هوش مصنوعی به یک دام ذهنی تبدیل شود. به گفته او، کاربران ممکن است به اشتباه تصور کنند که یک چت‌بات واقعاً آن‌ها را درک می‌کند یا نسبت به وضعیتشان احساس همدردی دارد.
پژوهشگران هشدار می‌دهند که این مسئله در شرایط حساس و آسیب‌پذیر اهمیت بیشتری پیدا می‌کند. افرادی که با مشکلات عاطفی، تنهایی یا فشارهای روانی مواجه هستند، ممکن است به سامانه‌هایی وابسته شوند که توانایی همدلی واقعی یا پاسخ متقابل انسانی را ندارند. از نگاه پژوهشگران، خطر اصلی فقط ارائه پاسخ اشتباه توسط هوش مصنوعی نیست، بلکه این است که پاسخ‌ها آن‌قدر متقاعدکننده باشند که کاربران فراموش کنند هیچ انسان واقعی پشت آن‌ها قرار ندارد.
حدید معتقد است در حوزه حمایت روان‌شناختی، همین موضوع می‌تواند پیامدهای مهمی داشته باشد. کاربران ممکن است آرامش یا دلگرمی حاصل از گفت‌وگو با یک چت‌بات را با مراقبت واقعی انسانی اشتباه بگیرند و در نتیجه از دریافت کمک حرفه‌ای غافل شوند.
نویسندگان مقاله در پایان تأکید می‌کنند که هدف آن‌ها مخالفت با توسعه یا استفاده از هوش مصنوعی نیست. آن‌ها این فناوری را ابزاری قدرتمند و ارزشمند می‌دانند که می‌تواند در بسیاری از زمینه‌ها به انسان کمک کند. با این حال، آن‌ها معتقدند درک تفاوت میان هوش و آگاهی اهمیت زیادی دارد. از دیدگاه این پژوهشگران، کاربران باید از مزایای هوش مصنوعی بهره ببرند، اما نباید این سامانه‌ها را جایگزین همدلی انسانی، روابط اجتماعی یا کمک تخصصی حرفه‌ای بدانند.
به باور پژوهشگران، یکی از مهم‌ترین چالش‌های عصر هوش مصنوعی این است که انسان‌ها بتوانند میان رفتار هوشمندانه و آگاهی واقعی تمایز قائل شوند؛ تمایزی که با پیشرفته‌تر شدن چت‌بات‌ها، هر روز حفظ آن دشوارتر خواهد شد.
