محققان به تازگی کشف کرده‌اند که سوگیری‌های فرهنگی و زبانی بر مدل‌های هوش مصنوعی، مانند ChatGPT تأثیر می‌گذارند.
به گزارش تکناک، محققان به‌تازگی کشف کرده‌اند که نگرش‌های جهانی گوناگون با زبان مرتبط هستند و نشان می‌دهد که تعصبات ضمنی اغلب در مدل‌های هوش مصنوعی مانند ChatGPT منعکس می‌شوند. این مطالعه مشخص می‌کند که برای پرداختن به این سوگیری‌ها، موضوع ضروری تمرکز بر انتقال فرهنگی زبان است.
در مطالعۀ جدیدی که 14 ژوئن در مجلۀ Social Psychological and Personality Science منتشر شد، محققان شواهدی را به اشتراک می‌گذارند که نشان‌دهندۀ درهم تنیده بودن عمیق نگرش مردم با زبان و فرهنگ است.
فهرست مطالب
بررسی همبستگی زبانی
محققان ارتباط میان نگرش و زبان افراد را از 55 موضوع مختلف، مانند: ثروتمند در مقابل فقیر، سگ در مقابل گربه یا عشق در مقابل پول بررسی کردند. آنها چهار منبع متنی را مورد استفاده قرار دادند، که شامل نوشتار و متن انگلیسی کنونی، کتاب‌های انگلیسی مربوط به 200 سال پیش و متون به 53 زبان غیر از انگلیسی بودند.
به عنوان معیاری برای نگرش مردم، آنها از داده‌های بیش از 100000 آمریکایی استفاده کردند. آنها اول بررسی خود را از طریق گزارش مستقیم خود افراد انجام دادند و دوم از یک معیار غیرمستقیم بر اساس زمان واکنش افراد که اغلب به عنوان نگرش‌های تلویحی اندازه‌گیری می‌شود، بهره بردند.
محققان متوجه شدند ارتباطاتی که توسط مدل‌های هوش مصنوعی مانند ChatGPT شناسایی می‌شود، بیشتر با معیار غیرمستقیم دوم گفته شده در بالا همخوانی دارد تا با نگرش‌های صریحی که این مدل‌ها اعلام می‌کنند.
هوش مصنوعی و نمایندگی اجتماعی
دکتر تسا چارلزورث، نویسندۀ اصلی این مطالعه گفت: با افزایش استفاده از هوش مصنوعی و برنامه‌های کاربردی مدل زبان بزرگ، ما به عنوان مصرف‌کننده، رهبر، محقق یا سیاست‌گذار باید بفهمیم که این مدل‌ها چه موضوعاتی را در مورد دنیای اجتماعی نشان می‌دهند. آیا آنها ترجیحات آشکار و صریح دارند؟ یا دارای الگوهای پنهان بیشتری از تداعی‌ها هستند که اکثر شبیه نگرش‌های تلویحی اندازه‌گیری شده است؟
کاهش این سوگیری‌های ظریف در هوش مصنوعی به رویکردهای متفاوتی نسبت به جست‌وجوی سوگیری‌های صریح نیاز دارد. دکتر چارلزورث عنوان کرد: به‌جای بررسی مدل‌ها در پایان برای اینکه ببینیم آیا سوگیری آشکار و صریح را از خود نشان می‌دهند، به احتمال زیاد نیاز داریم که الگوهای موجود در خود داده‌های آموزشی را عمیق‌تر کنیم و نمونه‌های جایگزینی از تداعی‌ها را ارائه دهیم.
تأثیر فرهنگی بر سوگیری ضمنی
دکتر چارلزورث اعلام کرد: داده‌ها نشان می‌دهند که نگرش‌های تلویحی اندازه‌گیری شده در زبان آشکار و به احتمال زیاد توسط زبان تقویت می‌شوند. زبان وسیله‌ای کلیدی برای انتقال فرهنگ است. به این ترتیب، اگر بخواهیم به‌طور پایدار به تعصب ضمنی در جامعه بپردازیم و آن را کاهش دهیم، بیشتر به مداخلاتی نیاز خواهیم داشت که تمرکز فرهنگی (یا کلان) داشته باشند.
در حالی که محققان بر ماهیت همبستگی تأکید می‌کنند، قصد دارند به کاوش تأثیرات اجتماعی-فرهنگی ادامه دهند. دکتر چارلزورث بیان کرد: با توجه به اینکه ما تفاوت‌هایی را دیدیم که کدام یک از زبان‌های غیرانگلیسی ویژگی همبستگی را از خود نشان می‌دهند، مهم است که بفهمیم چه نوع عوامل اجتماعی و فرهنگی می‌توانند به توضیح انتقال بیشتر میان سوگیری و زبان کمک کنند.
این مطالعه زمینه را برای درک بهتر روش‌های ظریفی فراهم می‌کند، که در آن نگرش‌ها با سیستم‌های زبان و ارتباطات درگیر می‌شوند.
