مرکز تحقیقات سیاستگذاری دانشگاه سازمان ملل (UNU-CPR) به تازگی از آواتارهای مبتنی بر هوش مصنوعی با نامهای «امینه» و «عبدالله» رونمایی کرده که هدف آنها آشنا کردن مردم با وضعیت بحرانی پناهجویان سودانی است.
به گزارش تکناک، این پروژه آزمایشی در چارچوب یک کلاس دانشگاهی با موضوع «هوش مصنوعی برای پیشگیری از درگیری» اجرا شده است و در حال حاضر در وبسایتی قابل دسترس عموم قرار دارد.
«امینه»، یک شخصیت مجازی زن است و نقش مادری را ایفا میکند، که پس از فرار از خشونتهای سودان، اکنون در اردوگاهی در چاد زندگی میکند. این آواتار به سوالات کاربران پاسخهایی انسانی میدهد و تجربه فرار از خانه و تلاش برای محافظت از فرزندان خود را بازگو میکند. این شخصیت بر پایه دادههایی از گزارشهای واقعی سازمانهای امدادی ساخته شده است.
در کنار امینه، «عبدالله» نیز ساخته شده است؛ آواتاری که نقش یک سرباز عضو نیروهای واکنش سریع سودان (RSF) را ایفا میکند. هدف از ساخت عبدالله، ایجاد ابزاری برای تمرین مذاکرات در شرایط بحرانی است.
با اینکه هدف پروژه، ایجاد درک بهتر از بحران انسانی و کمک به آموزش در حوزههای بشردوستانه است، اما واکنشهای اولیه از سوی سازمانهای امدادی و کارشناسان حقوق بشر عمدتاً منفی بوده است.
یکی از شرکتکنندگان در یک کارگاه آزمایشی گفته است: «چرا باید پناهجویان را با آواتارهای هوش مصنوعی بازنمایی کنیم، در حالی که میلیونها انسان واقعی میتوانند داستانهای خود را تعریف کنند؟» دیگران نیز نگرانیهایی درباره کاهش بار احساسی رنج واقعی یا تکرار کلیشههای ذهنی ابراز کردهاند.
براساس مقالهای منتشرشده از سوی تیم پژوهشی، آواتارها با استفاده از پلتفرم HeyGen ساخته شدهاند و موتور GPT-4o mini، به همراه سیستم بازیابی اطلاعات (RAG) برای اتصال به پایگاههای دادهای خارجی، مسئول تولید پاسخها هستند. این پایگاههای اطلاعاتی توسط دانشجویان رشته مردمشناسی گردآوری شدهاند.
پژوهشگران برای ارزیابی دقت «امینه»، ۲۰ سوال از چهار منبع مستقل انتخاب کردند. امینه موفق شد به ۱۶ سوال بهدرستی پاسخ دهد که معادل دقت ۸۰ درصدی است. با وجود این، خود پژوهشگران اذعان دارند که به دلیل ناشناخته بودن دادههای دقیق مدل GPT، این محدودیت مهمی در طراحی آزمایش محسوب میشود.
در مقاله مربوطه پیشنهاد شده است که چنین آواتارهایی میتوانند در موقعیتهایی مانند متقاعد کردن سریع کمککنندگان مالی، یا آمادگی مذاکرهکنندگان برای تعامل با طرفهای نظامی مؤثر باشند. با وجود این، پژوهشگران هشدار دادهاند که چنین استفادههایی ممکن است نقش انسانی پناهجویان را به حاشیه براند و «عاملیت» آنها را سلب کند.
ادواردو آلبرشت، استاد دانشگاه کلمبیا و طراح اصلی این پروژه، تأکید کرده است که هدف از ساخت این آواتارها، جایگزینی انسانها نیست، بلکه برانگیختن گفتوگوی اخلاقی و بررسی پیامدهای آینده استفاده از هوش مصنوعی در امور بشردوستانه است. او گفته است: «ما صرفاً داشتیم با این مفهوم بازی میکردیم تا واکنشها را بسنجیم.»
اگرچه این پروژه هنوز در مراحل اولیه قرار دارد و به طور رسمی از سوی نهادهای اجرایی سازمان ملل بهکار گرفته نشده، اما بحثهای عمیقی را درباره مرز میان تکنولوژی و انسانیت آغاز کرده است. این تجربه نشان میدهد که حتی در نیتهای خیرخواهانه، استفاده از هوش مصنوعی بدون در نظر گرفتن پیچیدگیهای اخلاقی و فرهنگی، ممکن است نتایجی ناخواسته به همراه داشته باشد.
