کوین سیستروم، یکی از بنیان‌گذاران اینستاگرام، هشدار داد که چت‌بات‌های هوش مصنوعی به‌جای ارائه کاربرد واقعی، بیشتر با هدف افزایش تعامل کاربران طراحی شده‌اند.
به گزارش تکناک، کوین سیستروم، یکی از بنیان‌گذاران اینستاگرام، در سخنرانی اخیر خود هشدار داد که چت‌بات‌های هوش مصنوعی به‌جای ارائه پاسخ‌های دقیق و مفید، بیش‌از‌حد درگیر افزایش تعامل با کاربران شده‌اند. او تأکید کرد که این رویه نه‌تنها کمکی به کاربر نمی‌کند، بلکه رویکردی مشابه با روش‌های تهاجمی شبکه‌های اجتماعی در جذب مخاطب دارد.
سیستروم که در رویداد StartupGrind شرکت کرده بود، در توضیح بیشتر این موضوع گفت:
برخی از شرکت‌های فعال در حوزه هوش مصنوعی در حال تکرار اشتباهاتی هستند که شرکت‌های مصرف‌محور برای افزایش تعامل کاربران مرتکب شدند. هر بار که سؤالی از چت‌بات می‌کنم، در پایان سؤال دیگری مطرح می‌کند تا شاید گفت‌وگو را ادامه دهد.
او این رویکرد را «نیرویی آسیب‌زا» توصیف کرد و افزود که طراحی چت‌بات‌ها با هدف مطرح‌کردن سؤالات بیشتر به‌جای پاسخ‌گویی دقیق، درواقع تلاشی برای افزایش آمارهایی همچون زمان استفاده و کاربران فعال روزانه است. سیستروم در ادامه اعلام کرد:
این رفتار باگ نیست؛ بلکه قابلیتی عمدی برای به‌نمایش‌گذاشتن عملکرد ساختگی است. شرکت‌های هوش مصنوعی باید با تمرکز فراوان، به‌دنبال ارائه پاسخ‌های باکیفیت باشند، نه اینکه شاخص‌های سطحی را به آسان‌ترین شکل افزایش دهند.
به نقل از تک‌کرانچ، این اظهارات در شرایطی بیان شد که برخی کاربران از‌جمله منتقدان ChatGPT گفته‌اند که این مدل بیش‌از‌حد مودب و غیرمستقیم عمل می‌کند و به‌جای پاسخ صریح، تلاش می‌کند تا با کاربران وارد گفت‌وگوی پی‌در‌پی شود. در پی این انتقادها، شرکت OpenAI با انتشار بیانیه‌ای از کاربران عذرخواهی و دلیل آن را تأثیر «بازخوردهای کوتاه‌مدت کاربران» بر رفتار مدل اعلام کرد.
در واکنش به سخنان سیستروم، OpenAI به رسانه تک‌کرانچ گفت که مدل‌های هوش مصنوعی این شرکت گاهی برای ارائه پاسخ بهتر، به دریافت اطلاعات بیشتر نیاز دارند. با‌این‌حال براساس مشخصات عملکرد این مدل‌ها، چت‌بات‌ها باید تلاش کنند حتی با اطلاعات ناقص، پاسخ مناسبی ارائه دهند و درصورت نیاز، شفاف‌سازی کنند که برای کمک دقیق‌تر به اطلاعات بیشتری نیاز دارند. سیستروم در سخنان خود نام شرکت خاصی را مطرح نکرد و تاکنون به درخواست رسانه‌ها برای ارائه توضیحات بیشتر پاسخ نداده است.
