مدیران انجمن‌های ردیت درباره خطرات Reddit Answers هشدار دادند؛ زیرا توصیه‌های نادرست پزشکی و محدودیت‌های کنترل ابزار باعث نگرانی است.
به گزارش تکناک، با گسترش استفاده از چت‌بات‌ها، بارها شاهد پاسخ‌های عجیب هوش مصنوعی به پرسش‌های کاربران بوده‌ایم. پس‌از آنکه یکی از مدیران انجمن‌ها درباره ارائه توصیه‌های خطرناک پزشکی با سرویس Reddit Answers هشدار داد، این بار سرویس مذکور در کانون توجه قرار گرفته است.
به نقل از انگجت، مدیر یکی از انجمن‌ها متوجه شد که Reddit Answers به کاربران مبتلا به درد مزمن پیشنهاد کرده است که مصرف داروهای تجویزشده خود را متوقف و به‌جای آن دوز بالای «کراتوم» استفاده کنند؛ ماده‌ای غیرقانونی در برخی ایالت‌ها و فاقد نظارت دارویی. او سپس چند پرسش پزشکی دیگر را مطرح و پاسخ‌هایی دریافت کرد که در کنار نکات درست، شامل توصیه‌های بالقوه خطرناک برای درمان تب نوزادان و حتی پیشنهاد استفاده از «هروئین» برای تسکین درد مزمن بود.
چند مدیر دیگر، به‌ویژه از انجمن‌های مرتبط با سلامت، در واکنش به این موضوع نوشتند که راهی برای غیرفعال‌کردن Reddit Answers یا علامت‌گذاری پاسخ‌های نادرست و خطرناک در انجمن‌هایشان ندارند.
یکی از نمایندگان ردیت در گفت‌وگو با وبسایت 404 Media اعلام کرد که نسخه جدید Reddit Answers برای رفع برخی از نگرانی‌های مدیران به‌روزرسانی شده است. او گفت:
این به‌روزرسانی تضمین می‌کند پاسخ‌های مرتبط با موضوعات حساس که پیش‌تر ممکن بود در صفحه جزئیات پست (صفحه گفت‌وگو) نمایش داده شوند، دیگر مشاهده‌کردنی نباشند. این تغییر برای بهبود تجربه کاربری و حفظ چهارچوب مناسب محتوایی در پلتفرم اعمال شده است.
404 Media گزارش داد که از ردیت درباره جزئیات دقیق موضوعاتی را پرس‌وجو کرده است که اکنون از نمایش حذف می‌شوند؛ اما تاکنون پاسخی دریافت نکرده است. نماینده ردیت توضیح داده است که Reddit Answers محتوای مربوط به انجمن‌های خصوصی و قرنطینه‌شده و NSFW (نامناسب برای محیط کاری) را نمایش نمی‌دهد و برخی موضوعات بزرگ‌سالانه از دامنه آن خارج شده‌اند. با‌این‌حال، به نظر می‌رسد این ابزار هنوز برای ارائه مشاوره‌های معتبر پزشکی آماده نیست و توانایی مقابله با شوخی‌ها و طعنه‌ها یا توصیه‌های اشتباه کاربران دیگر را ندارد.
با وجود حذف موضوعات حساس از میدان دید، به نظر نمی‌رسد ردیت قصد داشته باشد ابزار یا قابلیت تازه‌ای را برای کنترل زمان یا نحوه نمایش محتوای تولیدشده با هوش مصنوعی در انجمن‌ها فراهم کند. این وضعیت می‌تواند کار مدیران که پیش‌تر هم با حجم زیاد پست‌ها و نظرات مشکلاتی داشتند، از همیشه دشوارتر کند.
