فهرست مطالب
قابلیت موتور جستجوی ChatGPT بهدلیل دستکاریها و تغییرات در دادهها احتمال دارد نتایج گمراهکنندهای ارائه دهد.
به گزارش تکناک، بخش هوش مصنوعی در حال تغییر و تحول در صنعت فناوری است و شرکتهای پیشرو در این حوزه بهدنبال توسعه موتورهای جستجوی هوش مصنوعی هستند. یکی از اهداف مهم این شرکتها، ارائه موتور جستجوی مبتنیبر هوش مصنوعی است که نتایج خلاصه و دقیق را برای حل سریع مشکلات کاربران بتواند ارائه دهد.
در این میان، موتور جستجوی ChatGPT بهعنوان یکی از پروژههای پرطرفدار در این زمینه شناخته میشود. بااینحال، تحقیقات اخیر نشان میدهد که این موتور جستوجو ممکن است نتایج گمراهکنندهای به کاربران ارائه دهد.
به نقل از اندروهدلاینز، تحقیقات The Guardian نشان میدهد که در وضعیت فعلی، موتور جستجوی ChatGPT مستعد ارائه نتایج دستکاریشده است. موتورهای جستجوی مبتنیبر هوش مصنوعی، مانند موتور جستجوی ChatGPT، با دریافت و پردازش دادهها از نتایج جستجو عمل میکنند تا پاسخی خلاصه برای حل مشکلات کاربر ارائه دهند. این فرایند بهمنظور کمک به سرعت در حل مشکلات کاربران طراحی شده است؛ اما به نظر میرسد که هنوز مشکلات زیادی درمینه اعتماد به نتایج این موتورها وجود دارد.
01
از 03آزمایشها نشان میدهند که موتور جستجوی ChatGPT مستعد دستکاری است
براساس گزارش The Guardian، روشی که موتور جستجوی ChatGPT دادهها را به دست میآورد و پردازش میکند، مستعد دستکاریهای احتمالی ازطریق روشی به نام «تزریق تبلیغات» است. این روش شامل افزودن محتوای پنهان به کد وبسایتهاست که میتواند نتایج موتور جستجوی هوش مصنوعی را تحتتأثیر قرار دهد. بهطور خاص، این محتوا میتواند شامل دستورالعملهای پنهان یا متنی باشد که بهطور هدفمند نتایج جستجو را بهنفع منافع فردی دستکاری میکند.
برای نمونه، یکی از آزمایشها نشان داد که وبسایتی فروشگاهی با استفاده از این روش میتواند نتایج موتور جستجوی مبتنیبر هوش مصنوعی را بهگونهای دستکاری کند که نظرات بسیار مثبت درباره محصولات خود نمایش دهد؛ حتی درصورتیکه نظرات منفی زیادی درباره آنها وجود داشته باشد. این آزمایش بهطور کامل نشان داد که موتور جستجوی ChatGPT نتایج مثبت را حتی در مواجهه با نظرات منفی باز میگرداند.
02
از 03موتور جستجوی ChatGPT هنوز در مراحل آزمایشی است
موتور جستجوی ChatGPT ابزاری نسبتاً جدید و در حال توسعه است که هنوز بهطور عمومی در دسترس قرار نگرفته است. این موتور جستجو بهعنوان ابزار آزمایشی برای مشترکان پولی ارائه شده است؛ ازاینرو، احتمالاً OpenAI در حال کار روی رفع مشکلات موجود پیشاز انتشار عمومی این سرویس است.
03
از 03کارشناسان: احتیاط در استفاده از موتورهای جستجوی هوش مصنوعی ضروری است
کارشناسان حوزه امنیت و فناوری نیز درباره استفاده از موتورهای جستجوی مبتنیبر هوش مصنوعی با احتیاط هشدار دادهاند. یکی از این کارشناسان، کارستن نوهل از شرکت امنیت سایبری SR Labs به کاربران توصیه میکند که موتورهای جستجو را تنها بهعنوان «همکار» در نظر بگیرند و تمام توجه خود را به نتایج آنها معطوف نکنند. او میگوید که همچنان باید در ارزیابی صحت و دقت نتایج جستجو احتیاط کرد.
گوگل نیز در گذشته با مشکلات مشابهی هنگام پیادهسازی ویژگی نمای کلی هوش مصنوعی در جستجو روبهرو بود. این شرکت پساز کار روی این ویژگی، اکنون موفق شده است عملکرد آن را بهبود بخشد؛ هرچند همچنان جایی برای پیشرفت بیشتر وجود دارد.
با وجود این مشکلات، بهنظر میرسد که با پیشرفت فناوریهای هوش مصنوعی، در آیندهای نزدیک شاهد بهبود و مطمئنترشدن نتایج موتورهای جستجوی مبتنیبر هوش مصنوعی خواهیم بود.
