داده‌های جدید نشان می‌دهند که ChatGPT برای پاسخ به پرسش‌های کاربران، درحال ارجاع هوش مصنوعی به Grokipedia، منبع بحث‌برانگیز ماسک است.
به گزارش سرویس هوش مصنوعی تکناک، ChatGPT درحال استفاده از Grokipedia به‌عنوان منبع اطلاعاتی است و این، تنها ابزار هوش مصنوعی نیست که چنین کاری انجام می‌دهد. ارجاع به این دایرةالمعارف تولیدشده با هوش مصنوعی متعلق به ایلان ماسک حالا در پاسخ‌های Google AI Overviews و AI Mode و Gemini هم دیده می‌شود. داده‌ها نشان می‌دهند که این روند رو‌به‌افزایش و نگرانی‌ها درباره دقت اطلاعات و انتشار اطلاعات نادرست را تشدید کرده است.
از زمان راه‌اندازی این نسخه تحریف‌شده از ویکی‌پدیا در اواخر اکتبر سال گذشته، Grokipedia از نظر فنی همچنان منبعی نسبتاً کوچک به حساب می‌آید. گلن آلساپ، مدیر استراتژی و تحقیقات بازاریابی در شرکت سئو Ahrefs، به ورج گفته است که آزمایش‌های این شرکت نشان می‌دهد Grokipedia در بیش از ۲۶۳ هزار پاسخ ChatGPT از میان ۱۳٫۶ میلیون پرامپت ارجاع و به حدود ۹۵ هزار صفحه مجزای Grokipedia استناد شده است. به گفته آلساپ، در مقام مقایسه ویکی‌پدیای انگلیسی در ۲٫۹ میلیون پاسخ ظاهر شده است.
مرتبط: کاهش سهمیه رایگان ویدئو هوش مصنوعی در Sora
بر‌اساس مجموعه داده‌ای که میلیاردها ارجاع را ردیابی می‌کند، سرتاج راجپال، پژوهشگر پلتفرم بازاریابی Profound، اعلام کرده است که Grokipedia روزانه حدود ۰٫۰۱ تا ۰٫۰۲ درصد از کل ارجاعات ChatGPT را ازآنِ خود می‌کند. شرکت Semrush که با ابزار AI Visibility Toolkit نحوه دیده‌شدن برندها در پاسخ‌های هوش مصنوعی گوگل را رصد می‌کند، افزایش مشابهی را در میزان دیده‌شدن Grokipedia از ماه دسامبر گزارش کرده است؛ هرچند تأکید می‌کند که این منبع همچنان در مقایسه با منابع مرجعی مانند ویکی‌پدیا، کاملاً در جایگاه ثانویه قرار دارد.
مرتبط: هوش مصنوعی جدید گوگل علائم بیماری را تشخیص می‌دهد
ارجاعات به Grokipedia در ChatGPT بیشتر از هر پلتفرم دیگری دیده می‌شود. با‌این‌حال، Semrush در محصولات هوش مصنوعی گوگل، Gemini و AI Overviews و AI Mode، نیز افزایش مشابهی را در ماه دسامبر شناسایی کرده است. آلساپ از Ahrefs می‌گوید که Grokipedia در ۸,۶۰۰ پاسخ Gemini، نزدیک به ۵۶۷ پاسخ AI Overviews، تقریباً ۷۷۰۰ پاسخ Copilot و تنها ۲ پاسخ پرپلکسیتی دیده شده است؛ آن هم به‌ترتیب از میان تقریباً ۹٫۵ میلیون، ۱۲۰ میلیون، ۱۴ میلیون و ۱۴ میلیون پرامپت.
به گفته او، میزان حضور Grokipedia در Gemini و پرپلکسیتی در مقایسه با آزمایش مشابه در ماه قبل کاهش چشمگیری یافته است. هیچ‌یک از شرکت‌هایی که ورج با آنها صحبت کرده، ارجاعات مربوط به Claude آنتروپیک را ردیابی نمی‌کنند؛ اما گزارش‌های پراکنده در شبکه‌های اجتماعی نشان می‌دهد این چت‌بات نیز به Grokipedia استناد می‌کند.
مرتبط: جدیدترین مدل هوش مصنوعی متا
در بسیاری از مواقع، ابزارهای هوش مصنوعی ظاهراً برای پاسخ به پرسش‌های خاص و مبهم یا بسیار جزئی به Grokipedia ارجاع می‌دهن. هفته گذشته، روزنامه گاردین نیز به این موضوع اشاره کرده بود و تحلیلگران هم با این ارزیابی موافق‌اند.
جیم یو، مدیرعامل شرکت تحلیلی BrightEdge، به ورج گفته است ChatGPT و AI Overviews عمدتاً برای «پرسش‌های غیرحساس» مانند تعاریف و جست‌وجوهای دانش‌نامه‌ای از Grokipedia استفاده می‌کنند؛ هرچند میزان اعتباری که به آن می‌دهند، متفاوت است.
به گفته یو، در AI Overviews گروکی‌پدیا معمولاً به‌تنهایی ظاهر نمی‌شود و اغلب در کنار چند منبع دیگر و به‌عنوان مرجع تکمیلی به کار می‌رود، نه منبع اصلی. بااین‌همه، وقتی ChatGPT از Grokipedia استفاده می‌کند، اعتبار بسیار بیشتری به آن اعطا می‌کند و اغلب آن را جزو نخستین منابع ذکرشده برای پرسش‌ها قرار می‌دهد.
مرتبط: مایکروسافت شخصیت‌های هوش مصنوعی را به Xbox می‌آورد
حتی در کاربردهای نسبتاً معمولی هم، کارشناسان هشدار می‌دهند که استفاده از Grokipedia به‌عنوان منبع می‌تواند به گسترش اطلاعات نادرست و ترویج دیدگاه‌های جناحی منجر شود. برخلاف ویکی‌پدیا که انسان‌ها و با فرایندی شفاف آن را ویرایش می‌کنند، Grokipedia محصول چت‌بات Grok متعلق به xAI است. Grok بیش از هر چیز به‌دلیل جنجال‌هایی مانند معرفی خود با عنوان MechaHitler و ستایش ایلان ماسک و اخیرا برهنه‌سازی دیجیتال افراد ازجمله کودکان شناخته می‌شود.
مرتبط: هوش مصنوعی جدید گوگل راهی به سوی درمان سرطان باز می کند
در زمان راه‌اندازی، بخش بزرگی از مقاله‌های Grokipedia کپی مستقیم از ویکی‌پدیا بودند؛ اما بسیاری از مطالب دیگر بازتاب‌دهنده دیدگاه‌های نژادپرستانه و ترنس‌ستیزانه بودند. برای نمونه، مقاله‌های مربوط به ایلان ماسک ثروت خانوادگی و بخش‌های بحث‌برانگیز گذشته خانواده او مانند گرایش‌های نئونازی و طرف‌داری از آپارتاید را کم‌اهمیت جلوه می‌دهند.
همچنین، مدخل مربوط به «پورنوگرافی هم‌جنس‌گرایان» به‌اشتباه این محتوا را به تشدید بحران HIV/AIDS در دهه ۱۹۸۰ مرتبط می‌کند. مقاله مربوط به برده‌داری در آمریکا همچنان بخشی طولانی درباره «توجیهات ایدئولوژیک» دارد؛ ازجمله ایده «تغییر از شر ضروری به خیر مثبت». فرایند ویرایش نیز زیرنظر Grok انجام می‌شود و به همان اندازه مشکل‌دار است. Grokipedia بیش‌ازحد درمعرض پدیده‌ای قرار دارد که با عنوان «LLM grooming» یا مسموم‌سازی داده شناخته می‌شود.
مرتبط: سیستم‌عامل بعدی مایکروسافت یک عامل هوش مصنوعی خواهد بود
به نوشته ورج، نکته اصلی این است که Grokipedia اساساً منبع مطمئنی برای ارجاع نیست؛ حتی اگر به‌ندرت استفاده شود و با اینکه ایلان ماسک بدون ارائه شواهد، از موفقیت ادعایی این دایرةالمعارف در نتایج جست‌وجوی گوگل تمجید کرده است. این سیستمی تولیدشده با هوش مصنوعی است که نظارت انسانی کافی ندارد و اغلب به منابع مبهم و دشوار برای راستی‌آزمایی مانند وبسایت‌های شخصی و وبلاگ‌ها متکی است؛ آن هم با زنجیره‌های منبع‌دهی مشکوک و بالقوه چرخشی.
