مکالمات کاربران گروک در گوگل منتشر شد

در اقدامی که نشانگر استراتژی جدید پلتفرم X برای افزایش دامنه نفوذ ابزار هوش مصنوعی خود است، هزاران مکالمه ثبت‌شده با چت‌بات گروک اکنون توسط گوگل ایندکس شده و از طریق جستجوی عمومی در دسترس قرار گرفته‌اند.

به گزارش تکناک، ماجرا از آنجا آغاز شد که هر بار یک کاربر دکمه «اشتراک‌گذاری» را در گروک فشار می‌دهد، یک نشانی اینترنتی (URL) منحصربه‌فرد تولید می‌شود. این آدرس می‌تواند از طریق ایمیل، پیامک یا شبکه‌های اجتماعی منتشر شود. اما به گفته فوربس، این نشانی‌ها توسط موتورهای جست‌وجو مانند گوگل، Bing و DuckDuckGo ایندکس می‌شوند و در نتیجه، هر کسی می‌تواند به این گفتگوها در وب دسترسی پیدا کند.

تک‌کرانچ می‌نویسد که این موضوع یادآور ماجرای مشابهی است که اخیراً برای کاربران چت‌بات‌های Meta و OpenAI رخ داد. در هر دو مورد، گفتگوهای خصوصی کاربران به‌طور ناخواسته در دسترس عموم قرار گرفت. به‌مانند آن اتفاقات، گفتگوهای درز کرده از گروک نیز پرده از پرسش‌ها و تمایلات غیرقابل‌قبول برخی کاربران برمی‌دارد؛ از پرسش درباره روش هک کیف‌پول‌های رمز‌ارز گرفته تا مکالمات غیراخلاقی با شخصیت‌های مصنوعی و حتی درخواست دستورالعمل برای تولید مواد مخدر.

با وجود قوانین سختگیرانه xAI که استفاده از گروک برای «ترویج آسیب جدی به جان انسان» یا توسعه «سلاح‌های بیولوژیکی، شیمیایی یا سلاح‌های کشتار جمعی» را ممنوع می‌کند، اسناد منتشرشده نشان می‌دهد که این محدودیت‌ها مانع درخواست‌های کاربران نشده است. براساس گفتگوهایی که از طریق گوگل در دسترس قرار گرفته‌اند، گروک حتی دستورالعمل ساخت فنتانیل، روش‌های خودکشی، راهنمایی برای ساخت بمب و یک طرح دقیق برای ترور ایلان ماسک را ارائه داده است.

شرکت xAI تاکنون به درخواست رسانه‌ها برای اظهار نظر پاسخ نداده است. همچنین مشخص نیست این شرکت از چه زمانی مکالمات کاربران را در موتورهای جست‌وجو ایندکس کرده است.

این اتفاق در حالی رخ داده که ماه گذشته نیز کاربران ChatGPT نسبت به ایندکس شدن گفتگوهایشان در گوگل هشدار داده بودند. شرکت OpenAI در واکنش، این موضوع را «یک آزمایش کوتاه‌مدت» توصیف کرد. در همان زمان، گروک با انتشار بیانیه‌ای اعلام کرده بود که «هیچ ویژگی اشتراک‌گذاری مشابهی ندارد» و «حریم خصوصی کاربران را در اولویت قرار می‌دهد»؛ ادعایی که اکنون با افشاگری جدید، زیر سوال رفته است.

کارشناسان معتقدند این رخداد زنگ خطری جدی برای کاربران هوش مصنوعی است، چرا که نشان می‌دهد حتی گفتگوهایی که تصور می‌شود محرمانه باشند، می‌توانند بدون اطلاع کاربران در دسترس عموم قرار گیرند.