تنها چند روز بعد از معرفی چتبات Q آمازون، نگرانیهایی در میان کارمندان این شرکت بر سر دقت و مسائل مربوط به حفظ حریم خصوصی بهوسیلهی این چتبات مطرح شده است.
براساس اسناد فاششدهای که بهواسطهی Platformer بهدست آمده است، چتبات Q آمازون با مشکلاتی مانند توهمات شدید روبهرو شده و اطلاعات محرمانهای مانند موقعیت مراکز داده AWS و برنامههای تخفیف داخلی را فاش کرده است. یکی از کارمندان آمازون این اتفاق را با عنوان «sev 2» توصیف کرده است. این یعنی مشکل بهقدری جدی است که به فوریت برای اطلاعرسانی به مهندسان و ترغیب آنها به کار در آخر هفته برای حل مسئله نیاز است.
Q در زمانی با مشکلات روبهرو شده است که آمازون تلاش میکند تا با رقبایی مانند مایکروسافت و گوگل و دیگر شرکتهای فناوری برای تولید ابزارها و زیرساختهای مبتنیبر هوش مصنوعی رقابت کند.
سپتامبر ۲۰۲۳، این غول خردهفروشی آمریکایی اعلام کرد که قصد دارد ۴ میلیارد دلار روی استارتآپ هوش مصنوعی Anthropic سرمایهگذاری کند. همچنین، در کنفرانس سالانهی توسعهدهندگان Amazon Web Services چتبات Q معرفی شد که احتمالاً مهمترین ابتکار جدید درزمینهی هوش مصنوعی این شرکت است.
در پاسخ به نگرانیهای کارمندان خود، آمازون اهمیت این مسائل را کمرنگ جلوه داده است. یکی از سخنگویان شرکت گفته است که دریافت بازخورد ازطریق کانالهای داخلی و سیستمهای تیکتینگ در آمازون روالی معمول است. وی افزود که تاکنون هیچ مسئلهی امنیتیای براثر این بازخوردها شناسایی نشده است. آمازون تأکید کرد که از همهی بازخوردهای دریافتی تشکر میکند و درحالیکه چتبات Q از مرحلهی پیشنمایش به محصولی عمومی تبدیل میشود، به توسعه و هماهنگی آن ادامه خواهد داد.
در بیانیهای جداگانه، سخنگوی آمازون ادعاهای کارمندان مبنیبر درز اطلاعات ازطریق Q را رد و اعلام کرد: «چتبات Q اطلاعات محرمانهای را فاش نکرده است.»
چتبات Q که درحالحاضر بهصورت پیشنمایش رایگان دردسترس قرار دارد، بهعنوان نوعی نسخهی نرمافزار کسبوکار از ChatGPT معرفی شده است. در ابتدا، این چتبات خواهد توانست به سؤالات مربوط به AWS پاسخ دهد و سورس کد را ویرایش و منابع را ذکر کند. این ابزار قرار است با محصولات مشابه مایکروسافت و گوگل رقابت کند و دستکم در ابتدا با قیمت ارزانتری از رقبا عرضه شود.
در معرفی چتبات Q، مدیران آمازون آن را بهعنوان ابزاری امنتر از محصولات مشابه مصرفکننده مانند ChatGPT تبلیغ کردند. آدام سلیپسکی، مدیرعامل Amazon Web Services، به نیویورک تایمز گفت که شرکتها بهدلیل نگرانیهای امنیتی و حریم خصوصی، استفاده از دستیارهای هوش مصنوعی مانند Q را در محیط کسبوکار خود ممنوع کردهاند. بااینحال، آمازون Q را بهگونهای طراحی کرده است که امنتر و خصوصیتر از چتبات مصرفکننده باشد.
ناگفته نماند که دراینمیان، سندی داخلی نیز به مشکلات احتمالی Q اشاره کرده است؛ مانند توهمها و پاسخهای اشتباه که میتوانند حسابهای مشتریان را به خطر بیندازند. این ریسکها معمولاً برای مدلهای بزرگ زبانی وجود دارند که گاهی اوقات پاسخهای نادرست یا نامناسب ارائه میدهند.
