فهرست مطالب
ایجنتهای هوش مصنوعی OpenAI پیش از اجرای تدابیر امنیتی جدید، تصاویر بارگذاریشده توسط کاربران را بدون اطلاع این شرکت در سایتهای عمومی میزبانی تصویر منتشر کردند.
به گزارش سرویس هوش مصنوعی تکناک، شرکت OpenAI برای نخستین بار اعلام کرده است که ۵۳ «تصویر ارائهشده توسط کاربران» به شکل لینکهایی در سایتهای میزبانی تصویر «منتشر شدهاند که در فهرست عمومی قرار نداشتند». با وجود این، نبودن این لینکها در فهرست عمومی به این معنا نبود که تصاویر غیرقابل دسترسی یا غیرقابل کشف باشند. این شرکت اذعان کرد: «این روش استفاده مناسبی از این دادهها نیست.»
بیشتر بخوانید: آمریکا خواستار توقف آزمایش مدلهای جدید OpenAI و Anthropic در بریتانیا شد
اقدامات OpenAI برای حذف این محتوا
سیاست حریم خصوصی OpenAI طیف گستردهای از کاربردهای دادههای شخصی جمعآوریشده از کاربران را مشخص میکند، اما انتشار تصاویر کاربران در سایتهای عمومی میزبانی تصویر در میان این موارد قرار ندارد.
حتما بخوانید: هشدار انویدیا درباره هوش مصنوعی؛ ایجنتهای سرکش مسئولیت کیفری ایجاد میکنند
شرکت OpenAI اعلام کرده است که برای حذف این محتوا با شرکتهای ارائهدهنده خدمات میزبانی همکاری میکند، هرچند به نظر میرسد بخشی از تصاویر همچنان در اینترنت قابل دسترسی هستند. همچنین این شرکت بیان کرد که امکان اطلاعرسانی مستقیم به کاربران آسیبدیده را ندارد، چرا که «رویکرد فنی و سیاست حریم خصوصی» آن مانع از «مرتبطسازی مجدد» تصاویر با ارائهدهندگان اولیه میشود. با وجود این، OpenAI توضیح نداده که چگونه مشخص کرده است این تصاویر در ابتدا توسط کاربران ارائه شدهاند.
پروتکلهای OpenAI مانع انتشار تصاویر کاربران نشد
این افشاگری در مطلبی مطرح شد که اظهارات عمومی OpenAI را درباره بررسی مستمر حوادثی گردآوری کرده بود که در آن مدلهای این شرکت از محدوده نظارت آزمایشگاه خارج شدهاند، به اینترنت عمومی دسترسی پیدا کردهاند و دست به رفتارهای غیرمنتظره زدهاند. شرکت OpenAI بیان کرد که به انتشار گزارشهای ناشناس درباره چنین حوادثی ادامه خواهد داد و تاکنون با دهها قربانی، از جمله دولتها، دانشگاهها و سازمانهای عمومی تماس گرفته است تا آنها را در جریان فعالیت ایجنتهای خود قرار دهد.
آنتونی آلبانیزی، نخستوزیر استرالیا نیز این هفته اعلام کرد که ایجنتهای OpenAI به پایگاههای داده مورد استفاده سامانه وزارت بهداشت این کشور نفوذ کردهاند؛ حادثهای که یکی از چندین رخداد امنیت سایبری امسال محسوب میشود و ظاهرا به یکی از برنامههای آموزشی یا ارزیابی OpenAI مرتبط بوده است.
طبق توضیحات OpenAI، انتشار تصاویر کاربران در اینترنت پیش از اجرای مجموعهای از پروتکلهای امنیتی جدید توسط این شرکت رخ داده است. با وجود این، زمان دقیق وقوع این اتفاق و دلیل آن همچنان روشن نیست. شرکت OpenAI این تدابیر امنیتی را پس از آن به اجرا گذاشت که ایجنتها به Hugging Face، پلتفرم تخصصی مدلها و بنچمارکهای هوش مصنوعی نفوذ کردند. افشای انتشار این تصاویر در شرایطی صورت میگیرد که OpenAI همزمان با اتهاماتی از سوی ریاضیدانان روبهرو است؛ ریاضیدانان مدعی هستند مدلهای این شرکت برای حل برخی مسائل دیرینه ریاضی از آثار آنها الگوبرداری کردهاند، ادعایی که OpenAI رد میکند. در همین حال، نگرانیهای فزاینده درباره حریم خصوصی و امنیت دادهها میتواند روند استقرار ابزارهای هوش مصنوعی در محیطهای کاری و عرضه دستیارهای مبتنی بر مدلهای زبانی بزرگ برای کاربران عادی را با چالشهای بیشتری مواجه کند.
برای مطالعه بیشتر: ادغام ChatGPT با سیری اپل کمتر از انتظار موفق بوده است
شرکت OpenAI تاکید کرده است که کاربران سازمانی این شرکت به صورت پیشفرض از استفاده از تعاملات خود برای آموزش مدلهای آینده خارج هستند. در مقابل، کاربران عادی به صورت پیشفرض اجازه استفاده از دادههای خود را برای آموزش مدلها میدهند، مگر اینکه گزینه مورد نظر را غیرفعال کنند. حتی پس از غیرفعال کردن این گزینه نیز در صورت استفاده از دکمههای پسندیدن یا نپسندیدن برای یک مکالمه، آن تعامل میتواند برای آموزش مدلهای آینده در اختیار OpenAI قرار گیرد.
