فهرست مطالب
شرکت OpenAI اعلام کرده است که مشتریان سازمانی واجد شرایط میتوانند حتی هنگام استفاده از مدلهای پیشرفته این شرکت از حفاظت Zero Data Retention (قابلیت عدم نگهداری داده) بهره ببرند.
به گزارش سرویس هوش مصنوعی تکناک، با گسترش استفاده سازمانها و نهادهای دولتی در سراسر جهان از مدلهای هوش مصنوعی در فرایندهای کاری روزمره، قابلیت «عدم نگهداری داده» یا ZDR به یکی از الزامات کلیدی برای توسعه این فناوری، افزایش اعتماد کاربران، رعایت الزامات قانونی و پذیرش گستردهتر هوش مصنوعی تبدیل شده است. شرکتهای OpenAI و آنتروپیک هر دو از ZDR پشتیبانی میکنند، اما این قابلیت تنها برای سازمانهای واجد شرایط ارائه میشود و به صورت پیشفرض در اختیار تمام مشتریان API قرار نمیگیرد.
بیشتر بخوانید: دسترسی پژوهشگران OpenAI به برنامه سایبری TAC قطع شد
تعهد OpenAI به حفظ حریم خصوصی
آنتروپیک اعلام کرد که مدلهای پیشرفته این شرکت از سیاست عدم نگهداری داده مستثنی هستند. در حال حاضر، این شرکت Claude Fable 5 و Claude Mythos 5 را در دسته «مدلهای مشمول» قرار داده و اعلام کرده است که دادههای مرتبط با این مدلها باید به مدت ۳۰ روز نگهداری شوند. در نتیجه، استفاده از این مدلها در پیکربندی ZDR امکانپذیر نیست. در مقابل، OpenAI امروز با انتشار یک پست وبلاگی اعلام کرد که مشتریان نباید برای دسترسی به قدرتمندترین مدلهای این شرکت، از سیاست عدم نگهداری داده چشمپوشی کنند.
برای مطالعه بیشتر: تدابیر امنیتی جدید OpenAI برای کنترل مدلهای قدرتمند هوش مصنوعی
در صورت فعال بودن قابلیت عدم نگهداری داده، OpenAI پس از پردازش درخواست، پرامپتهای مشتری و پاسخهای مدل را نگهداری نمیکند و این محتوا برای بررسی در اختیار کارکنان شرکت قرار نمیگیرد. همچنین دادههای مشتریان سازمانی برای آموزش مدلهای OpenAI استفاده نمیشوند، مگر اینکه خود مشتری با این کار موافقت کرده باشد. OpenAI اکنون تعهد جدیدی در حوزه حریم خصوصی برای مشتریان سازمانی مدلهای پیشرفته خود ارائه کرده است. بر این اساس، مشتریان واجد شرایط API حتی با ورود سیستمهای جدیدتر برای شناسایی سوءاستفاده در مجموعهای از تعاملات، همچنان از حفاظتهای عدم نگهداری داده برخوردار خواهند بود.
چالشهای سیاست عدم نگهداری داده
سیستمهای ایمنی سازگار با عدم نگهداری داده معمولا هر تعامل را به صورت جداگانه بررسی میکنند؛ اما با افزایش توانایی مدلهای هوش مصنوعی در انجام وظایف طولانی و پیچیده که به زنجیرهای از تعاملات وابستهاند، تشخیص سوءاستفاده دشوارتر میشود. شرکت OpenAI برای مقابله با این چالش، سیستم جدیدی با نام Private Safety Processing را به صورت آزمایشی معرفی کرده است. این سیستم میتواند الگوهای رفتاری را در تعاملات مرتبط با یکدیگر تحلیل کند، بدون آنکه پرامپتها و پاسخهای اصلی برای کارکنان OpenAI قابل مشاهده باشند. در استقرارهای مبتنی بر عدم نگهداری داده، محتوای مشتری همچنان روی زیرساختی تحت کنترل خود او باقی میماند. همچنین OpenAI در حال توسعه قابلیتی است که امکان ذخیره دادهها روی زیرساخت این شرکت را فراهم میکند، در حالی که دادهها با کلیدهای رمزنگاری تحت کنترل مشتری محافظت میشوند.
خبر پیشنهادی: آنتروپیک از راز واترمارکهای نامرئی کلود پرده برداشت
در صورتی که Private Safety Processing احتمال سوءاستفاده را شناسایی کند، OpenAI تنها یک سیگنال محدود درباره نوع فعالیت مشکوک دریافت خواهد کرد و کارکنان این شرکت به پرامپتها یا پاسخهایی که باعث ایجاد هشدار شدهاند دسترسی نخواهند داشت. مشتریان در چنین شرایطی میتوانند هشدارها را از طریق سامانههای داخلی خود بررسی کنند و در صورت اعتراض به هشدار یا تمایل به کمک در فرایند بررسی، اطلاعات مرتبط را به صورت داوطلبانه در اختیار OpenAI قرار دهند. شرکت OpenAI در حال حاضر Private Safety Processing را با گروهی از مشتریان آزمایش میکند و قصد دارد عرضه آن را از ماه سپتامبر آغاز کند. البته سیاست عدم نگهداری داده یک استثنا نیز دارد؛ تصاویری که به عنوان موارد احتمالی سوءاستفاده جنسی از کودکان شناسایی شوند، همچنان ممکن است برای بررسی انسانی و انجام گزارشهای الزامی قانونی نگهداری شوند و بنابراین مشمول حفاظتهای ZDR نخواهند بود.
