شرکت OpenAI ابزار جدیدی به نام Media Manager را رونمایی کرده است که به کاربران امکان میدهد تا مجموعه دادههای تصویری و متنی خود را بهطور خصوصی و ایمن مدیریت کنند.
بهگزارش تکناک، شرکت OpenAI امروز دو اعلامیه مرتبط با نحوه استفاده از ابزارهای هوش مصنوعی تولیدکننده محتوا و نحوه تشخیص تصاویر ساختهشده با این ابزارها را منتشر کرد.
اولین اعلامیه از ابزاری به نام مدیر رسانه (Media Manager) پردهبرداری میکند که OpenAI در حال توسعه آن است.
هدف از ساخت این ابزار آن است که به سازندگان و مالکان محتوا اجازه دهد تا مالکیت خود را به OpenAI اعلام و مشخص کنند که میخواهند محتوایشان به مجموعه دادههای آموزشی مدلهای هوش مصنوعی این شرکت اضافه شود یا خیر.
نئووین مینویسد که این ابزار هنوز در مراحل اولیه توسعه قرار دارد و تا سال ۲۰۲۵ رسماً دردسترس عموم قرار نخواهد گرفت. احتمالاً انگیزه اصلی OpenAI برای توسعه این ابزار، شکایتهای حقوقی سازمانهای خبری، ازجمله نیویورکتایمز، از این شرکت است. این سازمانها ادعا میکنند که OpenAI بهطور غیرقانونی از محتوای آنها برای آموزش مدلهای هوش مصنوعی خود استفاده کرده است.
دومین اعلامیه حاکی از آن است که OpenAI مشغول کار روی ابزاری دیگر برای تشخیص تصاویر ساختهشده با مولد هنری هوش مصنوعی خود، یعنی DALL-E است. OpenAI میگوید:
هدف ما فعالکردن پژوهشهای مستقلی است که کارایی طبقهبندیکننده، تحلیل کاربرد دنیای واقعی آن، آشکارسازی ملاحظات مرتبط با چنین کاربردی و جستوجو در ویژگیهای محتوای تولیدشده با هوش مصنوعی را ارزیابی میکند.
OpenAI میگوید نسخه ابتدایی این ابزار که فعلاً نام مشخصی ندارد، توانسته است با موفقیت بیش از ۹۸ درصد تصاویر ساختهشده با DALL-E را شناسایی کند و میزان تشخیص اشتباه آن برای تصاویر ساختهنشده با DALL-E کمتر از ۰/۵ درصد بوده است. درحالحاضر، این ابزار در حال آزمایش خصوصی بهکمک تعدادی از «آزمایشگاههای تحقیقاتی و سازمانهای غیرانتفاعی روزنامهنگاری پژوهشمحور» است. هنوز اطلاعاتی از زمان دسترسی عموم به این ابزار منتشر نشده است.
افزونبراین، OpenAI اعلام کرده است که به کمیته راهبری ائتلاف برای خاستگاه و اصالت محتوا (Coalition for Content Provenance and Authenticity) میپیوندد. این گروه استانداردهایی را برای تأیید اعتبار محتوای دیجیتال ایجاد میکند.
درپایان، باید بگوییم که OpenAI و شریک اصلیاش، مایکروسافت، مبلغ ۲ میلیون دلار را برای تأمین مالی صندوقی با عنوان «صندوق تابآوری اجتماعی» (Societal Resilience Fund) در نظر گرفتهاند. این مبلغ برای کمک به بودجه تعدادی از سازمانهایی استفاده خواهد شد که به «آموزش و درک هوش مصنوعی» اختصاص دارند.
