طرح اینستاگرام برای تفکیک محتواهای تولیدشده توسط هوش مصنوعی

اینستاگرام در حال کار بر روی برچسب‌هایی است که محتواهای تولیدشده توسط هوش مصنوعی را مشخص کند.

به گزارش تکناک، این ویژگی در حال توسعه است و هنگامی که یک قطعه محتوا “با استفاده از هوش مصنوعی ساخته یا ویرایش شده است” آن را مشخص خواهد کرد.

الساندرو پولاتزی محقق برنامه که اغلب قبل از اعلام رسمی یا انتشار ویژگی‌های جدید اینستاگرام آن‌ها را کشف می‌کند، تصویری از صفحه‌ای در برنامه اینستاگرام را منتشر کرده است که می‌گوید “سازنده یا متا گفته است که این محتوا با استفاده از هوش مصنوعی ساخته یا ویرایش شده است”.

#Instagram is working to label the contents created or modified by #AI in order to be identified more easily 👀 pic.twitter.com/bHvvYuDpQr

— Alessandro Paluzzi (@alex193a) July 30, 2023

این اعلان خاص توضیح می‌دهد که در این مورد تصویری توسط “Meta AI” تولید شده است، پس از آن توضیح کوتاهی درباره چیستی “هوش مصنوعی تولیدی” و چگونگی شناسایی پست‌هایی که از هوش مصنوعی استفاده می‌کنند، داده می‌شود.

این کشف مدت کوتاهی پس از آن صورت گرفت که متا، همراه با دیگر بازیگران اصلی هوش مصنوعی از جمله گوگل، مایکروسافت و OpenAI، تعهداتی را به کاخ سفید در مورد توسعه مسئولانه هوش مصنوعی انجام دادند.

علاوه بر سرمایه‌گذاری در تحقیقات امنیت سایبری و تبعیض، یکی از تعهدات شامل توسعه سیستم watermarking بود که به کاربران اطلاع می‌دهد که محتوای مورد نظر با استفاده از هوش مصنوعی تولید شده است.

هنوز واضح نیست که سیستم برچسب‌گذاری اینستاگرام به چه اندازه به صورت خودکار خواهد بود و تا چه حد بر اطلاعات کاربران نیاز دارد تا اعلام کنند که برای ایجاد یا ویرایش تصویر از هوش مصنوعی استفاده شده است.

سخنگوی متا از اظهار نظر در مورد این اطلاعیه به Engadget خودداری کرد و این شرکت بلافاصله به درخواست The Verge برای اظهار نظر پاسخ نداد.

اگرچه هوش مصنوعی هنوز در مراحل ابتدایی خود است، اما ما قبلاً طعم اطلاعات نادرست تولید شده توسط هوش مصنوعی را چشیده‌ایم که در اوایل امسال تصویری از پاپ با یک ژاکت پف‌دار در سراسر رسانه‌های اجتماعی منتشر کرد. در این مورد، تصویر نسبتاً بی‌خطر در نهایت به عنوان یک اطلاعات نادرست شناسایی شد، اما به عنوان هشداری دیده شد که ابزارهای ساده‌ای وجود دارند که در صورت استفاده از آن‌ها برای تصاویر ماهواره‌ای و عکس‌های سیاسی، اطلاعات نادرست و خطرناک را گسترش می‌دهند.

اخیراً متا الگوریتم بزرگ زبانی خود به نام LLaMA 2 را به صورت منبع باز منتشر کرده است، اما هنوز ویژگی‌های هوش مصنوعی تولیدی برای محصولات خود مانند اینستاگرام را به صورت گسترده منتشر نکرده است. با این حال، چندین نشانه از نوع ویژگی‌هایی که در حال توسعه آن‌ها است را داریم. به گزارش Axios، در یک جلسه کارکنان در ماه ژوئن، مارک زاکربرگ، مدیر عامل متا، گفت که این شرکت ویژگی‌هایی مانند استفاده از پیام‌های متنی برای ویرایش تصاویر در Instagram Stories را توسعه می‌دهد. همچنین، محقق برنامه، Paluzzi، نشانه‌هایی از ویژگی “AI brush” را در Instagram مشاهده کرده است که می‌تواند “بخش‌های خاصی را اضافه یا جایگزین کند”. Financial Times اخیراً گزارش داد که متا می تواند یک ویژگی “personas” ربات چت هوش مصنوعی را در ماه آینده در محصولات خود ادغام کند.

علاوه بر متا، گوگل قبلاً ابزار جدیدی را معرفی کرده است که باید به کاربران کمک کند تا بفهمند آیا یک تصویر با استفاده از هوش مصنوعی تولید شده است یا خیر. ویژگی ““About this image” در تابستان راه‌اندازی خواهد شد و برای برجسته کردن اولین مکانی که تصویر توسط این موتور جستجو شناسایی شده است، طراحی شده است که راهنمایی‌های حیاتی در مورد منشأ تصویر را فراهم می‌کند.