تیکتاک با آزمایش یک ابزار جدید، به سازندگان محتوا کمک میکند استفاده غیرمجاز از چهره آنها در ویدئوهای تولیدشده با هوش مصنوعی را شناسایی کنند.
به گزارش سرویس شبکههای اجتماعی تکناک، تیکتاک آزمایش ابزار شناسایی چهره تیکتاک را آغاز کرده است؛ قابلیتی که برای مقابله با سوءاستفاده از چهره کاربران در محتوای تولیدشده با هوش مصنوعی طراحی شده و در مرحله نخست تنها در اختیار گروه محدودی از تولیدکنندگان محتوای آمریکایی قرار گرفته است.
این قابلیت بهصورت اختیاری فعال میشود و کاربران برای استفاده از آن باید هویت خود را با ارسال تصویر سلفی و مدرک شناسایی تأیید کنند. فرایند احراز هویت توسط شرکت Jumio انجام میشود و تیکتاک اعلام کرده است که مدارک هویتی کاربران ذخیره نمیشوند و دادههای چهره فقط برای شناسایی نمونههای احتمالی سوءاستفاده مورد استفاده قرار میگیرند.
پس از تکمیل احراز هویت، ابزار شناسایی چهره تیکتاک ویدئوهای منتشرشده در پلتفرم را بررسی میکند تا محتوایی را که احتمالاً با استفاده از هوش مصنوعی و بدون اجازه از چهره کاربر ساخته شده است، شناسایی کند. در صورت یافتن چنین ویدئوهایی، کاربر میتواند آنها را مشاهده و مستقیماً برای بررسی و حذف به تیکتاک گزارش دهد.
عرضه این قابلیت در شرایطی انجام میشود که استفاده از فناوریهای تولید تصویر و ویدئوی مبتنی بر هوش مصنوعی، نگرانیها درباره ساخت دیپفیک و سوءاستفاده از هویت دیجیتال افراد را افزایش داده است. شبکههای اجتماعی نیز بهدنبال توسعه ابزارهایی هستند که بتوانند از تولیدکنندگان محتوا و افراد مشهور در برابر این تهدید محافظت کنند.
تیکتاک اعلام کرده است که این قابلیت فعلاً در مرحله آزمایشی قرار دارد و تنها تعداد محدودی از تولیدکنندگان محتوا در آمریکا به آن دسترسی دارند. هنوز مشخص نیست این ویژگی چه زمانی برای همه کاربران در کشورهای مختلف عرضه خواهد شد.
