شرکت OpenAI در تازه‌ترین اقدام خود و هم‌زمان با راه‌اندازی اپلیکیشن جدید Sora، تولید دیپ‌فیک افراد مشهور زنده را ممنوع اعلام کرده است.
به گزارش تکناک، به نظر می‌رسد که این قانون شامل افراد مشهور درگذشته نمی‌شود؛ موضوعی که هم‌زمان با انتشار نخستین ویدیوهای کاربران از چهره‌هایی مانند مایکل جکسون، باب راس و توپاک شکور، واکنش‌های گسترده‌ای را برانگیخته است.
اپلیکیشن Sora، که نخستین پلتفرم اجتماعی رسمی شرکت OpenAI به حساب می‌آید، به کاربران اجازه می‌دهد تنها با چند دستور متنی، ویدیوهایی کاملاً واقعی و مبتنی بر هوش مصنوعی تولید کنند. از زمان عرضه نسخه دعوتی آن برای iOS، برخی کاربران با استفاده از این ابزار اقدام به بازسازی چهره و حرکات افراد مشهور کرده‌اند. ویدیوهای تولیدشده از خوانندگان و هنرمندان درگذشته نه‌تنها از لحاظ ظاهری بلکه از نظر صدا، حالت چهره و حتی حرکات بدن به‌طرز چشمگیری واقعی به نظر می‌رسند. برخی از این کلیپ‌ها شامل موسیقی‌های دارای مجوز رسمی نیز هستند.
این مسئله باعث شد که برخی از کاربران و کارشناسان حوزه فناوری، نسبت به نقض خط‌مشی اعلامی شرکت OpenAI در زمینه جلوگیری از بازنمایی چهره‌های عمومی، پرسش‌هایی مطرح کنند. شرکت در پاسخ به این نگرانی‌ها به نشریه PCMag گفته است: «ما نظری برای افزودن نداریم، اما اجازه تولید ویدیو از چهره‌های تاریخی را می‌دهیم.»
به بیان دیگر، شرکت OpenAI بازسازی دیجیتالی افراد درگذشته را بخشی از «بازنمایی تاریخی» می‌داند و آن را مغایر با سیاست‌های منع دیپ‌فیک تلقی نمی‌کند.
با وجود این، کارشناسان هشدار می‌دهند که مرز میان بازسازی هنری و سوءاستفاده از چهره افراد، بسیار باریک است. به‌ویژه زمانی که این ویدیوها بتوانند احساسات، حرکات و حتی صدای افراد را با دقتی بالا تقلید کنند. این نگرانی زمانی پررنگ‌تر میشود که بدانیم برخی کاربران ممکن است چنین ویدیوهایی را به‌اشتباه به عنوان اسناد واقعی تاریخی تلقی کنند، یا از آنها برای انتشار اطلاعات گمراه‌کننده استفاده شود.
همچنین اپلیکیشن Sora در کنار چهره‌های واقعی، امکان تولید ویدیو از شخصیت‌های خیالی و فرهنگی محبوب مانند Mario از دنیای نینتندو یا SpongeBob SquarePants از نیکلودئون را فراهم کرده است. کارشناسان حقوقی معتقد هستند که این ویژگی می‌تواند در آینده برای شرکت OpenAI پرونده‌های متعددی مرتبط با نقض حقوق مالکیت فکری در پی داشته باشد.
با وجود این چالش‌ها، قابلیت‌های گسترده و نتایج حیرت‌انگیز اپلیکیشن Sora باعث شده است که بسیاری از کاربران و تحلیلگران از آن به عنوان رقیب بالقوه TikTok یاد کنند. این پلتفرم اکنون در مرحله آزمایشی قرار دارد و فعلاً تنها برای کاربران دعوت‌شده در سیستم‌عامل iOS در دسترس است.
شرکت OpenAI به منظور کاهش خطرات احتمالی اعلام کرده است که تمام ویدیوهای تولیدشده در Sora دارای واترمارک هستند تا از تشخیص و تمایز میان محتوای واقعی و تولیدشده توسط هوش مصنوعی اطمینان حاصل شود. همچنین ساخت ویدیو از چهره‌های زنده تنها در صورتی مجاز است که خود شخص از طریق قابلیت Cameo اجازه استفاده از تصویر را داده باشد.
این تصمیم در حالی گرفته شده است که پیش‌تر شرکت گوگل نیز در زمینه تولید محتوای تصویری توسط هوش مصنوعی با حاشیه روبه‌رو شده بود. مدل تصویری گوگل سال گذشته تصاویری تاریخی تولید کرد که در آن، شخصیت‌هایی با ویژگی‌های نژادی غیرواقعی مانند یک پدر بنیان‌گذار سیاه‌پوست یا سربازان آسیایی در ارتش آلمان ۱۹۲۹ به نمایش درآمده بودند. پس از انتقادات گسترده، گوگل تولید تصاویر انسان‌محور را برای مدتی متوقف کرد تا به گفته خود، «بهبودهای فنی لازم» را اعمال کند.
اکنون به نظر می‌رسد که شرکت OpenAI نیز با تصمیم تازه خود در خط باریکی میان آزادی خلاقیت هنری و مسئولیت اخلاقی در بازنمایی چهره انسان‌ها حرکت می‌کند. در حالی که این فناوری می‌تواند دریچه‌ای تازه به روایت تاریخ، سرگرمی و آموزش بگشاید، اما خطر تبدیل شدن آن به ابزاری برای جعل واقعیت یا تحریف حافظه جمعی نیز وجود دارد.
