هوش مصنوعی تولید ویدئو موضوعات حساس سیاسی را در چین سانسور می‌کند

یکی از مدل‌های هوش مصنوعی تولید ویدئو از نمایش ویدئوهای مرتبط با موضوعات سیاسی حساس در چین جلوگیری می‌کند. گفته می‌شود این مسئله به درخواست دولت چین بوده است.

به‌گزارش سرویس فناوری تک‌ناک، یکی از مدل‌های هوش مصنوعی تولید ویدئو که به‌تازگی دردسترس قرار گرفته است، به‌نظر می‌رسد موضوعات سیاسی حساس را در چین سانسور می‌کند.

این مدل هوش مصنوعی با نام Kling شناخته می‌شود و اوایل سال جاری، شرکت کویشا آن را برای کاربران چینی در‌دسترس قرار داده است. به‌نظر می‌رسد Kling فیزیک را مانند خش‌خش برگ‌ها و جریان آب تقریباً به خوبی مدل‌های تولید ویدئو مانند Gen-3 استارت‌آپ Runway و سورا (Sora) شرکت OpenAI شبیه‌سازی می‌کند.

تک‌کرانچ می‌نویسد که بااین‌حال Kling کاملاً از تولید کلیپ‌هایی درباره‌ی موضوعات خاص خودداری می‌کند. برای مثال، درخواست‌هایی مانند «دموکراسی در چین» و «رئیس‌جمهور چین، شی‌جین پینگ در حال پیاده‌روی در خیابان» و «تظاهرات میدان تیان آن من» با پیغام خطا مواجه می‌شوند.

ظاهراً فیلترینگ فقط در سطح دستور ورودی (پرامت) انجام می‌شود. Kling از انیمیت‌کردن تصاویر ثابت پشتیبانی می‌کند و بدون خطا ویدئویی از مثلاً پرتره‌ی شی‌جین پینگ تولید می‌کند؛ البته تا زمانی‌که دستور همراه آن، رئیس‌جمهور جین را با نام ذکر نکند (مثلاً شی‌جین پینگ در حال سخنرانی).

این رفتار Kling احتمالاً نتیجه‌ی فشار سیاسی شدید دولت چین بر پروژه‌های هوش مصنوعی مولد در منطقه است. اوایل این ماه، فایننشال تایمز گزارش داد که اداره‌ی سنجش فضای سایبری چین (CAC)، نهاد اصلی تنظیم‌کننده‌ی اینترنت چین، مدل‌های هوش مصنوعی را در چین آزمایش خواهد کرد.

براساس گزارش‌ها، CAC تا آنجا پیش رفته است که لیست سیاهی از منابعی را پیشنهاد کرده است که نمی‌توانند برای آموزش مدل‌های هوش مصنوعی استفاده شوند. شرکت‌هایی که مدل‌ها را برای بررسی ارسال می‌کنند، باید ده‌هاهزار سؤال طراحی کنند تا آزمایش کنند که مدل‌ها پاسخ‌های «امن» تولید می‌کنند یا خیر.

نتیجه‌ی این موضوع سیستم‌های هوش مصنوعی است که از پاسخ‌دادن به موضوعاتی خودداری می‌کنند که ممکن است خشم تنظیم‌کننده‌های چینی را برانگیزد. سال گذشته، بی‌بی‌سی دریافت که Ernie، چت‌بات پرچم‌دار شرکت چینی بایدو، از پاسخ به پرسش‌هایی که ممکن است به‌عنوان موضوع بحث‌برانگیز سیاسی تلقی شود، طفره می‌رود و منحرف می‌شود.

درپایان‌، باید بگوییم که سیاست‌های سخت‌گیرانه پیشرفت‌های هوش مصنوعی چین را کُند می‌کنند. آن‌ها نه‌تنها به جست‌وجوی داده‌ها برای حذف اطلاعات حساس سیاسی، بلکه به سرمایه‌گذاری زیادی از زمان توسعه در ایجاد موانع ایدئولوژیک نیاز دارند؛ موانع ایدئولوژیکی که ممکن است همچنان شکست بخورند، همان‌طور‌که Kling نمونه‌ای از آن است.