فهرست مطالب
گروهی از طراحان و پژوهشگران علوم کامپیوتر فونت ضد هوش مصنوعی ساخته‌اند که برای انسان قابل خواندن است، اما ربات‌ها و سامانه‌های خودکار را دچار اشتباه می‌کند.
به گزارش سرویس هوش مصنوعی تکناک، یکی از نمونه‌های جالب این فناوری Decoy Font نام دارد. این فونت از یک ترفند بصری استفاده می‌کند تا دو پیام متفاوت را در یک تصویر متنی قرار دهد. در نتیجه، انسان و مدل هوش مصنوعی ممکن است از یک نوشته، پیام‌های کاملا متفاوتی دریافت کنند.
با گسترش استفاده از هوش مصنوعی در موتورهای جست‌وجو، پیام‌رسان‌ها و ابزارهای تولید محتوا، نگرانی درباره جمع‌آوری و استفاده از نوشته‌های انسانی نیز افزایش یافته است، در هین راستا پژوهشگران به سراغ این راهکار متفاوت رفته‌اند.
بیشتر بخوانید: چرا ریاضی‌دان ها با آزمایشگاه‌های هوش مصنوعی درگیر شده‌اند؟
فونت Decoy Font چگونه هوش مصنوعی را فریب می‌دهد؟
ایده اصلی Decoy Font بر پایه یک خطای دید شناخته‌شده شکل گرفته است. این فونت دو لایه متنی را روی یکدیگر قرار می‌دهد. یک پیام با خطوط واضح در بخش جلویی دیده می‌شود و پیام دوم به صورت تیره‌تر و محو در پس‌زمینه قرار دارد.
برای مثال، در یکی از نمونه‌ها، هوش مصنوعی ممکن است عبارت «Day Dream» را تشخیص دهد، درحالی‌که انسان می‌تواند پیام «Pay Bills» را نیز در پشت آن مشاهده کند.
این روش از مفهوم تصاویر ترکیبی الهام گرفته است؛ تکنیکی که در آن بسته به فاصله یا نحوه مشاهده، دو تصویر متفاوت قابل تشخیص هستند. با این تفاوت که هدف مطالعه بینایی انسان نیست، بلکه محافظت از نوشته‌های انسانی در برابر سامانه‌های خودکار است.
Ghost Font؛ تلاش قبلی برای مقابله با ربات‌ها
پیش از Decoy Font، مجموعه MixFont پروژه دیگری با نام Ghost Font را آزمایش کرده بود. در این روش، کلمات متحرک روی پس‌زمینه‌ای شبیه نویز تلویزیونی قرار می‌گرفتند و هم متن و هم پس‌زمینه به‌طور مداوم تغییر می‌کردند.
Ghost Font در واقع یک فونت معمولی به حساب نمی‌آمد، زیرا پیام تنها در قالب ویدیو قابل خواندن بود. هرچند، این آزمایش نشان داد که می‌توان با استفاده از حرکت و خطاهای بصری، تشخیص متن را برای برخی سامانه‌های هوش مصنوعی دشوارتر کرد.
ایده این پروژه پس از تجربه شخصی اریک لو، بنیان‌گذار MixFont شکل گرفت. او از دخالت ابزارهای هوش مصنوعی در خلاصه‌سازی پیام‌های خصوصی و برداشت نادرست از محتوای آنها ناراضی بود و به دنبال راهی برای ایجاد ارتباطی رفت که سامانه‌های هوشمند نتوانند به‌سادگی همه چیز را بخوانند.
ShieldFont چگونه از نوشته‌های انسانی محافظت می‌کند؟
Decoy Font تنها پروژه فعال در زمینه فونت ضد هوش مصنوعی نیست. گروهی از استودیوهای طراحی از جمله Seneda & Abrucio و PlayType نیز به تازگی فونتی با نام ShieldFont معرفی کرده‌اند.
این فناوری با تغییر محتوای موجود در کد متن، تلاش می‌کند ربات‌های جمع‌آوری‌کننده اطلاعات را گمراه کند. بخشی از کلمات مهم از جمله اسم‌ها، فعل‌ها، صفت‌ها و قیدها در داده‌ای که سامانه‌های خودکار دریافت می‌کنند با واژه‌های تصادفی جایگزین می‌شوند.
در نتیجه، متن استخراج‌شده توسط ربات می‌تواند بی‌معنا باشد، درحالی‌که نسخه‌ای که انسان مشاهده می‌کند همچنان مفهوم اصلی خود را حفظ می‌کند. سازندگان ShieldFont بیان کردند که این روش برای جلوگیری از جمع‌آوری و استفاده بدون اجازه از نوشته‌های تولیدشده توسط انسان طراحی شده است.
بیشتر بخوانید: یک پژوهشگر : احتمال انقراض بشر به دست هوش مصنوعی وجود دارد
آیا فونت ضد هوش مصنوعی آینده حفاظت از محتوا است؟
ظهور Decoy Font و ShieldFont نشان می‌دهد طراحان به دنبال روش‌های جدیدی برای ایجاد مرز میان محتوای قابل مشاهده برای انسان و داده‌ای هستند که ربات‌ها می‌توانند جمع‌آوری کنند.
البته مشخص نیست چنین روش‌هایی تا چه اندازه در بلندمدت در برابر مدل‌های پیشرفته‌تر هوش مصنوعی مقاوم خواهند بود. سامانه‌های بینایی ماشین و فناوری تشخیص متن نیز دائما در حال پیشرفت هستند و احتمالا می‌توانند برخی از این ترفندها را در آینده شناسایی کنند.
با وجود این، توسعه فونت ضد هوش مصنوعی بحث مهمی را مطرح می‌کند: آیا نویسندگان و طراحان باید ابزارهایی در اختیار داشته باشند که مشخص کنند آثار آنها چگونه توسط ربات‌ها و مدل‌های هوش مصنوعی خوانده یا جمع‌آوری شود؟
در شرایطی که استفاده از داده‌های اینترنتی برای آموزش هوش مصنوعی به یکی از بحث‌برانگیزترین موضوعات دنیای فناوری تبدیل شده است، پروژه‌هایی مانند Decoy Font و ShieldFont می‌توانند آغازگر روش‌های تازه‌ای برای محافظت از محتوای انسانی باشند.
