فهرست مطالب
بیل سویرینگن، متخصص امنیت سایبری، یک سال کامل را صرف ساخت الگویی کرد که بتواند دوربینهای نظارتی خیابانی را از شناسایی افراد و اشیای پوشیدهشده با آن بازدارد.
به گزارش سرویس هوش مصنوعی تکناک، این متخصص پس از انجام حدود ۳۱ میلیون آزمایش مدعی است به الگویی دست یافته است که میتواند روی لباس یا اشیا قرار گیرد و توانایی برخی از رایجترین سامانههای تشخیص پلاک و دوربینهای هوشمند را برای شناسایی انسانها و خودروها مختل کند.
پروژه او به نام noRecognition با هدف مقابله با گسترش نظارت الگوریتمی طراحی شده است؛ فناوری که امروزه در بسیاری از نقاط جهان برای ردیابی خودروها، تشخیص چهره و تحلیل تصاویر دوربینهای امنیتی به کار میرود.
بیشتر بخوانید: هوش مصنوعی ۱۶ ویروس جدید ساخت که هرگز در طبیعت وجود نداشتهاند
دوربینهای مدرن دیگر تنها ابزار ضبط تصویر نیستند، آنها با کمک هوش مصنوعی میتوانند محتوای ویدیوها را تحلیل کنند و میان میلیونها تصویر، موارد خاص را شناسایی نمایند. اما الگوهای ساختهشده توسط سویرینگن تلاش میکنند این مرحله از تحلیل را مختل کنند. این فناوری دوربین را از ضبط تصویر بازنمیدارد، بلکه باعث میشود الگوریتم نتواند فرد، خودرو یا شیء مورد نظر را به درستی تشخیص دهد و در نتیجه سیستمهای هشدار خودکار فعال نشوند. سویرینگن بین کرده که هدف او ایجاد راهی برای افرادی است که نمیخواهند به صورت دائمی تحت ردیابی قرار بگیرند. او در گفتوگو با TechCrunch تاکید کرد: «حریم خصوصی یک حق اساسی است.»
برای مطالعه بیشتر: فرار مدل هوش مصنوعی چینی Kimi K3 از آزمایشهای امنیتی
پروژه noRecognition برای نخستین بار در کنفرانس امنیت سایبری Def Con در لاسوگاس آزمایش عمومی شد؛ جایی که سویرینگن نشان داد یک الگوی چاپشده روی خودرو میتواند در شرایط واقعی، عملکرد برخی سامانههای تشخیص نظارتی را مختل کند. این پژوهشگر امنیت سایبری که یکی از بنیانگذاران گروه SecKC در کانزاسسیتی است، عنوان کرد که افزایش تعداد دوربینهای نظارتی در شهرها نگرانیهای جدی درباره حریم خصوصی ایجاد کرده است. او اشاره کرد که بسیاری از مردم هرگز آگاهانه موافقت نکردهاند که تحت چنین سطحی از نظارت قرار بگیرند. همچنین سویرینگن تجربه شخصی خود را از نگرانی درباره دوربینهای نظارتی، یکی از دلایل آغاز این پروژه میداند. او بیان کرد که سال گذشته هنگام تصمیم برای حضور در یک تجمع اعتراضی، نگران بود تعداد زیاد دوربینها بتوانند شرکتکنندگان را ردیابی کنند. به گفته او، اگر یک فرد عادی چنین نگرانی داشته باشد، احتمالا افراد دیگری نیز هستند که به دلیل ترس از نظارت، از استفاده کامل از حقوق خود مانند آزادی بیان صرفنظر میکنند؛ موضوعی که او را به توسعه پروژه noRecognition ترغیب کرد.
01
از 02هوش مصنوعی علیه دوربینهای نظارتی
از زمانی که دوربینهای هوشمند توانایی تشخیص اشیا و افراد را پیدا کردند، تلاشها برای دور زدن این فناوری نیز آغاز شد. تاکنون پروژههای هنری، برندهای پوشاک و حتی سازندگان عینک، محصولاتی برای مقابله با تشخیص چهره معرفی کردهاند، اما بسیاری از آنها در عمل موفقیت چندانی نداشتهاند. بیل سویرینگن بیان کرده که پروژه noRecognition ادامه همین مسیر است؛ پروژهای که هدف آن ساخت الگوهایی است که بتوانند توانایی دوربینهای نظارتی در شناسایی افراد و اشیا را مختل کنند. او کار خود را با یک آزمایش ساده اثبات مفهوم آغاز کرد؛ تلاش برای شکست دادن الگوریتمهای مختلف تشخیص ویدیو که به صورت متنباز در دسترس بودند. اما این پروژه در طول یک سال با استفاده از قدرت پردازشی بیشتر و آزمایشهای گستردهتر تکامل یافت.
خبر پیشنهادی: دیتاسنتر آمازون با یکی از آلایندهترین نیروگاهها تغذیه می شود
در نهایت، سیستم او به یک مدل یادگیری تقویتی تبدیل شد؛ هوش مصنوعی که میتوانست تشخیص دهد کدام الگوها در برابر الگوریتمهای نظارتی موفق هستند و کدامیک نیاز به اصلاح دارند. به زبان ساده، سویرینگن به مدل خود یاد داده است که «چطور نقاشی کند.» این مدل پس از میلیونها آزمایش، توانست الگوهایی تولید کند که هر ۱۱ الگوریتم تشخیص متنباز مورد آزمایش را شکست میدهند؛ الگوریتمهایی که در برخی سامانههای واقعی مانند دوربینهای پلاکخوان Flock، دوربینهای پوشیدنی Axon و فناوری Clearview AI استفاده میشوند. اکنون این سیستم میتواند هر دقیقه الگوهای تازهای تولید کند؛ الگوهایی که به گفته سویرینگن از نظر ریاضی نسبت به نسخههای قبلی عملکرد بهتری دارند.
02
از 02آزمایش پروژه noRecognition
پروژه noRecognition در نخستین آزمایش واقعی در کنفرانس امنیت سایبری Def Con در لاسوگاس روی یک خودروی تویوتا یاریس مدل ۲۰۰۹ آزمایش شد. این خودرو با یکی از جدیدترین الگوهای طراحیشده پوشانده شد تا مشخص شود آیا دوربینهای Flock قادر به شناسایی آن هستند یا خیر. سویرینگن اعلام کرد که این آزمایش موفق بوده است، هرچند چرخهای خودرو همچنان یک نقطه ضعف محسوب میشدند. به گفته او، نمایش عمومی این فناوری نشان میدهد امکان مقابله با شناسایی الگوریتمی در محیطهای عمومی وجود دارد. اکنون هدف اصلی پروژه، رساندن این فناوری به افرادی است که نمیخواهند تحت ردیابی دائمی دوربینهای هوشمند قرار بگیرند.
پروژه noRecognition قصد دارد محصولات مجهز به این الگوها، مانند تیشرتها، هودیها و در آینده پوششهای مخصوص خودرو را عرضه کند. سویرینگن بیان کرد که این طراحیها باید علاوه بر عملکرد فنی، ظاهر جذابی هم داشته باشند تا شبیه یک محصول مدرن به نظر برسند. با وجود این، او قویترین الگوهای خود را عمومی نمیکند تا شرکتهای سازنده دوربین نتوانند به راحتی راه مقابله با آنها را پیدا کنند. در همین حال، مدل هوش مصنوعی او همچنان به تولید و بهبود الگوهای جدید ادامه میدهد. سویرینگن گفت: «هر بار که شکست میخوریم، مدل من بهتر میشود؛ بنابراین این الگوها در حال پیشرفت هستند.»
