با وجود قوانین سختگیرانه، برنامههای Nudify در گوگل پلی و اپ استور همچنان فعال هستند و نگرانیها درباره امنیت کاربران افزایش یافتهاند.
به گزارش سرویس نرمافزار تکناک، تحقیقی جدید و بحثبرانگیز نشان میدهد که فروشگاههای برنامه گوگل پلی و اپ استور اپل با وجود قوانین سختگیرانه خود، میزبان دهها برنامه موسوم به Nudify بودهاند. این برنامهها با استفاده از هوش مصنوعی بهصورت دیجیتالی لباسها را از تصاویر افراد حذف میکنند و آنها را بهصورت برهنه به نمایش میگذارند. این مسئله نگرانیهای جدی را درباره سوءاستفاده از فناوری و مسئولیتپذیری شرکتهای فناوری ایجاد کرده است.
پروژه شفافیت (TTP)، گروهی وابسته به دانشکده دولتی کندی در دانشگاه هاروارد، این تحقیق را انجام داده است. محققان TTP توانستند ۵۵ برنامه از این نوع را در فروشگاه گوگل پلی و ۴۷ برنامه را در اپ استور اپل شناسایی کنند. این گروه تأکید میکند که تمامی این برنامهها قوانین و خطمشیهای داخلی گوگل و اپل را نقض کردهاند.
براساس گزارش TTP، برنامههای شناساییشده درمجموع بیش از ۷۰۵ میلیون بار در سراسر جهان دانلود شدهاند و ازطریق آنها ۱۱۷ میلیون دلار درآمد کسب شده است. این درآمد براساس دادههای شرکت تحلیل برنامهها، AppMagic، تخمین زده شده است. TTP در گزارش خود نوشت: «ازآنجاکه گوگل و اپل سهمی از این درآمد را دریافت میکنند، مستقیماً از فعالیت این برنامهها سود میبرند.» این موضوع ابهامهای بیشتری را درباره نظارت ناکافی و منافع مالی احتمالی این شرکتها ایجاد میکند.
در پی انتشار گزارش TTP، هر دو شرکت اپل و گوگل واکنش نشان دادهاند. اپل به CNBC اعلام کرده است که ۲۸ برنامه از برنامههای شناساییشده در گزارش TTP را حذف کرده است. گوگل نیز به این نشریه گفته است که چندین برنامه را به حالت تعلیق درآورده و تأکید کرده است که تحقیقاتش در این زمینه ادامه دارد. بااینحال، TTP معتقد است که اقدامهای انجامشده کافی نیست و هر دو فروشگاه برنامه به انجام اقدامهای بیشتری برای جلوگیری از انتشار تصاویر غیرقانونی و جعلی نیاز دارند.
گزارش TTP در پی جنجالهای اخیر درباره ایلان ماسک و چتبات هوش مصنوعی گراک (Grok) از شرکت xAI منتشر میشود. گراک نیز بهدلیل تولید تصاویر جنسی و غیرقانونی در چندین کشور با تحقیقاتی روبهرو شده است. تحقیقات ماشابل نشان داده بود که گراک فاقد حفاظهای ایمنی اولیه برای جلوگیری از انتشار چنین تصاویری است. علاوهبراین، محققان اعلام کردهاند که گراک بیش از ۳ میلیون تصویر جنسی، ازجمله بیش از ۲۰ هزار تصویر مرتبط با کودکان را در یک دوره ۱۱ روزه بین ۲۹ دسامبر و ۸ ژانویه تولید کرده است.
به نقل از ماشابل، با طلوع عصر هوش مصنوعی، تولید و انتشار تصاویر جعلی جنسی به مشکلی بزرگ و روبهرشد برای شرکتهای فناوری تبدیل شده است. این رویدادها بر ضرورت توسعه سریعتر و قویتر سیستمهای نظارتی و حفاظتی در پلتفرمهای دیجیتال تأکید میکنند تا از سوءاستفادههای مخرب از هوش مصنوعی جلوگیری شود. فقدان نظارت دقیق میتواند عواقب اجتماعی و اخلاقی جبرانناپذیری بهدنبال داشته باشد و به اعتبار شرکتهای فناوری خدشه وارد کند.
