خطای هوش مصنوعی مدرسه در دستگیری دانشآموز در بالتیمور باعث شد تا پاکت چیپس او با اسلحه اشتباه گرفته و پلیس وارد عمل شود.
به گزارش تکناک، در حادثهای تکاندهنده که خطرات اتکای کورکورانه به فناوری را به تصویر میکشد، دانشآموزی دبیرستانی در بالتیمور پساز آنکه سیستم امنیتی هوش مصنوعی مدرسه پاکت چیپس او را با اسلحه اشتباه گرفت، بهدست نیروی پلیس دستگیر شد.
ماجرا از دوشنبهشب گذشته در دبیرستان کنوود آغاز شد. تاکی آلن، دانشآموز این مدرسه، پساز پایان تمرین فوتبال، بیرون از مدرسه منتظر بود تا به خانه برود. درحالیکه با دوستانش نشسته بود و یک پاکت چیپس میخورد، دوربینهای امنیتی مجهز به هوش مصنوعی شرکت «امنیلرت» (Omnilert) نحوه در دست گرفتن پاکت چیپس را بهعنوان تهدید مسلحانه شناسایی کردند.
تامزهاردور مینویسد که تنها ۲۰ دقیقه بعد، هشت خودرو پلیس به محوطه مدرسه هجوم آوردند. آلن که از همهجا بیخبر بود، ناگهان خود را در محاصره افسران مسلح دید. او در مصاحبه با شبکه خبری WBAL-TV 11 این لحظات را موقعیتی ترسناک توصیف کرد که در آن مجبور شد روی زانوهایش بنشیند و دستانش از پشت دستبند زده شد.
خیلی زود مشخص شد که کل این عملیات گسترده نتیجه خطای فاحش هوش مصنوعی بوده است. افسران پلیس تصویری که باعث این هشدار شده بود، به آلن نشان دادند. او با ناباوری توضیح داد:
من فقط یک پاکت چیپس در دست داشتم، با دو دست و یک انگشت بیرونزده. آنها گفتند که شبیه اسلحه به نظر میرسد.
شرکت امنیلرت، ارائهدهنده این سیستم تشخیص اسلحه، از اظهارنظر مستقیم درباره این حادثه خودداری کرده و آن را به رویههای داخلی مدرسه مرتبط دانسته است. بااینحال، بررسیهای وبسایت این شرکت نشان میدهد که فرایند تشخیص آنها قرار است سیستمی سهمرحلهای باشد: ابتدا هوش مصنوعی اسلحه را شناسایی و سپس عامل انسانی آن را تأیید میکند و در نهایت به نیروهای امنیتی اطلاع داده میشود.
این حادثه اکنون پرسشهای جدی درباره کارایی مرحله «تأیید انسانی» و مسئولیتپذیری چنین سیستمهایی مطرح میکند. مشخص نیست که ناظر انسانی نیز مانند هوش مصنوعی دچار خطا یا این مرحله بهطور کلی نادیده گرفته شده است.
این رویداد به داستانی هشداردهنده در عصر هوش مصنوعی تبدیل شده است. درحالیکه این فناوریها با وعده افزایش امنیت به بازار میآیند، این اتفاق نشان داد که خطای الگوریتمی بدون نظارت دقیق انسانی، میتواند میانوعدهای ساده را به عملیات پلیسی تمامعیار تبدیل و به شهروندان بیگناه آسیب جدی روحی و جسمی وارد کند.
