فهرست مطالب
آنتروپیک سامانه‌ای برای رصد اعتراض‌های ضد هوش مصنوعی و پیش‌بینی تهدیدها می‌سازد و برخی گفت‌وگوهای Claude را نیز به پلیس گزارش کرده است.
به گزارش سرویس هوش مصنوعی تکناک،نشریه American Prospect نخستین بار خبر مربوط به سامانه آنتروپیک را منتشر کرد.
این نشریه با مقام‌های ارشد امنیتی آنتروپیک گفت‌وگو کرده و با بررسی آگهی‌های استخدامی این شرکت، تصویری از ابعاد این سامانه به دست آورده است.
بر اساس گزارش این نشریه، آنتروپیک علاوه بر زیر نظر گرفتن اعتراض‌های اطراف دفاتر خود، رویکردی شبیه «پیشگیری از جرم پیش از وقوع» را برای شناسایی ناآرامی‌های احتمالی دنبال می‌کند.
American Prospect برای توضیح این رویکرد به حادثه‌ای اشاره کرده است که Keon Ellison و Zach Melvin، مدیران عملیات امنیتی آنتروپیک، به همراه James Neufeld، مدیرعامل شرکت Samdesk، آن را مطرح کرده‌اند.
Ellison گفت: «سال گذشته یکی از مدیران اجرایی ما به یک شهر بزرگ سفر کرده بود که از طریق Samdesk اطلاعاتی درباره یک اعتراض برنامه‌ریزی‌شده دریافت کردیم. » به گفته او، زمان برگزاری اعتراض به دلیل اشتباه در مجوزهای پلیس یک ساعت جلو افتاد و Samdesk حدود ۶۰ دقیقه زودتر به تیم امنیتی اطلاع داد که برگزارکنندگان زمان اعتراض را تغییر داده‌اند.
Ellison ادامه داد: «آن یک ساعت بسیار مهم بود. بدون آن، مدیران اجرایی ما جلسات خود را ترک می‌کردند و مستقیماً وارد مرکز ناآرامی می‌شدند.
چیزی که می‌توانست به یک موقعیت بسیار پراسترس تبدیل شود، با شناسایی زودهنگام از طریق Samdesk و ارائه این اطلاعات، تا حد زیادی مدیریت شد.»
نظارت پیش‌دستانه بر اعتراض‌ها
فراتر از پیش‌بینی اعتراض‌ها، مواردی نیز وجود داشته است که آنتروپیک گفت‌وگوهای انجام‌شده با چت‌بات هوش مصنوعی Claude را به پلیس گزارش کرده است.
با وجود افزایش درخواست‌ها برای تقویت سازوکارهای ایمنی مدل‌های زبانی بزرگ، رویکرد آنتروپیک در این زمینه پرسش‌برانگیز توصیف شده است.
San Francisco Standard در ماه اوت گزارش داد که آنتروپیک پس از آنکه مردی در سان‌فرانسیسکو به Claude گفته بود یک تفنگ در اختیار دارد و مدیرعامل شرکت، Dario Amodei، را در تیررس خود قرار داده است، موضوع را به پلیس گزارش کرد.
با این حال، زمانی که آنتروپیک این گفت‌وگو را به پلیس منطقه خلیج سان‌فرانسیسکو گزارش داد، شرکت حاضر نشد متن مکالمات آن مرد را در اختیار پلیس قرار دهد.
American Prospect این موضوع را به‌عنوان گزارشی بدون ارائه شواهد ملموس درباره تخلف توصیف کرده است.
بیشتر بخوانید: آنتروپیک کنترل کلیدهای رمزنگاری را برای مشتریان فراهم کرد
حرکت از واکنش به پیش‌بینی تهدیدها
مدیر امنیتی آنتروپیک درباره هدف این رویکرد گفت: «هدف این است که عملیات از دریافت اطلاعات واکنشی به سمت جمع‌آوری اطلاعات پیش‌دستانه، پیش‌بینانه و پیشگیرانه برای تعامل و مدیریت تهدیدها حرکت کند. چنین سطحی از بلوغ عملیاتی برای حفاظت از اهداف باارزش در هر صنعتی منطقی است.»
بر اساس این توضیحات، آنتروپیک قصد دارد با استفاده از اطلاعات جمع‌آوری‌شده، تهدیدهای احتمالی را پیش از وقوع شناسایی و مدیریت کند.
این رویکرد، نظارت بر فعالیت‌های اعتراضی اطراف دفاتر شرکت و بررسی اطلاعات مرتبط با تهدیدهای احتمالی را در بر می‌گیرد.
بیشتر بخوانید: GPT-6 Astra یک میلیاردی OpenAI در کدنویسی مغلوب Fable 5.1 آنتروپیک شد
