فهرست مطالب
سیستم‌های ایمنی Claude گفت‌وگوی تهدیدآمیز یک زن فلوریدایی درباره تیراندازی را شناسایی کردند و پس از بررسی انسانی، مقام‌ها او را بازداشت کردند.
به گزارش سرویس هوش مصنوعی تکناک،هوش مصنوعی با سرعت زیادی در حال ورود به زندگی روزمره است، چه کاربران این موضوع را بپذیرند و چه نه.
تقریباً همه شرکت‌های فعال در حوزه هوش مصنوعی، چت‌باتی ارائه می‌کنند که کاربران می‌توانند با زبان طبیعی با آن تعامل داشته باشند و برای انجام کارهای مختلف از آن کمک بگیرند.
اکنون زنی در فلوریدا پس از صراحت بیش از حد در گفت‌وگویی با Claude با پیامدهای قضایی مواجه شده است.
به گزارش Gulf Coast News، کارلی میشل هلر، ۳۰ ساله و ساکن بونیتا اسپرینگز در فلوریدا، با اتهام کیفری مواجه شده است.
طبق گزارش‌ها، اواخر ماه گذشته مشخص شد که او در حال گفت‌وگو درباره برنامه خود برای تیراندازی در دفتر کلانتری بوده است.
هلر در پیام‌های بعدی به Claude گفته بود که یک اسلحه نیز تهیه کرده و از عباراتی استفاده کرده بود که نشان می‌داد این مرحله را نوعی «آخرین فرصت» پیش از اجرای نقشه خود می‌داند.
شناسایی گفت‌وگوی مشکوک توسط سیستم‌های ایمنی Claude
بسیاری از کاربران تصور می‌کنند گفت‌وگوهایشان با چت‌بات‌ها کاملاً خصوصی است، اما چنین گفت‌وگوهایی لزوماً از نظارت سیستم‌های ایمنی شرکت‌های هوش مصنوعی خارج نیستند.
این شرکت‌ها سازوکارهایی برای شناسایی پیام‌های مشکوک و تهدیدهای مرتبط با فعالیت‌های آسیب‌زا ایجاد کرده‌اند.
در این پرونده، سیستم‌های ایمنی Anthropic بر اساس پیام‌های هلر تهدیدهای قابل‌توجهی را شناسایی کردند.
این گفت‌وگوها سپس برای بررسی انسانی ارجاع داده شدند. پس از بررسی انسانی، اطلاعات مرتبط در اختیار مقام‌های مسئول قرار گرفت و نیروهای انتظامی هلر را در خانه‌اش «بدون هیچ حادثه‌ای» بازداشت کردند.
بیشتر بخوانید: هوش مصنوعی Claude یک سیستم آنزیمی ناشناخته کشف کرد
اتهام کیفری و وضعیت پرونده هلر
هلر به نقض درجه دوم قانون کیفری فلوریدا، ماده ۸۳۶.۱۰، متهم شده است. این ماده به انتشار یا انتقال تهدید الکترونیکی حاوی تهدید به قتل یا وارد کردن آسیب جسمی مربوط می‌شود و مواردی مانند تیراندازی جمعی یا اقدامات تروریستی را نیز دربر می‌گیرد.
با این حال، باید توجه داشت که در حال حاضر تنها اتهام علیه هلر مطرح شده و هنوز حکمی برای او صادر نشده است.
وکلای هلر ممکن است استدلال کنند که او تهدیدها را به شکلی منتقل نکرده که فرد دیگری آنها را دریافت یا مشاهده کند و در نهایت نیز اقدامی بر اساس افکار خود انجام نداده است.
هنوز مشخص نیست پرونده در ادامه چه مسیری را طی خواهد کرد و نتیجه نهایی آن چه خواهد بود.
بیشتر بخوانید: Claude به هک OpenAI کمک کرد؛ کشف آسیب‌پذیری‌‌های متعدد
