فهرست مطالب
شرکت آنتروپیک در گزارش تازه خود از مسدود کردن پنج مورد سوءاستفاده از هوش مصنوعی کلاد برای پژوهش‌های خطرناک پیرامون ویروس‌ها و ترکیبات سمی خبر داد
به گزارش سرویس اخبار هوش مصنوعی تکناک، آنتروپیک در جدیدترین گزارش خود از پنج مورد سوءاستفاده بالقوه از کلاد خبر داده است که در آنها کاربران از این مدل برای انجام پژوهش‌هایی درباره ویروس‌ها و سموم استفاده کرده‌اند. این شرکت اعلام کرد فعالیت‌های شناسایی‌شده بین نوامبر ۲۰۲۵ تا سپتامبر ۲۰۲۶ انجام شده و برخی از آنها می‌توانستند به توسعه عوامل بیماری‌زا یا ترکیبات سمی منجر شوند.
تشخیص نیت واقعی درخواست‌های مرتبط با زیست‌شناسی برای شرکت‌های هوش مصنوعی دشوار است، زیرا یک پرس‌وجو می‌تواند با هدف تولید واکسن، ایجاد سازوکارهای دفاعی یا پیش‌بینی نحوه انتشار ویروس مطرح شود. با این حال، همین درخواست‌ها ممکن است برای افزایش توانایی یک عامل بیماری‌زا نیز به کار بروند. آنتروپیک اعلام کرده است که به‌دلیل همین خطر، مدل‌های جدید خود را با سازوکارهای حفاظتی قوی‌تری عرضه کرده است.
سوءاستفاده نظامی در پوشش پروپوزال دانشگاهی
سه مورد از پنج پرونده به ویروس‌ها مربوط می‌شد. در نخستین پرونده، فردی در قالب درخواست کمک برای تهیه یک پیشنهاد مالی پژوهشی، به‌دنبال راه‌هایی برای افزایش جهش‌پذیری و قدرت بیماری‌زایی ویروس chikungunya بود. اگرچه این درخواست ظاهراً به پژوهشگران غیرنظامی مربوط می‌شد، آنتروپیک متوجه شد که تحقیقات قرار است در یک مرکز نظامی انجام شود. درخواست‌ها از طریق یک پلتفرم واسط LLM ارسال شده بودند که هم با نهادهای نظامی و هم با موسسه‌های غیرنظامی همکاری داشت. این پلتفرم با عبور دادن ترافیک از زیرساخت‌های آمریکا، استفاده از فروشندگان بازار خاکستری و ارائه خدمات به مشتریانی که قصد دور زدن محدودیت‌های محتوایی داشتند، تلاش می‌کرد منشأ فعالیت‌ها را پنهان کند.
در پرونده دوم، یک پژوهشگر خارج از آمریکا درباره سازگاری آنفولانزای پرندگان (avian flu) با پستانداران و احتمال ایجاد بیماری در اندام‌هایی غیر از دستگاه تنفسی تحقیق می‌کرد. از آنجا که این ویروس نرخ مرگ‌ومیر بالایی دارد و ایمنی جمعی در برابر آن محدود است، چنین پژوهشی می‌توانست به کشف روش‌هایی برای افزایش قابلیت انتقال ویروس بین انسان‌ها منجر شود. این فرد از نام کاربری تصادفی، سرویس ایمیل خصوصی و VPS برای دسترسی به کلاد استفاده کرده بود.
مرتبط: آنتروپیک چین را به دزدی هوش مصنوعی متهم کرد
آزمایش ژنتیکی روی خانواده ویروس‌های آبله
پرونده سوم نیز به درخواست تهیه پیشنهاد مالی درباره orthopoxvirusها، خانواده‌ای شامل ویروس‌های آبله (smallpox) و Mpox، مربوط می‌شد. این پژوهش بر آزمایش زنده، امکانات مهار ویروس و تغییرات ژنتیکی برای دور زدن ایمنی تمرکز داشت و از طریق یک سرویس فروش مجدد، ایمیل تصادفی و زیرساخت آمریکا انجام می‌شد.
به نقل از تامز هاردور، دو پرونده پایانی به سموم اختصاص داشتند. در یکی از آنها، کاربر پپتیدهای سمی گونه‌های مختلف جانوری را بررسی و برنامه‌ای برای بهینه‌سازی ویژگی‌های سمی آنها ایجاد کرده بود. هرچند هدف اعلام‌شده تولید مسکن و داروهای ضدافسردگی بود، داده‌ها می‌توانستند برای ساخت ترکیبات زیان‌بار نیز استفاده شوند. در پرونده پنجم، پژوهشگری نظری تلاش داشت سموم مختلف را برای اهداف درمانی بازطراحی کند، اما کار او شامل زیرواحدی از یک سم باکتریایی و پروتئینی از ویروس تب خونریزی‌دهنده بود که در فهرست بیماری‌های خطرناک و همه‌گیری‌زای سازمان جهانی بهداشت قرار دارند.
آنتروپیک در هر پنج مورد دسترسی حساب‌های مشکوک را قطع و در یکی از پرونده‌ها اطلاعات را با مقام‌های دولتی به اشتراک گذاشت.
