هوش مصنوعی سرکش، اتحادیه اروپا را پای میز مذاکره با OpenAI کشاند

01

از 02

الزام مذاکرات با OpenAI و آنتروپیک

مرتبط: هوش مصنوعی سرکش OpenAI یک شرکت دیگر را هدف گرفت

شرکت آنتروپیک روز پنجشنبه اعلام کرد که برخی از مدل‌های کلود این شرکت در جریان آزمایش‌های امنیت سایبری موفق شده‌اند به زیرساخت‌های سه شرکت نفوذ کنند؛ موضوعی که تنها چند روز پس از افشای رفتار خارج از کنترل یکی از عامل‌های هوش مصنوعی OpenAI مطرح شد. به گفته مقام‌های کمیسیون اروپا، هر دو شرکت پیش از انتشار عمومی این حوادث، گزارش‌های اولیه را در اختیار این نهاد قرار داده‌اند. یکی از مقام‌های کمیسیون اروپا عنوان کرد: «دو شرکت پیش از رسانه‌ای شدن این حوادث، به‌ صورت دوجانبه ما را در جریان قرار دادند. همچنان با آنها در ارتباط هستیم و اطلاعات تکمیلی نیز دریافت خواهیم کرد. پس از بررسی، درباره لزوم پیگیری رسمی این پرونده‌ها تصمیم‌گیری می‌کنیم.» مقام دیگری نیز تاکید کرد که این رخدادها اهمیت اجرای کامل الزامات نظارتی قانون هوش مصنوعی اتحادیه اروپا را برجسته می‌کند و توسعه‌دهندگان باید سازوکارهای پایش مستمر و مدیریت ریسک را در تمامی مراحل توسعه و استقرار سامانه‌های خود به‌کار گیرند.

برای مطالعه بیشتر: شرکت OpenAI قیمت مدل‌های هوش مصنوعی GPT-5.6 Luna و Terra را کاهش داد

02

از 02

قانون هوش مصنوعی اتحادیه اروپا چیست؟

مطابق قانون هوش مصنوعی اتحادیه اروپا، ارائه‌دهندگان مدل‌های هوش مصنوعی عمومی پیشرفته (GPAI) و مدل‌های پایه دارای ریسک سیستمی موظف‌ هستند مخاطرات ناشی از آسیب‌های گسترده، از جمله تهدیدهای شیمیایی، زیستی و هسته‌ای، جرائم سایبری، دستکاری‌های مخرب، نقض حقوق بنیادین، تهدید امنیت سایبری اروپا و احتمال عملکرد هوش مصنوعی خارج از کنترل انسان را شناسایی و مدیریت کنند. بر اساس این قانون، جریمه تخلفات بسته به نوع نقض مقررات، از ۷.۵ میلیون یورو یا ۱.۵ درصد از گردش مالی شرکت آغاز می‌شود و می‌تواند تا ۳۵ میلیون یورو یا ۷ درصد از درآمد جهانی سالانه شرکت افزایش یابد.