فهرست مطالب
کمیسیون اروپا اعلام کرد که در پی حوادث اخیر مربوط به نفوذ مدلهای هوش مصنوعی به سامانهها، مذاکراتی را با شرکتهای OpenAI و آنتروپیک آغاز کرده است.
به گزارش سرویس هوش مصنوعی تکناک، این نهاد همزمان اجرای قانون هوش مصنوعی اتحادیه اروپا را که نظارت سختگیرانه بر سامانههای پرریسک را الزامی میکند، گامی اساسی برای مدیریت مخاطرات این فناوری دانست. این قانون که از یازده مرداد وارد مرحله اجرا میشود، نخستین چارچوب جامع جهان برای تنظیم فعالیت سامانههای AI به حساب میآید. این قانون ارائهدهندگان برخی سامانههای هوش مصنوعی را ملزم میکند به طور شفاف اعلام کنند کاربران در حال تعامل با هوش مصنوعی هستند یا محتوای مشاهدهشده به وسیله این فناوری تولید یا دستکاری شده است.
بیشتر بخوانید: ابزار تولید تصویر در گوگل ارث حذف شد
الزام مذاکرات با OpenAI و آنتروپیک
مرتبط: هوش مصنوعی سرکش OpenAI یک شرکت دیگر را هدف گرفت
شرکت آنتروپیک روز پنجشنبه اعلام کرد که برخی از مدلهای کلود این شرکت در جریان آزمایشهای امنیت سایبری موفق شدهاند به زیرساختهای سه شرکت نفوذ کنند؛ موضوعی که تنها چند روز پس از افشای رفتار خارج از کنترل یکی از عاملهای هوش مصنوعی OpenAI مطرح شد. به گفته مقامهای کمیسیون اروپا، هر دو شرکت پیش از انتشار عمومی این حوادث، گزارشهای اولیه را در اختیار این نهاد قرار دادهاند. یکی از مقامهای کمیسیون اروپا عنوان کرد: «دو شرکت پیش از رسانهای شدن این حوادث، به صورت دوجانبه ما را در جریان قرار دادند. همچنان با آنها در ارتباط هستیم و اطلاعات تکمیلی نیز دریافت خواهیم کرد. پس از بررسی، درباره لزوم پیگیری رسمی این پروندهها تصمیمگیری میکنیم.» مقام دیگری نیز تاکید کرد که این رخدادها اهمیت اجرای کامل الزامات نظارتی قانون هوش مصنوعی اتحادیه اروپا را برجسته میکند و توسعهدهندگان باید سازوکارهای پایش مستمر و مدیریت ریسک را در تمامی مراحل توسعه و استقرار سامانههای خود بهکار گیرند.
برای مطالعه بیشتر: شرکت OpenAI قیمت مدلهای هوش مصنوعی GPT-5.6 Luna و Terra را کاهش داد
قانون هوش مصنوعی اتحادیه اروپا چیست؟
مطابق قانون هوش مصنوعی اتحادیه اروپا، ارائهدهندگان مدلهای هوش مصنوعی عمومی پیشرفته (GPAI) و مدلهای پایه دارای ریسک سیستمی موظف هستند مخاطرات ناشی از آسیبهای گسترده، از جمله تهدیدهای شیمیایی، زیستی و هستهای، جرائم سایبری، دستکاریهای مخرب، نقض حقوق بنیادین، تهدید امنیت سایبری اروپا و احتمال عملکرد هوش مصنوعی خارج از کنترل انسان را شناسایی و مدیریت کنند. بر اساس این قانون، جریمه تخلفات بسته به نوع نقض مقررات، از ۷.۵ میلیون یورو یا ۱.۵ درصد از گردش مالی شرکت آغاز میشود و میتواند تا ۳۵ میلیون یورو یا ۷ درصد از درآمد جهانی سالانه شرکت افزایش یابد.
