مایکروسافت ویژگی جدیدی برای بهبود ایمنی هوش مصنوعی معرفی کرد

شرکت مایکروسافت با معرفی ویژگی جدیدی به نام «اصلاح» گامی مهم در راستای افزایش دقت و ایمنی سیستم‌های هوش مصنوعی برداشت.

به گزارش سرویس فناوری تک‌ناک، این ویژگی که بخشی از پلتفرم Azure AI Studio است، به طور خودکار خروجی‌های نادرست تولیدشده توسط مدل‌های هوش مصنوعی را شناسایی و اصلاح می‌کند.

این ویژگی که برای تشخیص آسیب‌پذیری‌ها، یافتن توهمات و مسدود کردن درخواست‌های مخرب فعال می‌شود، با مقایسه خروجی مدل با داده‌های منبع، خطاها را تشخیص می‌دهد و سپس با ارائه توضیحی مختصر، محتوای نادرست را تصحیح می‌کند.

به این ترتیب، کاربران قبل از مشاهده هرگونه اطلاعات نادرست، از وجود و علت آن آگاه می‌شوند.

مدل‌های زبانی بزرگ اغلب اطلاعات نادرست یا گمراه‌کننده تولید می‌کنند که می‌تواند عواقب جدی داشته باشد. ویژگی اصلاح مایکروسافت با هدف کاهش این خطاها و افزایش اعتماد کاربران به سیستم‌های هوش مصنوعی طراحی شده است.

شرکت گوگل نیز ویژگی مشابهی را در پلتفرم Vertex AI خود ارائه کرده است، که با استفاده از جست‌وجوی گوگل و سایر منابع، دقت خروجی‌های مدل را بهبود می‌بخشد.

با وجود پیشرفت‌های قابل توجه، این فناوری هنوز کامل نیست و ممکن است در برخی موارد خطا داشته باشد.

سخنگوی مایکروسافت در مصاحبه‌ای با TechCrunch گفت: «این ابزار برای تضمین دقت طراحی نشده است، بلکه به همسو کردن خروجی‌های مدل با داده‌های منبع کمک می‌کند.»

ویژگی اصلاح مایکروسافت گامی رو به جلو در راستای توسعه سیستم‌های هوش مصنوعی ایمن‌تر و دقیق‌تر است. با وجود این، برای دستیابی به یک سیستم قابل اعتماد کامل، همچنان به تحقیقات و توسعه بیشتر نیاز است.