غول‌های فناوری به‌ دنبال ایجاد چارچوب هوش مصنوعی با کمک دولت هستند

کارکنان شرکت‌های پیشروی هوش مصنوعی از جمله OpenAI، آنتروپیک، گوگل، متا، مایکروسافت، میسترال و Thinking Machines با انتشار بیانیه‌ای از دولت آمریکا خواسته‌اند برای مدیریت سرعت توسعه هوش مصنوعی پیشرفته و ایجاد چارچوب نظارتی جهانی اقدام کند.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، امضاکنندگان این بیانیه هشدار داده‌اند که هوش مصنوعی می‌تواند آینده‌ای متحول‌کننده برای بشر رقم بزند، اما این نتیجه قطعی نیست. به گفته آنها، شرکت‌های بزرگ این حوزه ممکن است به‌ زودی به مرحله‌ای برسند که فرایند تحقیق و توسعه هوش مصنوعی تا حد زیادی توسط خود سیستم‌های هوش مصنوعی انجام شود؛ اتفاقی که می‌تواند سرعت پیشرفت این فناوری را به شکل چشمگیری افزایش دهد. آنها معتقد هستند اگر توانایی‌های مدل‌های هوش مصنوعی سریع‌تر از ظرفیت انسان‌ها برای درک، کنترل و ایمن‌سازی آنها رشد کند، خطرات قابل‌ توجهی ایجاد خواهد شد.

خبر پیشنهادی: ائتلاف جدید غول‌های فناوری برای امنیت هوش مصنوعی

مقابله با خطرات

مرتبط: چرا دفاع سایبری در برابر هوش مصنوعی اهمیت بیشتری پیدا کرده است؟

این درخواست پس از یک رخداد امنیتی کم‌سابقه در صنعت هوش مصنوعی مطرح شده است؛ جایی که یک مدل آزمایشی منتشرنشده از OpenAI توانست از محیط ایزوله داخلی خارج شود، به اینترنت دسترسی پیدا کند و به پایگاه داده مدل‌های هوش مصنوعی Hugging Face نفوذ نماید. کارکنان این شرکت‌ها در بیانیه خود تاکید کرده‌اند که رقابت فشرده میان آزمایشگاه‌های هوش مصنوعی نباید باعث شود توسعه فناوری از چارچوب ایمنی، نظارت و کنترل پیشی بگیرد. آنها خواستار همکاری دولت‌ها، شرکت‌ها و جامعه برای ایجاد زمان و فضای کافی جهت مقابله با خطرات جدید، توسعه استانداردهای امنیتی و تقویت نظارت شده‌اند.

بیشتر بخوانید: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد

ایجاد چارچوب بین‌المللی هوش مصنوعی ضروری است

در این بیانیه آمده است که هیچ شرکت یا کشوری به دلیل فشار رقابتی حاضر نیست به‌ صورت مستقل سرعت توسعه خود را کاهش دهد؛ بنابراین ایجاد ابزارهای فنی و چارچوب حکمرانی بین‌المللی برای مدیریت روند پیشرفت هوش مصنوعی پیشرفته ضروری است. در میان امضاکنندگان این بیانیه، چهره‌های مهمی از OpenAI مانند مارک چن، یاکوب پاچوکی، جان شولمن و وویچک زارمبا حضور دارند. از آنتروپیک نیز بنیان‌گذاران این شرکت، مدیر ارشد علمی آن و مدیران تیم‌های مرتبط با ایمنی و هم‌راستاسازی هوش مصنوعی این درخواست را امضا کرده‌اند. همچنین برخی مدیران سابق OpenAI، از جمله جاش آچیم و یان لیکه، از امضاکنندگان این بیانیه هستند. متن کامل این درخواست و نام بیش از ۱۱۰۰ فردی که آن را امضا کرده‌اند، در وب‌سایت اختصاصی «تنظیم سرعت مرزهای هوش مصنوعی» منتشر شده است.