ساتیا نادلا خواستار کنترل انسانی بر ابرهوش مصنوعی شد

ساتیا نادلا تأکید کرد که توسعه هوش عمومی باید مشروط به خدمت به بشریت و حفظ نظارت کامل انسانی باشد و بدون این پیش‌شرط ارزش دنبال کردن ندارد.

به گزارش سرویس اخبار هوش مصنوعی تکناک، ساتیا نادلا، مدیرعامل مایکروسافت، اعلام کرد که هرگونه تلاش در مسیر توسعه ابرهوش یا superintelligence باید مشروط به خدمت به بشریت و حفظ نظارت کامل انسانی باشد و بدون این پیش‌شرط ارزش دنبال کردن ندارد.

مدیر ارشد مایکروسافت در واکنش به گفتمان‌های جاری پیرامون کاهش سرعت توسعه مدل‌های پیشرو (frontier models)، دیدگاهی متمایز ارائه داد. او تأکید کرد که جامعه جهانی به جای توقف یا کند کردن روند پژوهش‌ها، باید بر تسریع توزیع عادلانه مزایای AI تمرکز کند تا همه کشورها، جوامع و شرکت‌ها امکان دسترسی به این ابزارها را به دست آورند. از نگاه او، تحقق این هدف در گرو ایجاد محیطی متوازن است که در آن مدل‌های اختصاصی و بسته‌منبع در کنار مدل‌های متن‌باز مسیر رشد متقابل را طی کنند و تنوع ساختاری حفظ شود.

مرام‌نامه رفتاری مدل‌های اختصاصی مایکروسافت

مایکروسافت در همین راستا قصد دارد سند راهنمای رفتار حرفه‌ای موسوم به Code of Conduct را برای مدل‌های اختصاصی MAI خود معرفی کند. این چارچوب پس از رونمایی در معرض مشاوره و ارزیابی عمومی متخصصان و جوامع علمی قرار می‌گیرد تا سازوکار توسعه این سیستم‌ها به تصمیمی انحصاری در درون مایکروسافت محدود نماند. نادلا بر این باور است که دسترسی آزاد به لایه‌های مختلف AI stack و امکان تصمیم‌گیری مستقل سازمان‌ها برای هدایت سیستم‌ها، اصل کلیدی در اعتمادسازی به این فناوری محسوب می‌شود.

حفظ استقلال و مالکیت داده‌های سازمانی

یکی از محورهای اصلی اظهارات نادلا، حفظ استقلال داده‌ها و دانش سازمانی در میان کسب‌وکارها بود. شرکت‌هایی که فرآیند به‌کارگیری هوش مصنوعی را کلید می‌زنند، باید مالکیت بدون قید و شرط بر دارایی‌های دانشی و تجربیات انحصاری خود را حفظ کنند. طبق گزارش نئووین، نادلا خاطرنشان کرد سازمان‌ها باید این اختیار را داشته باشند که بدون وابستگی اجباری به یک تأمین‌کننده واحد، چرخه‌های یادگیری مداوم موسوم به learning loop یا چرخه یادگیری را پایه‌ریزی کنند و تخصص درونی خود را در قالب مدل‌ها و وزن‌های پردازشی تحت کنترل مستقیم خود جای دهند.

مایکروسافت رویکرد طراحی مبتنی بر گام‌برداری دقیق و متمرکز برای دستیابی به همسویی اخلاقی یا همان alignment را مورد تأیید قرار می‌دهد و از به‌کارگیری سازوکارهایی نظیر embedded evaluators استقبال می‌کند. با این حال، دستیابی به این همسویی نباید به انحصار چند نهاد تجاری بزرگ محدود شود. این فرآیند حیاتی نیازمند مشارکت فراگیر و همه‌جانبه نهادهای دانشگاهی، پژوهشگران مستقل و زیست‌بوم‌های متنوع فناوری در سراسر دنیا است تا آینده ابزارهای پردازشی بر اساس منافع عمومی بشریت شکل گیرد.