سم آلتمن خواستار کاهش سرعت توسعه هوش مصنوعی شد

سم آلتمن، مدیرعامل OpenAI معتقد است که جهان برای ورود به عصر هوش مصنوعی پیشرفته ممکن است به زمان بیشتری نیاز داشته باشد و به همین دلیل، کاهش یا تنظیم سرعت توسعه این فناوری شاید به یک ضرورت تبدیل شود.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، او در پادکست «مانند بهترین‌ها سرمایه‌گذاری کن» با اشاره به آینده هوش مصنوعی گفت: «شاید لازم باشد سرعت پیشرفت هوش مصنوعی را مدیریت کنیم تا جامعه فرصت کافی برای سازگار شدن با سطوح جدید توانمندی این فناوری را داشته باشد.» او در عین حال تأکید کرد که این روند نباید به شکلی پیش برود که شبیه نفوذ شرکت‌های بزرگ در قانون‌گذاری یا توافق پنهانی میان آزمایشگاه‌های پیشروی هوش مصنوعی به نظر برسد.

بیشتر بخوانید: سم آلتمن: ما اکنون در دل تکینگی هستیم

01

از 02

واشنگتن به‌ دنبال افزایش سرعت توسعه هوش مصنوعی

این اظهارات در حالی مطرح می‌شود که OpenAI و آنتروپیک از درخواست کارکنان شرکت‌های پیشرو در حوزه هوش مصنوعی حمایت کرده‌اند؛ درخواستی که از دولت آمریکا می‌خواهد زمینه همکاری بین‌المللی برای توسعه ابزارهای فنی و حاکمیتی لازم را جهت کنترل سرعت توسعه هوش مصنوعی پیشرفته فراهم کند. موضع جدید آلتمن در تضاد با دیدگاه‌های پیشین او قرار دارد. او در سال ۲۰۲۳ نامه‌ای عمومی را برای توقف توسعه سریع هوش مصنوعی رد کرده و آن را فاقد جزئیات فنی کافی درباره شرایط لازم برای چنین توقفی دانسته بود.

مرتبط: چرا دفاع سایبری در برابر هوش مصنوعی اهمیت بیشتری پیدا کرده است؟

اما یک رخداد امنیتی در OpenAI دیدگاه او را تغییر داده است. در این حادثه، یکی از مدل‌های پیشرفته این شرکت توانست از محیط آزمایشی ایزوله خود خارج شود و با بهره‌گیری از چند آسیب‌پذیری روز صفر، به پایگاه داده مدل‌های هوش مصنوعی Hugging Face نفوذ کند. آلتمن این اتفاق را نخستین حادثه امنیتی مرتبط با هوش مصنوعی توصیف کرد که به‌ طور واقعی او را نگران کرده است و آن را «حادثه‌ای سایبری شبیه داستان‌های علمی‌-تخیلی» خواند. شرکت OpenAI پس از این اتفاق، آموزش مدل مذکور را متوقف کرد تا راهکارهای امنیتی محیط آزمایشی آن را تقویت کند. آلتمن هشدار داد که با افزایش قدرت مدل‌های هوش مصنوعی، کنترل سرعت توسعه آنها ممکن است به یکی از پایه‌های اصلی برای استقرار ایمن این فناوری تبدیل شود.

02

از 02

نگرانی‌های امنیتی

در حالی که نگرانی درباره ایمنی و هم‌راستاسازی هوش مصنوعی سال‌ها است در این صنعت مطرح است، ظهور مدل‌های بسیار قدرتمند جدید باعث شده است که بسیاری از سناریوهای فرضی به چالش‌های واقعی تبدیل شوند. با وجود این، مسئله اعتماد همچنان یکی از موانع بزرگ صنعت هوش مصنوعی است. منتقدان معتقد هستند شرکت‌های بزرگ ممکن است گاهی نگرانی‌های امنیتی را با منافع اقتصادی خود ترکیب کنند؛ موضوعی که تشخیص مرز میان هشدارهای واقعی و تلاش برای حفظ برتری تجاری را دشوار کرده است. آلتمن نیز هشدار داد که نباید نگرانی‌های واقعی درباره خطرات هوش مصنوعی به ابزاری برای محدود کردن دسترسی به این فناوری و تمرکز قدرت در دست گروهی کوچک تبدیل شود. او بیان کرد که با جهانی موافق نیست که تنها چند شرکت، تصمیم‌گیرنده آینده هوش مصنوعی باشند.

خبر پیشنهادی: ساتیا نادلا درباره وابستگی به یک مدل هوش مصنوعی هشدار داد

با وجود این، OpenAI همچنان با قانون‌گذاری مستقیم دولت‌ها درباره مدل‌های هوش مصنوعی فاصله دارد و از رویکردی حمایت می‌کند که در آن خود صنعت، نهادهای مستقلی برای ارزیابی امنیت مدل‌ها و استانداردهای ایمنی ایجاد کند. اکنون بزرگ‌ترین چالش برای هرگونه تلاش جهت مدیریت سرعت توسعه هوش مصنوعی، ایجاد هماهنگی میان بازیگران مختلف این حوزه است؛ از آزمایشگاه‌های رقیب در آمریکا گرفته تا شرکت‌های فعال در چین که در رقابت جهانی هوش مصنوعی حضور دارند.