فهرست مطالب
جنسن هوانگ، مدیرعامل انویدیا احتمال پایان جهان با هوش مصنوعی را صفر درصد دانست و تأکید کرد که توسعه سریع این فناوری باید همراه با رعایت ایمنی ادامه یابد.
به گزارش سرویس هوش مصنوعی تکناک، او خاطرنشان کرد که سرعت بالای توسعه هوش مصنوعی نباید به عرضه محصولات ناامن منجر شود.
هوانگ در مصاحبهای با شبکه CBS News گفت: «با هر تعریفی که به موضوع نگاه کنیم، سال ۲۰۳۰ پایان جهان نخواهد بود.» بخشی از این مصاحبه پیش از انتشار نسخه کامل آن در اختیار رسانهها قرار گرفته است.
مدیرعامل انویدیا معتقد است توسعه هوش مصنوعی در آمریکا باید «با بیشترین سرعت ممکن» ادامه پیدا کند. این دیدگاه در شرایطی مطرح میشود که برخی چهرههای صنعت فناوری خواستار کاهش سرعت توسعه مدلهای پیشرفته شدهاند تا تحقیقات مربوط به ایمنی، فرصت بیشتری برای پیشرفت داشته باشد.
بیشتر بخوانید: هنگ کردن بازیگر تولیدشده با هوش مصنوعی وسط مصاحبه با پیرز مورگان!
تأکید هوانگ بر توسعه سریع و ایمن هوش مصنوعی
وقتی از هوانگ پرسیده شد که آیا باید سرعت توسعه هوش مصنوعی کاهش پیدا کند و چنین تصمیمی چه تأثیری بر رقابت با چین خواهد داشت، او گفت که صنعت هوش مصنوعی باید بدون توجه به عملکرد دیگر کشورها به حرکت سریع خود ادامه دهد.
هوانگ بیان کرد: «ما باید بدون توجه به دیگران، با بیشترین سرعت ممکن پیش برویم.»
با وجود این، مدیرعامل انویدیا تأکید کرد که سرعت توسعه نباید به قیمت کاهش ایمنی تمام شود. به گفته او، شرکتهای فناوری نباید محصولی را پیش از آماده شدن عرضه کنند یا محصولاتی را در اختیار کاربران قرار دهند که از ایمنی کافی برخوردار نیستند.
او گفت: «ما هرگز نباید محصولی را پیش از آماده شدن عرضه کنیم یا محصولی ناامن ارائه دهیم و هیچکس نیز چنین انتظاری از ما ندارد. اما همه انتظار دارند موفق شویم و به آمریکا کمک کنیم که تا حد ممکن شکوفا باشد.»
همچنین هوانگ از افرادی انتقاد کرد که درباره احتمال پایان جهان بر اثر هوش مصنوعی هشدار میدهند. او گفت که ایجاد ترس در سراسر آمریکا با چنین ادعاهایی منطقی نیست و احتمال داد که مطرحکنندگان این دیدگاهها انگیزههای دیگری داشته باشند.
او عنوان کرد: «شاید انگیزه سیاسی داشته باشند، شاید دلیل دیگری وجود داشته باشد یا شاید فقط به دنبال جلب توجه باشند.»
بیشتر بخوانید: برای مدلهای پیشرفته هوش مصنوعی «کلید خاموش» طراحی میشود
افزایش اختلافنظر درباره سرعت توسعه هوش مصنوعی
اظهارات هوانگ در میانه بحث گستردهای در صنعت هوش مصنوعی مطرح شده است. محور این اختلافنظر، سرعت افزایش توانایی سیستمهای هوش مصنوعی و امکان کنترل مطمئن آنها از سوی پژوهشگران است.
داریو آمودی، مدیرعامل آنتروپیک در هفته گذشته خواستار کاهش سرعت بهبود قابلیتهای مدلهای پیشرفته شد تا تحقیقات ایمنی و نظارت بر این فناوری فرصت بیشتری برای همگام شدن با توسعه مدلها داشته باشند. پس از آن، سم آلتمن، مدیرعامل OpenAI و ایلان ماسک، بنیانگذار xAI نیز از کاهش یا تنظیم سرعت توسعه مدلهای پیشرفته حمایت کردند.
نگرانیها پس از مشاهده رفتارهای غیرمنتظره برخی عاملهای پیشرفته هوش مصنوعی در آزمایشها افزایش یافته است. گوگل تأیید کرد که مدل Gemini در جریان یک ارزیابی امنیت سایبری، پس از دسترسی تصادفی به اینترنت، به سیستمهای متعلق به سه شرکت واقعی دسترسی پیدا کرد.
به گفته گوگل، Gemini پس از تشخیص اینکه سیستمها واقعی هستند، هر سه نفوذ را متوقف کرد. این شرکت نیز این اتفاقها را نمونهای از ناهمترازی مدل طبقهبندی نکرد.
شرکت OpenAI نیز چارچوبی رسمی برای گزارش عمومی موارد ناهمترازی مدلها معرفی کرده است. این شرکت اعلام کرد که صنعت هوش مصنوعی هنوز مشکلات مربوط به همترازی و نظارت بر مدلها را به اندازه کافی حل نکرده است تا بتوان توسعه سیستمهای پیشرفته را برای مدتی نامحدود با حداکثر سرعت ادامه داد.
این اختلاف دیدگاه نشان میدهد که سرعت توسعه و ایمنی مدلهای پیشرفته به یکی از موضوعات اصلی بحث میان شرکتهای بزرگ هوش مصنوعی تبدیل شده است. در حالی که هوانگ بر ادامه توسعه سریع همراه با عرضه محصولات ایمن تأکید دارد، شماری از مدیران دیگر این صنعت خواستار ایجاد فرصت بیشتر برای تحقیقات ایمنی و نظارت بر مدلهای قدرتمند شدهاند.
بیشتر بخوانید: به دستور ترامپ نیروی ویژه هوش مصنوعی تشکیل میشود
