فهرست مطالب
جنسن هوانگ، بنیانگذار و مدیرعامل انویدیا روز سهشنبه در کنفرانس Dreamforce بیان کرد که برای نظارت بر عملکرد هوش مصنوعی به قوانین و مقررات جدید نیازی نیست.
به گزارش سرویس هوش مصنوعی تکناک، او در این کنفرانس دیدگاه خود را درباره خطرات عملکرد هوش مصنوعی به صراحت تشریح کرد.
از نظر هوانگ، هوش مصنوعی آن «ذهن بیگانهای» نیست که دستکم یکی از پژوهشگران حوزه ایمنی OpenAI آن را چنین توصیف کرده است. او هوش مصنوعی را مجموعهای از سختافزار و نرمافزار میداند که توسط انسانها ساخته شده و در نتیجه، معتقد است کنترل آن نیز در اختیار انسانها است و قوانین موجود میتوانند برای مدیریت آن کافی باشند. هوانگ در این باره گفت: «عملکرد هوش مصنوعی یک مسئله مهندسی است و حقوقی نیست. در نهایت ما در حال توسعه نرمافزار هستیم. در حال توسعه سیستمهای محاسباتی هستیم. این یک سیستم محاسباتی پیچیده است، اما در نهایت همچنان یک سیستم محاسباتی است.»
بیشتر بخوانید: مدل Grok 4.8 با ۲.۵ تریلیون پارامتر از راه می رسد
نظر جنسن هوانگ درباره عملکرد هوش مصنوعی
هوانگ معتقد است برای نظارت بر عملکرد هوش مصنوعی به قوانین و مقررات جدید نیازی نیست. او حتی ضرورت وضع قوانین جدید را بهطور کلی محدود میداند و در این باره استدلال کرده است که سازوکارهای بازار آزاد بهتنهایی میتوانند شرکتها را از عرضه محصولات ناایمن بازدارند. او توضیح داد: «اگر نسبت به ایمنی محصولات اطمینان ندارید، مانند هر شرکت دیگری، مانند شما و من و تمام شرکتهای حاضر در اینجا، اگر محصول یا خدماتی توسعه دادهاید و درباره عملکرد، قابلیت یا ایمنی آن اطمینان ندارید، آن را عرضه نکنید. این کار کاملا بدیهی است.»
هوانگ در ادامه گفت که شرکتها باید تا زمانی که از آماده بودن محصول خود اطمینان پیدا کنند، سرعت توسعه و عرضه را مدیریت کنند. به گفته او، نیروهای بازار از قبل وجود دارند و نیازی به قوانین یا مقررات تازه نیست. هوانگ تاکید کرد که شرکتها میتوانند همزمان به دنبال نوآوری و سرعت بالا باشند و محصولات ایمن ارائه دهند. با وجود این، اگر در مقطعی مشخص شود که یک شرکت کنترل شرایط را از دست داده است یا محصول آن ایمن نیست، باید روند توسعه متوقف یا کند شود تا خطرات عملکرد هوش مصنوعی برطرف شوند. هوانگ در بخش دیگری از این مصاحبه نیز گفت: «من بیش از هر زمان دیگری جاهطلب هستم. در نتیجه جاهطلبی ما و افزایش بهرهوری حاصل از هوش مصنوعی، آسمان سقف ماست. آسمان سقف شرکت ماست. آسمان سقف هر صنعت و هر کشور است.»
برای مطالعه بیشتر: مکالمات ChatGPT زیر ذرهبین؛ اطلاعات شخصی کاربران بررسی میشود
از یک منظر، چنین دیدگاهی میتواند اطمینانبخش باشد. جنسن هوانگ یکی از چهرههایی است که سالها پیش از ظهور ChatGPT در توسعه سختافزارهای محاسباتی مورد استفاده در هوش مصنوعی نقش داشته است و اکنون نیز شرکتی را هدایت میکند که علاوه بر سختافزار، در حوزه مدلهای متنباز، عاملهای هوش مصنوعی، ابزارهای توسعه و محیطهای ایزوله برای اجرای این فناوریها فعالیت دارد. با وجود این، از منظری انتقادی میتوان گفت که موضع هوانگ با منافع تجاری انویدیا نیز ارتباط دارد. رونق هوش مصنوعی رشد قابل توجهی برای این شرکت به همراه داشته است و مقررات جدید میتوانند با ایجاد الزامات و محدودیتهای بیشتر، سرعت توسعه و فروش سیستمها و نرمافزارهای هوش مصنوعی انویدیا را تحت تاثیر قرار دهند.
چارچوبهای قانونی و سازوکارهای خودتنظیمی
متاسفانه حتی شرکتهایی که با بهترین نیتها فعالیت میکنند نیز ممکن است محصولات معیوبی را عرضه کنند که پیامدهای پیشبینینشدهای به همراه داشته باشند و این مسئله در مورد نرمافزارها نیز صدق میکند. نمونه آن، بحران CrowdStrike در سال ۲۰۲۴ است، که در پی نمایش گسترده «صفحه آبی مرگ»، هزاران پرواز را متوقف کرد و اختلالات قابل توجهی برای کسبوکارها به وجود آورد. در سوی دیگر، شرکتهایی نیز وجود دارند که به اقدام عمدی برخلاف منافع کاربران متهم شدهاند. متا برای حلوفصل یک پرونده قضایی درباره آسیبهای شبکههای اجتماعی به کودکان، ۱۸ میلیارد دلار پرداخت کرده است. هوش مصنوعی نیز فارغ از نیت شرکتها و سطح آزمایشهای ایمنی انجامشده، تاکنون پیامدهای زیانباری به همراه داشته است. از هکشدن Hugging Face توسط یکی از مدلهای OpenAI گرفته تا شکایتهای قضایی علیه این آزمایشگاه در ارتباط با خودکشی جوانانی که گفتوگوهای طولانی با چتبات آن داشتهاند، نمونههایی از این پیامدها هستند.
در چنین شرایطی، رویکرد «آنها را به حال خود بگذارید» که به شرکتها اجازه میدهد محصولات هوش مصنوعی خود را بدون چارچوبهای قانونی جدید و بر اساس تشخیص خود عرضه کنند، از منظر منافع عمومی ممکن است راهکار مناسبی برای رفع خطرات عملکرد هوش مصنوعی نباشد. البته جنسن هوانگ در یک نکته استدلال قابل توجهی دارد؛ قوانین موجود درباره مسئولیت تولیدکننده در قبال محصول ممکن است در نهایت بتوانند برای سامانههای هوش مصنوعی نیز کاربرد داشته باشند. البته این فرضیه زمانی قابل آزمون خواهد بود که پیش از رسیدگی قضایی به تعداد کافی از پروندهها، هوش مصنوعی پیامدهای فاجعهباری برای جامعه ایجاد نکند. هوانگ در اظهارات خود به مسیر دیگری که به نظر میرسد به تدریج در حال شکلگیری است، یعنی خودتنظیمی صنعت نپرداخت. تمرکز رویکرد او بیشتر بر حمایت از مدلهای با وزنهای باز و استفاده شرکتها از این مدلها به عنوان یک نیروی رقابتی در برابر آزمایشگاههایی بوده است که مدلهای هوش مصنوعی اختصاصی توسعه میدهند.
حتما بخوانید: همکاری بریتانیا و آمریکا برای ساخت دوقلوهای دیجیتال راکتورهای همجوشی
با وجود این، صنعت هوش مصنوعی در مقطع کنونی فرصت محدودی برای ایجاد سازوکارهای خودتنظیمی دارد و باید تلاش کند آزمایشگاههای هوش مصنوعی در سراسر جهان، از جمله چین را نیز به مشارکت در چنین چارچوبی ترغیب کند. ساتیا نادلا، مدیرعامل مایکروسافت روز دوشنبه در اجلاس All-In درباره اهمیت نگرانیهای مشترک ایمنی میان کشورها گفت: «اگر آمریکا نسبت به همین عملکرد هوش مصنوعی حساس است، چین هم باید چنین دغدغهای داشته باشد، درست است؟ چرا باید برای آنها متفاوت باشد؟ آنها نیز با خطرات هک مواجه خواهند شد و میخواهند مطمئن شوند شهروندان آنها از مزایای هوش مصنوعی بهرهمند میشوند، همانطور که ما میخواهیم شهروندان از این فناوری سود ببرند.» با وجود این، در شرایط فعلی، اگر جنسن هوانگ با هرگونه قانونگذاری جدید در حوزه هوش مصنوعی مخالف باشد، نفوذ او ممکن است برای اثرگذاری بر مسیر سیاستگذاری کافی باشد.
