مدیرعامل سابق گوگل هشدار داده که ممکن است زمانی فرابرسد که بهدلیل خطرات هوش مصنوعی نیاز باشد سیستمهای آنها را خاموش کنیم.
به کزارش تکناک،اریک اشمیت، مدیرعامل سابق گوگل، در گفتوگویی با شبکه ABC درباره آینده توسعه هوش مصنوعی و خطرات ناشی از آن هشدار داد. وی تأکید کرد که وقتی سیستم کامپیوتری به نقطهای برسد که بتواند خود را بهبود دهد، باید بهطور جدی به فکر قطعکردن آن بود. اشمیت گفت:
بهزودی خواهیم توانست کامپیوترهایی داشته باشیم که خودشان بهطور مستقل کار کنند و تصمیم بگیرند که چه کاری انجام دهند. وقتی سیستم شروع به خودبهبودی کند، ممکن است زمان آن رسیده باشد که به فکر قطعکردن آن باشیم.
Axios مینویسد این هشدار در حالی مطرح میشود که رقابت جهانی درزمینه هوش مصنوعی همچنان در حال پیشرفت است و مرزهای این فناوری در چند سال اخیر بهطور نمایی گسترش یافته است. اشمیت از پیشرفتهای سریع در این زمینه شگفتزده و معتقد است که توسعه بیرویه میتواند خطرات زیادی بههمراه داشته باشد. وی درینباره گفت:
هیچگاه نوآوری به این مقیاس را ندیدهام. این دستاوردهای شگرف بشری باید با دقت و احتیاط بیشتری پیگیری شوند.
اشمیت به نگرانیهایی درباره توانایی انسانها در کنترل این فناوری اشاره کرد و افزود:
قدرت این هوش مصنوعی بدینمعناست که هر فردی ممکن است معادل یک Polymath در جیب خود داشته باشد. ما هنوز نمیدانیم که دادن چنین قدرتی به افراد چه پیامدهایی خواهد داشت.
وی همچنین از رقابت فزاینده چین درزمینه هوش مصنوعی ابراز نگرانی کرد و گفت که در شش ماه اخیر، پکن توانسته است در این زمینه پیشرفتهای شگرفی کند. اشمیت معتقد است که آمریکا در این رقابت، بهویژه در برابر چین، باید پیروز شود.
در پاسخ به پرسشهایی درباره امکان مقابله سیستمهای هوش مصنوعی با تلاشها برای قطع آنها، اشمیت تأکید کرد که ازنظر تئوری، بهتر است کسی دستش روی کلید خاموشکردن باشد. او پیشنهاد کرد که اگر مسئولیت مدیریت جهانی هوش مصنوعی به او سپرده میشد، دو گام اساسی را برای کنترل این فناوری بردارد: ۱. اطمینان از پیروزی غرب در این رقابت جهانی با تأمین منابع مالی و سختافزاری و نیروی انسانی؛ ۲. شناسایی بدترین سناریوها و ایجاد سیستم نظارتی برای کنترل هوش مصنوعی. اشمیت گفت:
انسانها نخواهند توانست هوش مصنوعی را کنترل کنند؛ اما سیستمهای هوش مصنوعی باید بتوانند هوش مصنوعی را کنترل کنند.
این سخنان در حالی بیان میشود که کارشناسان صنعت و محققان درباره خطرات ناشی از شتاب در توسعه هوش مصنوعی مولد هشدار دادهاند. برخی پیشبینی میکنند که تنها دو تا چهار سال دیگر کامپیوترهایی که خودشان تصمیم میگیرند، به واقعیت خواهند پیوست.
با توجه به سرعت پیشرفتهای اخیر و تواناییهای روزافزون سیستمهای هوش مصنوعی، این سؤال مطرح میشود که آیا توانایی کنترل این فناوری از دست انسانها خارج خواهد شد و تصمیمات سیستمهای هوش مصنوعی ممکن است تهدیدی جدی برای آینده بشر باشد یا خیر؟
