بریتانیا میزبان اولین نشست جهانی امنیت هوش مصنوعی

دولت بریتانیا اعلام کرده است که میزبان اولین کنفرانس جهانی امنیت هوش مصنوعی در پاییز امسال خواهد بود.

به گزارش تکناک، در این اجلاس کشورهای کلیدی، شرکت‌های فناوری پیشرو و محققان گرد هم می‌آیند تا درباره اقدامات ایمنی برای ارزیابی و پایش مهم‌ترین خطراتی که هوش مصنوعی ایجاد می‌کند، بحث کنند.

ریشی سوناک، نخست وزیر بریتانیا گفت: هوش مصنوعی پتانسیل باورنکردنی برای تغییر زندگی ما به سوی بهتر شدن را دارد. اما ما باید مطمئن شویم که آن را به گونه ای این فناوری را توسعه داده و استفاده می کنیم که ایمن و بی خطر باشد.

بارها و بارها در طول تاریخ، ما فن‌آوری‌های جدیدی را اختراع کرده‌ایم که الگوها را تغییر می‌دهند. ما از آنها برای خیر بشریت استفاده کرده‌ایم. این همان کاری است که باید دوباره انجام دهیم.

هیچ کشوری به تنهایی نمی تواند امنیت هوش مصنوعی را تامین کند. این به یک تلاش جهانی نیاز دارد. اما با تخصص گسترده و تعهد ما به یک سیستم بین‌المللی باز و دموکراتیک، بریتانیا در کنار متحدان خود برای رهبری این راه خواهد ایستاد.

خطرات ناشی از هوش مصنوعی از دنیوی گرفته تا علمی تخیلی چند وجهی است. رایج ترین خطر هوش مصنوعی در حال حاضر این است که می تواند اطلاعات نادرستی به نام توهم تولید کند.

OpenAI در حال کار بر روی روشی برای پردازش در LLM های خود است که منطق را در هر مرحله تأیید می کند تا بروز توهم را کاهش دهد، اما این مدل هنوز برای استفاده گسترده استفاده نشده است. علاوه بر این مشکل، هوش مصنوعی می تواند توسط هکرهای مخرب برای تولید کدهای بدافزاری که در حملات سایبری استفاده شود، مورد استفاده قرار گیرد.

علاوه بر مسائل امنیت هوش مصنوعی، کاهش موقعیت های شغلی در مواجهه با هوش مصنوعی مورد دیگری است که سیاستمداران باید با آن مقابله کنند. به عنوان مثال، Neowin هفته گذشته در مورد این واقعیت گزارش داد که برخی از شرکت ها از پیش شروع به جایگزینی افراد با هوش مصنوعی مولد کرده اند.

پیش از اعلام این رویداد امنیت هوش مصنوعی، مت کلیفورد، مشاور ریشی سوناک در زمینه هوش مصنوعی، گفت که اگر هوش مصنوعی کنترل نشود، در عرض دو سال می‌تواند بسیار قدرتمند شود و ظاهراً کنترل آن را برای انسان دشوار می‌کند. در حالی که سناریوی هوش مصنوعی نابودگر در حال حاضر مانند یک داستان علمی تخیلی به نظر می رسد و احتمالاً برای بیش از دو سال ادامه خواهد داشت، ایده خوبی است که دولت ها قبل از اینکه خیلی دیر شود، خطرات احتمالی را بررسی کنند.