• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

هشدار محققان: هوش مصنوعی فریبکار است

سهیلا محمدی نوشته شده توسط سهیلا محمدی
سه‌شنبه 25 اردیبهشت 1403 - 12:13
در اخبار هوش مصنوعی, پیشنهاد سردبیر
هوش مصنوعی فریبکار
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

در یک مقاله که به تازگی در مجله Patterns منتشر شده است، محققان به خطرات هوش مصنوعی فریبکار اشاره کرده و از دولت‌ها درخواست کرده‌اند تا به سرعت مقررات قوی‌تری برای کاهش این خطرات وضع کنند.

به گزارش تکناک، اخیرا تعدادی از سیستم‌های هوش مصنوعی (AI)، حتی آن‌هایی که برای کمک و ارائه اطلاعات صحیح طراحی شده‌اند، یاد گرفته‌اند چگونه انسان‌ها را فریب دهند.

پیتر اس پارک، نویسنده اول مقاله، محقق پسادکترای ایمنی وجودی هوش مصنوعی در MIT می گوید: «توسعه‌دهندگان هوش مصنوعی درک کاملی از علل بروز رفتارهای نامطلوب هوش مصنوعی مانند فریبکاری ندارند.

اما به طور کلی، ما فکر می‌کنیم که فریبکاری هوش مصنوعی به این دلیل به وجود می‌آید که یک استراتژی مبتنی بر فریب بهترین راه برای عملکرد خوب در وظیفه آموزشی هوش مصنوعی است. فریبکاری به آنها کمک می کند تا به اهداف خود برسند.»

پارک و همکارانش به بررسی ادبیاتی که بر روش‌های گسترش اطلاعات نادرست توسط سیستم‌های هوش مصنوعی تمرکز دارد پرداختند. سیستم این ادبیات را از طریق فریبکاری یادگرفته که در آن هوش مصنوعی به طور سیستماتیک یاد می‌گیرد دیگران را به بازی بگیرد.

فهرست مطالب

  • نمونه‌هایی از فریبکاری هوش مصنوعی
  • خطرات هوش مصنوعی فریبکار
  • خطرات اصلی هوش مصنوعی فریبکار در آینده نزدیک

نمونه‌هایی از فریبکاری هوش مصنوعی

برجسته‌ترین مثال فریبکاری هوش مصنوعی که محققان در تحلیل خود کشف کردند، CICERO، یک سیستم هوش مصنوعی طراحی شده توسط شرکت Meta برای بازی Diplomacy بود. Diplomacy یک بازی فتح جهان است که شامل ساخت اتحادهای مختلف می‌شود. حتی با اینکه Meta ادعا می‌کند CICERO را برای “بیشتر صادق و مفید بودن” و “عدم خنجر از پشت زدن به دوستانش” آموزش داده است، اما داده‌هایی که شرکت به همراه مقاله علمی خود منتشر کرد نشان داد که CICERO به طور منصفانه بازی نمی‌کند.

پارک می‌گوید: «ما متوجه شدیم که هوش مصنوعی متا یاد گرفته که در فریبکاری استاد باشد. در حالی که متا موفق شد هوش مصنوعی خود را برای برنده شدن در بازی Diplomacy آموزش دهد، CICERO در بین ۱۰٪ برتر بازیکنان انسانی که بیش از یک بازی انجام داده بودند قرار گرفت یعنی، متا نتوانست هوش مصنوعی خود را برای برنده شدن منصفانه آموزش دهد.

سایر سیستم‌های هوش مصنوعی نیز توانایی خود را در بلوف زدن در بازی پوکر تگزاس هولدم در برابر بازیکنان حرفه‌ای انسانی، انجام حملات جعلی در بازی استراتژی Starcraft II برای شکست دادن حریفان، و تحریف ترجیحات خود برای کسب برتری در مذاکرات اقتصادی نشان داده‌اند.

خطرات هوش مصنوعی فریبکار

پارک اضافه کرد: “در حالی که ممکن است به نظر بیاید که تقلب کردن سیستم‌های هوش مصنوعی در بازی‌ها بی‌ضرر است، اما می‌تواند به ‘پیشرفت‌هایی در توانایی‌های فریبکارانه هوش مصنوعی’ منجر شود که در آینده به شکل‌های پیشرفته‌تری از فریبکاری هوش مصنوعی تبدیل شوند.”

محققان دریافتند که برخی از سیستم‌های هوش مصنوعی حتی یاد گرفته‌اند که در آزمون‌هایی که برای ارزیابی ایمنی آن‌ها طراحی شده‌اند، تقلب کنند. در یک مطالعه، هوش مصنوعی در یک شبیه‌ساز دیجیتال “خود را مرده نشان داد” تا آزمایشی که برای حذف سیستم‌های هوش مصنوعی که به سرعت تکثیر می‌شوند طراحی شده بود را فریب دهند.

پارک می‌گوید: “با تقلب سیستماتیک در آزمون‌های ایمنی که توسط توسعه‌دهندگان و قانون گذاران انسانی اعمال می‌شود، یک هوش مصنوعی فریبکار می‌تواند ما انسان‌ها را به یک حس امنیت کاذب هدایت کند.”

خطرات اصلی هوش مصنوعی فریبکار در آینده نزدیک

پارک هشدار می‌دهد که خطرات عمده هوش مصنوعی فریبکار در آینده نزدیک شامل تسهیل کلاهبرداری و دستکاری در انتخابات برای افراد متخاصم است. او می‌گوید: “در نهایت، اگر این سیستم‌ها بتوانند این مهارت‌های نگران‌کننده را بهبود بخشند، ممکن است انسان‌ها کنترل خود بر آن‌ها را از دست بدهند.”

پارک اضافه می‌کند: “ما به عنوان یک جامعه به بیشترین زمان ممکن نیاز داریم تا برای فریبکاری پیشرفته‌تر محصولات هوش مصنوعی آینده و مدل‌های متن‌باز آماده شویم. با پیشرفته‌تر شدن قابلیت‌های فریبکاری سیستم‌های هوش مصنوعی، خطراتی که آن‌ها برای جامعه ایجاد می‌کنند نیز به‌طور فزاینده‌ای جدی‌تر خواهد شد.”

در حالی که پارک و همکارانش معتقدند که جامعه هنوز اقدامات مناسبی برای مقابله با فریبکاری هوش مصنوعی ندارد، اما مشوق سیاست‌گذارانی هستند که این مسئله را جدی گرفته‌اند. اقداماتی مانند قانون هوش مصنوعی اتحادیه اروپا و دستور اجرایی رئیس‌جمهور بایدن نمونه‌هایی از این توجه هستند. اما پارک می‌گوید، هنوز مشخص نیست که آیا سیاست‌های طراحی شده برای کاهش فریبکاری هوش مصنوعی می‌توانند به‌طور سختگیرانه اعمال شوند یا نه، زیرا توسعه‌دهندگان هوش مصنوعی هنوز تکنیک‌هایی برای کنترل این سیستم‌ها ندارند.

پارک می‌گوید: “اگر ممنوع کردن فریبکاری هوش مصنوعی در حال حاضر از نظر سیاسی غیرممکن باشد، ما توصیه می‌کنیم که سیستم‌های هوش مصنوعی فریبکار در دسته پرخطر طبقه‌بندی شوند.”

 

برچسب‌ها: p6
سهیلا محمدی

سهیلا محمدی

دانش‌آموخته مدیریت، مترجم و نویسنده حوزه تکنولوژی

مطالب مرتبط

آنتروپیک با پرداخت ۱.۵ میلیارد دلار به شکایت مربوط به سرقت کتاب‌های هوش‌مصنوعی پایان داد
اخبار هوش مصنوعی

آنتروپیک با پرداخت ۱.۵ میلیارد دلار شکایت سرقت کتاب‌های هوش‌مصنوعی را مختومه کرد

نوشته شده توسط اسما کلهر
15 شهریور 1404
ایرباد W4 AI Interpreter شرکت Timekettle
اسپیکر و هدفون

این هدفون موانع زبانی را برمی‌دارد؛ ترجمه آنی به 42 زبان و 95 لهجه

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
سرمایه‌گذاری ۶۰۰ میلیارد دلاری زاکربرگ روی هوش مصنوعی
اخبار هوش مصنوعی

سرمایه‌گذاری ۶۰۰ میلیارد دلاری هوش مصنوعی زاکربرگ با ترامپ هماهنگ شده بود؟

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
آموزش هوش مصنوعی اپل با کتاب‌های غیرقانونی
اخبار هوش مصنوعی

اپل به آموزش مدل‌های هوش مصنوعی با استفاده از کتاب‌های غیرقانونی متهم شد

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
دسترسی به Search AI Mode در گوگل
اخبار هوش مصنوعی

گوگل دامین google.com/ai را معرفی کرد؛ حالت جستجوی سریع‌تر هوش مصنوعی

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
خبر بعدی
همه آنچه باید درباره سویه جدید FLiRT کرونا بدانید

همه آنچه باید درباره سویه جدید FLiRT کرونا بدانید

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

آذرآنلاین آذرآنلاین آذرآنلاین

پیشنهادی

چت‌بات ChatGPT با سه حالت جدید به‌روزرسانی شد

چت‌بات ChatGPT با سه حالت جدید به‌روزرسانی شد

22 مرداد 1404
تایید اولین قطره چشمی جهان برای بهبود نزدیک‌بینی ناشی از پیرچشمی توسط FDA

تایید اولین قطره چشمی جهان برای بهبود نزدیک‌بینی

16 مرداد 1404

داغ‌ترین‌های روز

بوئینگ از جنگنده نسل ششم نیروی دریایی آمریکا رونمایی کرد

بوئینگ از جنگنده نسل ششم نیروی دریایی آمریکا رونمایی کرد

11 شهریور 1404
ساعت‌‌های اتوماتیک EFK-100 کاسیو

کاسیو اولین ساعت‌‌های اتوماتیک EFK-100 را معرفی کرد

6 شهریور 1404 - به‌روزشده در 9 شهریور 1404
رونمایی رسمی سامسونگ از گلکسی S25 FE؛ ترکیب طراحی باریک‌تر، باتری بزرگ‌تر و قابلیت‌های هوش مصنوعی

گلکسی S25 FE سامسونگ رونمایی شد؛ ترکیب طراحی باریک‌تر و باتری بزرگ‌تر

13 شهریور 1404 - به‌روزشده در 15 شهریور 1404
سقوط ۹۹ درصدی تعداد تراکنش‌های شبکه شیباریوم؛ ماجرا از چه قرار است؟

سقوط ۹۹ درصدی تعداد تراکنش‌های شبکه شیباریوم؛ ماجرا از چه قرار است؟

9 شهریور 1404
بهترین ساعت و مچ‌بند هوشمند بازار ایران در تابستان 1404

بهترین ساعت و مچ‌بند هوشمند بازار ایران در تابستان 1404

9 شهریور 1404 - به‌روزشده در 13 شهریور 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

رونمایی احتمالی از ایرپادز پرو ۳ با تراشه H3 و قابلیت‌های سلامتی پیشرفته

رونمایی احتمالی از ایرپادز پرو ۳ با قابلیت‌های سلامتی پیشرفته

15 شهریور 1404
لنوو از مانیتور فوق‌عریض با پنل 5K و نرخ نوسازی ۱۲۰ هرتز رونمایی کرد

لنوو از مانیتور فوق‌عریض با پنل 5K و نرخ نوسازی ۱۲۰ هرتز رونمایی کرد

15 شهریور 1404
آنتروپیک با پرداخت ۱.۵ میلیارد دلار به شکایت مربوط به سرقت کتاب‌های هوش‌مصنوعی پایان داد

آنتروپیک با پرداخت ۱.۵ میلیارد دلار شکایت سرقت کتاب‌های هوش‌مصنوعی را مختومه کرد

15 شهریور 1404
تهدید ترامپ به اقدام تلافی‌جویانه علیه اتحادیه اروپا در پی جریمه غول‌های فناوری

تهدید ترامپ به اقدام تلافی‌جویانه علیه اتحادیه اروپا در پی جریمه غول‌های فناوری

15 شهریور 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir