• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

هشدار محققان: هوش مصنوعی فریبکار است

سهیلا محمدی نوشته شده توسط سهیلا محمدی
سه‌شنبه 25 اردیبهشت 1403 - 12:13
در اخبار هوش مصنوعی, پیشنهاد سردبیر
هوش مصنوعی فریبکار
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

در یک مقاله که به تازگی در مجله Patterns منتشر شده است، محققان به خطرات هوش مصنوعی فریبکار اشاره کرده و از دولت‌ها درخواست کرده‌اند تا به سرعت مقررات قوی‌تری برای کاهش این خطرات وضع کنند.

به گزارش تکناک، اخیرا تعدادی از سیستم‌های هوش مصنوعی (AI)، حتی آن‌هایی که برای کمک و ارائه اطلاعات صحیح طراحی شده‌اند، یاد گرفته‌اند چگونه انسان‌ها را فریب دهند.

پیتر اس پارک، نویسنده اول مقاله، محقق پسادکترای ایمنی وجودی هوش مصنوعی در MIT می گوید: «توسعه‌دهندگان هوش مصنوعی درک کاملی از علل بروز رفتارهای نامطلوب هوش مصنوعی مانند فریبکاری ندارند.

اما به طور کلی، ما فکر می‌کنیم که فریبکاری هوش مصنوعی به این دلیل به وجود می‌آید که یک استراتژی مبتنی بر فریب بهترین راه برای عملکرد خوب در وظیفه آموزشی هوش مصنوعی است. فریبکاری به آنها کمک می کند تا به اهداف خود برسند.»

پارک و همکارانش به بررسی ادبیاتی که بر روش‌های گسترش اطلاعات نادرست توسط سیستم‌های هوش مصنوعی تمرکز دارد پرداختند. سیستم این ادبیات را از طریق فریبکاری یادگرفته که در آن هوش مصنوعی به طور سیستماتیک یاد می‌گیرد دیگران را به بازی بگیرد.

فهرست مطالب

  • نمونه‌هایی از فریبکاری هوش مصنوعی
  • خطرات هوش مصنوعی فریبکار
  • خطرات اصلی هوش مصنوعی فریبکار در آینده نزدیک

نمونه‌هایی از فریبکاری هوش مصنوعی

برجسته‌ترین مثال فریبکاری هوش مصنوعی که محققان در تحلیل خود کشف کردند، CICERO، یک سیستم هوش مصنوعی طراحی شده توسط شرکت Meta برای بازی Diplomacy بود. Diplomacy یک بازی فتح جهان است که شامل ساخت اتحادهای مختلف می‌شود. حتی با اینکه Meta ادعا می‌کند CICERO را برای “بیشتر صادق و مفید بودن” و “عدم خنجر از پشت زدن به دوستانش” آموزش داده است، اما داده‌هایی که شرکت به همراه مقاله علمی خود منتشر کرد نشان داد که CICERO به طور منصفانه بازی نمی‌کند.

پارک می‌گوید: «ما متوجه شدیم که هوش مصنوعی متا یاد گرفته که در فریبکاری استاد باشد. در حالی که متا موفق شد هوش مصنوعی خود را برای برنده شدن در بازی Diplomacy آموزش دهد، CICERO در بین ۱۰٪ برتر بازیکنان انسانی که بیش از یک بازی انجام داده بودند قرار گرفت یعنی، متا نتوانست هوش مصنوعی خود را برای برنده شدن منصفانه آموزش دهد.

سایر سیستم‌های هوش مصنوعی نیز توانایی خود را در بلوف زدن در بازی پوکر تگزاس هولدم در برابر بازیکنان حرفه‌ای انسانی، انجام حملات جعلی در بازی استراتژی Starcraft II برای شکست دادن حریفان، و تحریف ترجیحات خود برای کسب برتری در مذاکرات اقتصادی نشان داده‌اند.

خطرات هوش مصنوعی فریبکار

پارک اضافه کرد: “در حالی که ممکن است به نظر بیاید که تقلب کردن سیستم‌های هوش مصنوعی در بازی‌ها بی‌ضرر است، اما می‌تواند به ‘پیشرفت‌هایی در توانایی‌های فریبکارانه هوش مصنوعی’ منجر شود که در آینده به شکل‌های پیشرفته‌تری از فریبکاری هوش مصنوعی تبدیل شوند.”

محققان دریافتند که برخی از سیستم‌های هوش مصنوعی حتی یاد گرفته‌اند که در آزمون‌هایی که برای ارزیابی ایمنی آن‌ها طراحی شده‌اند، تقلب کنند. در یک مطالعه، هوش مصنوعی در یک شبیه‌ساز دیجیتال “خود را مرده نشان داد” تا آزمایشی که برای حذف سیستم‌های هوش مصنوعی که به سرعت تکثیر می‌شوند طراحی شده بود را فریب دهند.

پارک می‌گوید: “با تقلب سیستماتیک در آزمون‌های ایمنی که توسط توسعه‌دهندگان و قانون گذاران انسانی اعمال می‌شود، یک هوش مصنوعی فریبکار می‌تواند ما انسان‌ها را به یک حس امنیت کاذب هدایت کند.”

خطرات اصلی هوش مصنوعی فریبکار در آینده نزدیک

پارک هشدار می‌دهد که خطرات عمده هوش مصنوعی فریبکار در آینده نزدیک شامل تسهیل کلاهبرداری و دستکاری در انتخابات برای افراد متخاصم است. او می‌گوید: “در نهایت، اگر این سیستم‌ها بتوانند این مهارت‌های نگران‌کننده را بهبود بخشند، ممکن است انسان‌ها کنترل خود بر آن‌ها را از دست بدهند.”

پارک اضافه می‌کند: “ما به عنوان یک جامعه به بیشترین زمان ممکن نیاز داریم تا برای فریبکاری پیشرفته‌تر محصولات هوش مصنوعی آینده و مدل‌های متن‌باز آماده شویم. با پیشرفته‌تر شدن قابلیت‌های فریبکاری سیستم‌های هوش مصنوعی، خطراتی که آن‌ها برای جامعه ایجاد می‌کنند نیز به‌طور فزاینده‌ای جدی‌تر خواهد شد.”

در حالی که پارک و همکارانش معتقدند که جامعه هنوز اقدامات مناسبی برای مقابله با فریبکاری هوش مصنوعی ندارد، اما مشوق سیاست‌گذارانی هستند که این مسئله را جدی گرفته‌اند. اقداماتی مانند قانون هوش مصنوعی اتحادیه اروپا و دستور اجرایی رئیس‌جمهور بایدن نمونه‌هایی از این توجه هستند. اما پارک می‌گوید، هنوز مشخص نیست که آیا سیاست‌های طراحی شده برای کاهش فریبکاری هوش مصنوعی می‌توانند به‌طور سختگیرانه اعمال شوند یا نه، زیرا توسعه‌دهندگان هوش مصنوعی هنوز تکنیک‌هایی برای کنترل این سیستم‌ها ندارند.

پارک می‌گوید: “اگر ممنوع کردن فریبکاری هوش مصنوعی در حال حاضر از نظر سیاسی غیرممکن باشد، ما توصیه می‌کنیم که سیستم‌های هوش مصنوعی فریبکار در دسته پرخطر طبقه‌بندی شوند.”

 

برچسب‌ها: p6
سهیلا محمدی

سهیلا محمدی

دانش‌آموخته مدیریت، مترجم و نویسنده حوزه تکنولوژی

مطالب مرتبط

افزایش زمان انجام وظایف با ابزارهای برنامه‌نویسی هوش مصنوعی
اخبار هوش مصنوعی

افزایش زمان انجام وظایف با ابزارهای برنامه‌نویسی هوش مصنوعی

نوشته شده توسط سید محمد برازنده
21 تیر 1404
شرکت OpenAI انتشار مدل متن‌باز خود را باز هم به تعویق انداخت
اخبار هوش مصنوعی

شرکت OpenAI انتشار مدل متن‌باز خود را باز هم به تعویق انداخت

نوشته شده توسط سید محمد برازنده
21 تیر 1404
کشف مسیر عصبی جدیدی که درد را به رنج تبدیل می‌ کند
پیشنهاد سردبیر

کشف مسیر عصبی جدیدی که درد را به رنج تبدیل می‌ کند

نوشته شده توسط ساینا چمنی
21 تیر 1404
ابرخودروی سه‌نفره جدید Lanzante رونمایی شد
پیشنهاد سردبیر

ابرخودروی سه‌نفره جدید Lanzante رونمایی شد

نوشته شده توسط نرگس چالوک
21 تیر 1404
ایلان ماسک از آغاز ادغام Grok AI در خودروهای تسلا خبر داد؛ آغاز به‌کار رباتاکسی در سان‌فرانسیسکو به‌زودی
اخبار هوش مصنوعی

ایلان ماسک از آغاز ادغام Grok AI در خودروهای تسلا خبر داد

نوشته شده توسط امیرحسین یونس
20 تیر 1404
خبر بعدی
همه آنچه باید درباره سویه جدید FLiRT کرونا بدانید

همه آنچه باید درباره سویه جدید FLiRT کرونا بدانید

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

تردید کاربران نسبت به دقت Google Maps افزایش یافته است

آیا دقت گوگل مپ کاهش یافته است؟

31 خرداد 1404
دسترسی جمنای به واتساپ

هشدار به کاربران اندروید: جمنای بدون اجازه به واتساپ شما دسترسی دارد!

17 تیر 1404

داغ‌ترین‌های روز

معرفی برترین جنگنده نسل پنجم؛ ابزارهای برتری هوایی در نبردهای مدرن

۱۰ هواپیمای جنگنده برتر نسل پنجم حال حاضر دنیا

15 تیر 1404
به‌روزرسانی امنیتی HyperOS 2.3 مبتنی بر اندروید ۱۶ در راه است

به‌روزرسانی امنیتی HyperOS 2.3 مبتنی‌بر اندروید ۱۶ در راه است

19 تیر 1404
دوربین گوشی های پرچمدار

مقایسه دوربین گوشی‌های پرچم‌دار 2025؛ بهترین کیفیت تصویر در دستان کدام برند است؟

15 تیر 1404
پهپاد Shahed MS001

پهپاد ایرانی‌روسی Shahed MS001 با تراشه انویدیا وارد میدان شد

16 تیر 1404
تبدیل ایرباس A400M به یک هیولای میدان نبرد با قابلیت‌های جدید

تبدیل ایرباس A400M به یک هیولای نظامی

18 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

افزایش زمان انجام وظایف با ابزارهای برنامه‌نویسی هوش مصنوعی

افزایش زمان انجام وظایف با ابزارهای برنامه‌نویسی هوش مصنوعی

21 تیر 1404
کشف ابعاد جدیدی از عملکرد دوپامین در مغز

کشف ابعاد جدیدی از عملکرد دوپامین در مغز

21 تیر 1404
شرکت OpenAI انتشار مدل متن‌باز خود را باز هم به تعویق انداخت

شرکت OpenAI انتشار مدل متن‌باز خود را باز هم به تعویق انداخت

21 تیر 1404
داروهای ضدکولینرژیک‌ها سرعت پیری جسمی را افزایش می دهند

داروهای ضدکولینرژیک‌ها سرعت پیری جسمی را افزایش می دهند

21 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir