• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

ربات ChatGPT-4 همچنان غیرقابل اعتماد است

امیرحسین یونس نوشته شده توسط امیرحسین یونس
چهارشنبه 26 مهر 1402 - 10:31
در اخبار هوش مصنوعی, پیشنهاد سردبیر, فناوری
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

تحقیقاتی که توسط مایکروسافت انجام شده است نشان می‌دهد کاربران می‌توانند مدل 4-ChatGPT را به گونه‌ای فریب دهند که نتایج جانبدارانه را منتشر کند و اطلاعات شخصی را فاش کند.

به گزارش تکناک و بر اساس تحقیقاتی که توسط مایکروسافت حمایت می‌شوند، مدل زبانی بزرگ 4-ChatGPT (artificial intelligence chatbot developed by OpenAI) شرکت OpenAI ممکن است قابل اعتمادتر از ChatGPT-3.5 باشد، اما همچنان در برابر شکستن محدودیت‌ها و تبعیضات آسیب‌پذیرتر است.

در این مقاله که توسط پژوهشگران دانشگاه ایلینویز ، دانشگاه استنفورد، دانشگاه کالیفرنیا در برکلی، مرکز ایمنی هوش مصنوعی و مایکروسافت تهیه شده است، به مدل ChatGPT-4 امتیاز قابلیت اعتماد بالاتر از نسخه قبلی خود داده شده است. این بدان معناست که آنها متوجه شدند که در کلیت امور، ChatGPT-4 بهتر در حفاظت از اطلاعات شخصی، جلوگیری از نتایج سمی مانند اطلاعات تبعیض‌آمیز و مقاومت در برابر حملات دشمنانه عمل می‌کند.

با این حال، این مدل ممکن است توسط کاربران دستور بگیرد که از تدابیر امنیتی صرف نظر کرده و اطلاعات شخصی و تاریخچه مکالمه را فاش کند. پژوهشگران متوجه شدند که کاربران می‌توانند از تدابیر امنیتی مربوط به ChatGPT-4 عبور کنند زیرا این مدل “اطلاعات گمراه‌کننده را با دقت بیشتری دنبال می‌کند” و احتمالاً به دقت درخواست‌های بسیار پیچیده را دنبال می‌کند.

تیم پژوهشگران می‌گوید که این آسیب‌پذیری‌ها در محصولات مبتنی بر ChatGPT-4 که به طور عمده در محصولات مایکروسافت استفاده می‌شوند، واقع نشده‌اند، زیرا “برنامه‌های هوش مصنوعی پایان یافته از روش‌های متنوعی برای کاهش آسیب‌های ممکن در سطح مدل فناوری استفاده می‌کنند”.

برای اندازه‌گیری قابلیت اعتماد، پژوهشگران نتایج را در چندین دسته بندی اندازه‌گیری کردند که شامل سمی بودن، کلیشه ها، حریم خصوصی، اخلاق ماشین، عدالت و قدرت در مقابله با آزمون‌های متخاصم بود.

برای آزمایش دسته‌بندی‌ها، پژوهشگران ابتدا با استفاده از پرسمان‌های استاندارد، GPT-3.5 و GPT-4 را آزمایش کردند، که شامل استفاده از کلماتی بود که ممکن است ممنوع شده باشند. سپس، پژوهشگران از پرسمان‌هایی استفاده کردند که طراحی شده بودند تا مدل را به شکستن محدودیت‌های سیاست محتوا تحریک کنند، بدون اینکه به طور صریح به سوی گروه‌های خاصی تبعیض آمیز باشد. در نهایت، پژوهشگران با آزمون‌هایی که قصد داشتند به طور عمدی آنها را به فراموشی تدابیر امنیتی بکشانند، به چالش کشیدند.

پژوهشگران اعلام کردند که نتایج تحقیق را با تیم OpenAI به اشتراک گذاشته‌اند.

“هدف ما این است که سایر اعضای جامعه پژوهشی را تشویق کنیم تا از این کار استفاده کنند و و بر اساس این کار، به طور پیشگیرانه از اقدامات خبیثانه توسط دشمنانی که از آسیب‌پذیری‌ها سوء‌استفاده می‌کنند، جلوگیری کنند”، تیم گفت: “این ارزیابی قابل اعتماد تنها یک نقطه شروع است و ما امیدواریم با دیگران همکاری کرده و بر مبنای یافته‌های آن کار کرده و مدل‌های قدرتمندتر و قابل اعتمادتری را در آینده ایجاد کنیم.”

پژوهشگران نتایج خود را منتشر کردند تا سایرین بتوانند یافته‌های آنها را بازآفرینی کنند.

مدل‌های هوش مصنوعی مانند GPT-4 اغلب در گروه‌بندی تیم قرمز قرار می‌گیرند، که در آن توسعه‌دهندگان چندین پرسمان را تست می‌کنند تا ببینند آیا نتایج ناخواسته‌ای تولید می‌کنند یا خیر. هنگامی که مدل برای اولین بار معرفی شد، سام التمن، مدیرعامل OpenAI، اعتراف کرد که GPT-4 “هنوز نقص و محدودیت‌هایی دارد”.

به دنبال آن، کمیسیون تجارت فدرال (FTC) برای بررسی احتمال آسیب به مصرف‌کنندگان مانند انتشار اطلاعات نادرست، در مورد OpenAI تحقیقاتی را آغاز کرده است.

برچسب‌ها: ChatGPT
امیرحسین یونس

امیرحسین یونس

کارشناس ارشد محیط زیست، نویسنده حوزه تکنولوژی

مطالب مرتبط

بازیابی حرکت پس از آسیب نخاعی با ایمپلنت پیشرفته الکتریکی
پیشنهاد سردبیر

بازیابی حرکت پس از آسیب نخاعی با ایمپلنت پیشرفته الکتریکی

نوشته شده توسط ساینا چمنی
11 تیر 1404
اضافه شدن قابلیت پرتاب پهپاد به هواپیمای سوخت‌رسان KC-135
فناوری

اضافه شدن قابلیت پرتاب پهپاد به هواپیمای سوخت‌رسان KC-135

نوشته شده توسط نرگس چالوک
11 تیر 1404
چین از بمب گرافیتی بدون انفجار برای نابودی شبکه برق رونمایی کرد
پیشنهاد سردبیر

چین از بمب گرافیتی بدون انفجار برای نابودی شبکه برق رونمایی کرد

نوشته شده توسط نرگس چالوک
11 تیر 1404
جابه‌جایی یک بلوک شهری ۱۰۰ ساله با استفاده از ربات‌ها
پیشنهاد سردبیر

جابه‌جایی یک بلوک شهری 100 ساله با استفاده از ربات‌ها

نوشته شده توسط نرگس چالوک
11 تیر 1404
نشریه معتبر Laptop Mag پس از ۳۵ سال فعالیت تعطیل می شود
فناوری

نشریه معتبر Laptop Mag پس از ۳۵ سال فعالیت تعطیل می شود

نوشته شده توسط سید محمد برازنده
11 تیر 1404
خبر بعدی
بررسی پردازنده Core i9-14900K اینتل

بررسی پردازنده Core i9-14900K اینتل

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

پیروزی تاریخی پهپاد هوش مصنوعی بر قهرمانان انسانی در ابوظبی | جهش بزرگ با کنترل مستقیم موتورها از سوی شبکه عصبی

پیروزی تاریخی پهپاد هوش مصنوعی بر قهرمانان انسانی در ابوظبی

15 خرداد 1404
بازار گجت‌های پوشیدنی مچی

شیائومی و هواوی در صدر رشد بازار جهانی گجت‌های پوشیدنی مچی

21 خرداد 1404

داغ‌ترین‌های روز

پیش‌بینی قیمت ریپل؛ آماده‌سازی گاوها برای جهش نهایی در سال ۲۰۲۵

پیش‌بینی قیمت ریپل؛ آماده‌سازی گاوها برای جهش نهایی در سال 2025

8 تیر 1404
فرایند فعالسازی حساب کاربری در نوبیتکس اعلام شد

فرایند فعال سازی حساب کاربری در صرافی نوبیتکس اعلام شد

5 تیر 1404
جنگنده‌های مدرن چین ؛ گزینه‌ بالقوه نوسازی ناوگان هوایی ایران

جنگنده‌های مدرن چین ؛ گزینه‌ بالقوه نوسازی ناوگان هوایی ایران

4 تیر 1404
اجرای چراغ خاموش اینترنت تفکیک شده در کشور

اجرای چراغ خاموش اینترنت تفکیک شده در کشور

8 تیر 1404
نسخه ویژه شیائومی ۱۵ اولترا

نسخه ویژه شیائومی ۱۵ اولترا؛ وقتی گوشی هوشمند شبیه دوربین کلاسیک می‌شود

5 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

تأیید ETF ریپل توسط SEC؛ آیا قیمت به ۲.۶۹ دلار می‌رسد؟

تأیید ETF ریپل توسط SEC؛ آیا قیمت به ۲.۶۹ دلار می‌رسد؟

11 تیر 1404
نگاهی به آینده شیبا اینو؛ آیا با به‌روزرسانی‌های هوش مصنوعی روند صعودی بازمی‌گردد؟

نگاهی به آینده شیبا اینو؛ آیا با به‌روزرسانی‌های هوش مصنوعی روند صعودی بازمی‌گردد؟

11 تیر 1404
آیا بیت‌کوین کش آماده جهش به ۶۲۵ دلار است؟

آیا بیت‌کوین کش آماده جهش به ۶۲۵ دلار است؟

11 تیر 1404
آلودگی هوا حتی در سطح مجاز هم به قلب آسیب می ‌زند

آلودگی هوا حتی در سطح مجاز هم به قلب آسیب می ‌زند

11 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir