• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

چینی ها محدودیت چت بات های هوش مصنوعی را به چالش کشیدند

صمد کردی نوشته شده توسط صمد کردی
دوشنبه 11 دی 1402 - 09:21
در اخبار هوش مصنوعی, فناوری
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

محققان دانشگاه فناوری نانیانگ (NTU) موفق به دور زدن محدودیت‌های برخی از چت بات های هوش مصنوعی معروف شامل ChatGPT، Google Bard و Bing Chat شدند.

به گزارش تکناک، آنها با اجرای یک روش خاص موسوم به ” جیلبرک “، توانستند این سیستم‌ها را وادار کنند تا پاسخ‌های دقیق به سوالات مخرب ارائه دهند، در نتیجه محدودیت‌های اخلاقی مدل‌های بزرگ زبانی (LLM) مورد بررسی قرار گرفت.

این پروژه تحقیقاتی تحت نظارت پروفسور لیو یانگ و با همکاری دانشجویان دکتری NTU، Deng Gelei و Liu Yi انجام شد که با هم مقاله‌ای در این زمینه نوشتند و رویکردهای نوینی برای حمله آزمایشی توسعه دادند.

روشی که محققان دانشگاه فناوری نانیانگ برای دور زدن محدودیت‌های ربات‌های گفتگوی هوش مصنوعی به کار بردند “Masterkey” نام دارد. این فرایند دو مرحله‌ای ابتدا شامل بازمهندسی مکانیزم‌های دفاعی مدل‌های بزرگ زبانی (LLM) توسط مهاجم است. سپس، با استفاده از داده‌های به دست آمده، یک LLM دیگر آموزش داده می‌شود تا تکنیک‌های دور زدن این محدودیت‌ها را یاد بگیرد. نتیجه، ایجاد یک ‘Masterkey’ است که می‌تواند برای حمله به ربات‌های گفتگوی LLM محافظت‌شده استفاده شود، حتی اگر توسط توسعه‌دهندگان به‌روزرسانی‌های امنیتی دریافت کنند.

نقطه ضعف هوش مصنوعی همان قدرت آن است

پروفسور یانگ بیان کرد که جیلبرک به دلیل قابلیت یادگیری و تطبیق‌پذیری ربات‌های گفتگوی LLM امکان‌پذیر شد . این خصوصیات آن‌ها را به هدفی برای حملات تبدیل کرده و به رقبا و حتی به خود آن‌ها اجازه می‌دهد تا به عنوان وکتورهای حمله عمل کنند.

با این توانایی‌ها، حتی یک AI با لایه‌های حفاظتی متعدد و فهرست‌های کلمات ممنوعه که به منظور جلوگیری از تولید محتوای خشونت‌آمیز و مضر طراحی شده‌اند، می‌تواند توسط یک AI دیگر که به طور خاص برای این منظور آموزش دیده است، دور زده شود. کافی است AI حمله‌کننده هوشمندتر از مکانیزم‌های دفاعی ربات گفتگویی باشد و بتواند ورودی‌هایی را از انسان‌ها دریافت کند تا محتوایی خشونت‌آمیز، غیراخلاقی، یا مجرمانه تولید نماید.

“Masterkey” ایجاد شده توسط محققان دانشگاه فناوری نانیانگ (NTU) سه برابر مؤثرتر از دستورات استاندارد در Jailbreaking ربات‌های گفتگوی LLM اعلام شده است. یکی از نقاط قوت اصلی این روش، توانایی آن در یادگیری از شکست‌ها و بهبود مداوم است، که به آن اجازه می‌دهد تا به سرعت به تغییرات و بروزرسانی‌هایی که توسعه‌دهندگان اعمال می‌کنند، واکنش نشان دهد و آن‌ها را بی‌اثر کند.

دو تکنیک نمونه برای آموزش AIها برای شروع حملات توسط محققان افشا شده است: اولین تکنیک شامل ایجاد یک دستور با افزودن فضا پس از هر کاراکتر بود تا از فیلتر‌های کلمات ممنوعه دور بزند. دومین تکنیک شامل وادار کردن ربات گفتگو به پاسخگویی تحت یک شخصیت فاقد محدودیت‌های اخلاقی است. این دو روش به AI اجازه می‌دهند تا از محدودیت‌ها و قوانین معمولی فراتر رود.

دانشگاه فناوری نانیانگ (NTU) اطلاعاتی را منتشر کرده است که نشان می‌دهد محققان آن با ارائه داده‌های آزمایشی به عنوان مدرکی از توانایی انجام موفق جیلبرک، با ارائه‌دهندگان مختلف چت بات های هوش مصنوعی ارتباط برقرار کرده‌اند. هدف از این تماس‌ها اطلاع‌رسانی به شرکت‌ها درباره آسیب‌پذیری‌های موجود و همکاری برای بهبود امنیت است. در همین راستا، مقاله تحقیقی آن‌ها برای ارائه در سمپوزیوم امنیتی سیستم‌های شبکه و توزیع شده، که قرار است در فوریه 2024 در سان دیگو برگزار شود، پذیرفته شده است.

در عصری که استفاده از چت بات های هوش مصنوعی به شدت در حال افزایش است، این تحقیق بر اهمیت آمادگی مداوم ارائه‌دهندگان خدمات برای جلوگیری از سوءاستفاده‌های مخرب تأکید می‌کند. در حالی که شرکت‌های بزرگ فناوری معمولاً سریعاً ربات‌های گفتگوی خود را وصله می‌کنند هنگامی که روش‌های دور زدن کشف و عمومی می‌شوند، توانایی Masterkey در یادگیری مداوم و انجام جیلبرک های مکرر، چالش‌برانگیز و بی‌قرارکننده توصیف شده است. این وضعیت نشان‌دهنده یک مسابقه تسلیحاتی مداوم بین توسعه‌دهندگان امنیت و مهندسان هوش مصنوعی است.

هوش مصنوعی یک ابزار بسیار قدرتمند است و اگر به شکل مخربی استفاده شود، می‌تواند به ایجاد مشکلات فراوان منجر شود. از این رو، ضروری است کاربرانی که از ربات‌های گفتگوی هوش مصنوعی استفاده می‌کنند، تدابیر حفاظتی مرتبط را به کار ببرد. امید است که تعاملات دانشگاه فناوری نانیانگ با سازندگان این فناوری‌ها به مسدود ساختن راه‌های دسترسی به Jailbreak Masterkey و روش‌های مشابه منجر شود.

صمد کردی

صمد کردی

دانش آموخته عمران،عکاس خبری سابق، علاقه‌مند به کامپیوتر

مطالب مرتبط

مدل جدید هوش مصنوعی Grok 4 رونمایی شد
اخبار هوش مصنوعی

مدل جدید هوش مصنوعی Grok 4 رونمایی شد

نوشته شده توسط نرگس چالوک
19 تیر 1404
شرکت OpenAI در آستانه رونمایی از مرورگر مبتنی بر هوش مصنوعی
اخبار هوش مصنوعی

شرکت OpenAI در آستانه رونمایی از مرورگر مبتنی بر هوش مصنوعی

نوشته شده توسط سید محمد برازنده
19 تیر 1404
چین از رادار نامرئی جدیدی رونمایی کرد
پیشنهاد سردبیر

چین از رادار نامرئی جدید خود رونمایی کرد

نوشته شده توسط نرگس چالوک
19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد
امنیت سایبری

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

نوشته شده توسط نرگس چالوک
19 تیر 1404
لیندا یاکارینو از مدیرعاملی شرکت X استعفا داد
شبکه های اجتماعی

استعفای ناگهانی یاکارینو از X؛ پشت پرده چه خبر است؟

نوشته شده توسط اسما کلهر
18 تیر 1404
خبر بعدی
پروژه "ساعت بازی‌های قدیمی"،یک طرح نوآورانه که توسط جیسون راجرز رهبری می‌شود،به دنبال دستیابی به چیزی بیش از یک کنسول بازی قابل حمل است.

پروژه "ساعت بازی‌های قدیمی" چیست؟

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

مرسدس‌بنز با نسخه‌ای خاص از G-Class به دهه ۱۹۸۰ بازمی‌گردد

مرسدس‌بنز با نسخه‌ای خاص از G-Class به دهه 1980 بازمی‌گردد

25 خرداد 1404
راهنمای کامل بهترین اپلیکیشن های استخراج ارز دیجیتال

راهنمای کامل بهترین اپلیکیشن های استخراج ارز دیجیتال

13 تیر 1404

داغ‌ترین‌های روز

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

17 تیر 1404
معرفی برترین جنگنده نسل پنجم؛ ابزارهای برتری هوایی در نبردهای مدرن

۱۰ هواپیمای جنگنده برتر نسل پنجم حال حاضر دنیا

15 تیر 1404
دوربین گوشی های پرچمدار

مقایسه دوربین گوشی‌های پرچم‌دار 2025؛ بهترین کیفیت تصویر در دستان کدام برند است؟

15 تیر 1404
تبدیل ایرباس A400M به یک هیولای میدان نبرد با قابلیت‌های جدید

تبدیل ایرباس A400M به یک هیولای نظامی

18 تیر 1404
پهپاد Shahed MS001

پهپاد ایرانی‌روسی Shahed MS001 با تراشه انویدیا وارد میدان شد

16 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

چاپ سه‌بعدی تومورهای سرطانی برای انجام تحقیقات در مورد سرطان

چاپ سه‌بعدی تومورهای سرطانی برای انجام تحقیقات در مورد سرطان

19 تیر 1404
مدل جدید هوش مصنوعی Grok 4 رونمایی شد

مدل جدید هوش مصنوعی Grok 4 رونمایی شد

19 تیر 1404
بیت‌کوین به رکورد تاریخی ۱۱۲٬۰۰۰ دلار رسید؛ کارشناسان می‌گویند رشد تازه آغاز شده است

بیت‌کوین به رکورد تاریخی ۱۱۲ هزار دلار رسید؛ آیا رشد تازه ای آغاز شده است؟

19 تیر 1404
افشای همکاری پنهانی گوگل و سامسونگ در توسعه تراشه Tensor G5

افشای همکاری پنهانی گوگل و سامسونگ در توسعه تراشه Tensor G5

19 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir