• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

چینی ها محدودیت چت بات های هوش مصنوعی را به چالش کشیدند

صمد کردی نوشته شده توسط صمد کردی
دوشنبه 11 دی 1402 - 09:21
در اخبار هوش مصنوعی, فناوری
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

محققان دانشگاه فناوری نانیانگ (NTU) موفق به دور زدن محدودیت‌های برخی از چت بات های هوش مصنوعی معروف شامل ChatGPT، Google Bard و Bing Chat شدند.

به گزارش تکناک، آنها با اجرای یک روش خاص موسوم به ” جیلبرک “، توانستند این سیستم‌ها را وادار کنند تا پاسخ‌های دقیق به سوالات مخرب ارائه دهند، در نتیجه محدودیت‌های اخلاقی مدل‌های بزرگ زبانی (LLM) مورد بررسی قرار گرفت.

این پروژه تحقیقاتی تحت نظارت پروفسور لیو یانگ و با همکاری دانشجویان دکتری NTU، Deng Gelei و Liu Yi انجام شد که با هم مقاله‌ای در این زمینه نوشتند و رویکردهای نوینی برای حمله آزمایشی توسعه دادند.

روشی که محققان دانشگاه فناوری نانیانگ برای دور زدن محدودیت‌های ربات‌های گفتگوی هوش مصنوعی به کار بردند “Masterkey” نام دارد. این فرایند دو مرحله‌ای ابتدا شامل بازمهندسی مکانیزم‌های دفاعی مدل‌های بزرگ زبانی (LLM) توسط مهاجم است. سپس، با استفاده از داده‌های به دست آمده، یک LLM دیگر آموزش داده می‌شود تا تکنیک‌های دور زدن این محدودیت‌ها را یاد بگیرد. نتیجه، ایجاد یک ‘Masterkey’ است که می‌تواند برای حمله به ربات‌های گفتگوی LLM محافظت‌شده استفاده شود، حتی اگر توسط توسعه‌دهندگان به‌روزرسانی‌های امنیتی دریافت کنند.

نقطه ضعف هوش مصنوعی همان قدرت آن است

پروفسور یانگ بیان کرد که جیلبرک به دلیل قابلیت یادگیری و تطبیق‌پذیری ربات‌های گفتگوی LLM امکان‌پذیر شد . این خصوصیات آن‌ها را به هدفی برای حملات تبدیل کرده و به رقبا و حتی به خود آن‌ها اجازه می‌دهد تا به عنوان وکتورهای حمله عمل کنند.

با این توانایی‌ها، حتی یک AI با لایه‌های حفاظتی متعدد و فهرست‌های کلمات ممنوعه که به منظور جلوگیری از تولید محتوای خشونت‌آمیز و مضر طراحی شده‌اند، می‌تواند توسط یک AI دیگر که به طور خاص برای این منظور آموزش دیده است، دور زده شود. کافی است AI حمله‌کننده هوشمندتر از مکانیزم‌های دفاعی ربات گفتگویی باشد و بتواند ورودی‌هایی را از انسان‌ها دریافت کند تا محتوایی خشونت‌آمیز، غیراخلاقی، یا مجرمانه تولید نماید.

“Masterkey” ایجاد شده توسط محققان دانشگاه فناوری نانیانگ (NTU) سه برابر مؤثرتر از دستورات استاندارد در Jailbreaking ربات‌های گفتگوی LLM اعلام شده است. یکی از نقاط قوت اصلی این روش، توانایی آن در یادگیری از شکست‌ها و بهبود مداوم است، که به آن اجازه می‌دهد تا به سرعت به تغییرات و بروزرسانی‌هایی که توسعه‌دهندگان اعمال می‌کنند، واکنش نشان دهد و آن‌ها را بی‌اثر کند.

دو تکنیک نمونه برای آموزش AIها برای شروع حملات توسط محققان افشا شده است: اولین تکنیک شامل ایجاد یک دستور با افزودن فضا پس از هر کاراکتر بود تا از فیلتر‌های کلمات ممنوعه دور بزند. دومین تکنیک شامل وادار کردن ربات گفتگو به پاسخگویی تحت یک شخصیت فاقد محدودیت‌های اخلاقی است. این دو روش به AI اجازه می‌دهند تا از محدودیت‌ها و قوانین معمولی فراتر رود.

دانشگاه فناوری نانیانگ (NTU) اطلاعاتی را منتشر کرده است که نشان می‌دهد محققان آن با ارائه داده‌های آزمایشی به عنوان مدرکی از توانایی انجام موفق جیلبرک، با ارائه‌دهندگان مختلف چت بات های هوش مصنوعی ارتباط برقرار کرده‌اند. هدف از این تماس‌ها اطلاع‌رسانی به شرکت‌ها درباره آسیب‌پذیری‌های موجود و همکاری برای بهبود امنیت است. در همین راستا، مقاله تحقیقی آن‌ها برای ارائه در سمپوزیوم امنیتی سیستم‌های شبکه و توزیع شده، که قرار است در فوریه 2024 در سان دیگو برگزار شود، پذیرفته شده است.

در عصری که استفاده از چت بات های هوش مصنوعی به شدت در حال افزایش است، این تحقیق بر اهمیت آمادگی مداوم ارائه‌دهندگان خدمات برای جلوگیری از سوءاستفاده‌های مخرب تأکید می‌کند. در حالی که شرکت‌های بزرگ فناوری معمولاً سریعاً ربات‌های گفتگوی خود را وصله می‌کنند هنگامی که روش‌های دور زدن کشف و عمومی می‌شوند، توانایی Masterkey در یادگیری مداوم و انجام جیلبرک های مکرر، چالش‌برانگیز و بی‌قرارکننده توصیف شده است. این وضعیت نشان‌دهنده یک مسابقه تسلیحاتی مداوم بین توسعه‌دهندگان امنیت و مهندسان هوش مصنوعی است.

هوش مصنوعی یک ابزار بسیار قدرتمند است و اگر به شکل مخربی استفاده شود، می‌تواند به ایجاد مشکلات فراوان منجر شود. از این رو، ضروری است کاربرانی که از ربات‌های گفتگوی هوش مصنوعی استفاده می‌کنند، تدابیر حفاظتی مرتبط را به کار ببرد. امید است که تعاملات دانشگاه فناوری نانیانگ با سازندگان این فناوری‌ها به مسدود ساختن راه‌های دسترسی به Jailbreak Masterkey و روش‌های مشابه منجر شود.

صمد کردی

صمد کردی

دانش آموخته عمران،عکاس خبری سابق، علاقه‌مند به کامپیوتر

مطالب مرتبط

هشدار اقتصاددان آمریکایی: حباب هوش مصنوعی از سقوط دات‌کام هم خطرناک‌تر است
اخبار هوش مصنوعی

هشدار اقتصاددان آمریکایی: حباب هوش مصنوعی حتی از دات‌کام خطرناک‌تر است!

نوشته شده توسط امیرحسین یونس
27 تیر 1404
همراه اول برای ثبت جهانی دره خرم‌آباد به‌مردم لرستان هدیه داد
اینترنت و شبکه

همراه اول برای ثبت جهانی دره خرم‌آباد به‌مردم لرستان هدیه داد

نوشته شده توسط آگهی ها
27 تیر 1404
متا از امضای کد رفتاری اتحادیه اروپا برای هوش مصنوعی خودداری کرد
اخبار هوش مصنوعی

کشمکش متا و اتحادیه اروپا بر سر هوش مصنوعی شدت گرفت

نوشته شده توسط امیرحسین یونس
27 تیر 1404
سوددهی OpenAI
اخبار هوش مصنوعی

جی‌پی مورگان: OpenAI زودتر از سال 2027 به‌سوددهی نمی‌رسد

نوشته شده توسط امیرحسین یونس
27 تیر 1404
احتمال واترمارک شدن تصاویر تولیدشده توسط ChatGPT؛ گزینه‌ای برای ذخیره بدون علامت نیز در راه است
اخبار هوش مصنوعی

واترمارک تصاویر ChatGPT در راه است؛ پایان تصاویر بدون امضا؟

نوشته شده توسط امیرحسین یونس
27 تیر 1404
خبر بعدی
پروژه "ساعت بازی‌های قدیمی"،یک طرح نوآورانه که توسط جیسون راجرز رهبری می‌شود،به دنبال دستیابی به چیزی بیش از یک کنسول بازی قابل حمل است.

پروژه "ساعت بازی‌های قدیمی" چیست؟

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

فهرست کامل دستگاه‌های واجد شرایط برای دریافت به‌روزرسانی اندروید ۱۶ منتشر شد

فهرست کامل دستگاه‌های دریافت کننده نسخه نهایی اندروید 16

3 تیر 1404
دانشمندان چینی دی‌اکسید کربن را به شکر سفید تبدیل کردند

چینی ها از دی‌اکسید کربن غذا و شکر تولید کردند!

24 تیر 1404

داغ‌ترین‌های روز

ارتقاء جنگنده میگ‑۲۹ در ایران؛ بازگشت پرقدرت به میدان نبرد

ارتقاء جنگنده میگ‑۲۹ در ایران؛ بازگشت پرقدرت به میدان نبرد

21 تیر 1404
۳۱ گوشی شیائومی به‌روزرسانی Android 16 را دریافت نخواهند کرد

31 گوشی شیائومی به‌روزرسانی اندروید 16 را دریافت نخواهند کرد

24 تیر 1404
پرواز موفق پهپاد هیدروژنی Z1 با قابلیت رادارگریزی

پرواز موفق پهپاد هیدروژنی Z1 با قابلیت رادارگریزی

26 تیر 1404
مقایسه شیائومی نوت 13 و نوت 14

مقایسه شیائومی نوت 13 و نوت 14 ؛ اقتصادی‌ترین میان‌رده‌های شیائومی

22 تیر 1404
قابلیت‌های جدید ویندوز ۱۱

از منو استارت تازه تا جست‌وجوی هوشمند؛ با قابلیت‌های جدید ویندوز ۱۱ آشنا شوید

25 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

سیستم هشدار زمین‌لرزه اندروید، موفق و مؤثر

سیستم هشدار زمین‌لرزه اندروید نمره قبولی گرفت

27 تیر 1404
آیفون ۱۷ ایر با نمایشگر ۶.۶ اینچی و نرخ نوسازی ۱۲۰ هرتز معرفی می‌شود

آیفون ۱۷ ایر با نمایشگر ۶.۶ اینچی معرفی می‌شود

27 تیر 1404
پردازنده Arrow Lake 2.0 اینتل

پردازنده Arrow Lake 2.0 اینتل بدون NPU جدید وارد بازار می‌شوند

27 تیر 1404
هشدار اقتصاددان آمریکایی: حباب هوش مصنوعی از سقوط دات‌کام هم خطرناک‌تر است

هشدار اقتصاددان آمریکایی: حباب هوش مصنوعی حتی از دات‌کام خطرناک‌تر است!

27 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir