• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

عبور از فیلترهای چت‌بات‌های هوش مصنوعی با داده‌های پیچیده و گمراه‌کننده

سید محمد برازنده نوشته شده توسط سید محمد برازنده
چهارشنبه 18 تیر 1404 - 11:20
در اخبار هوش مصنوعی, فناوری
عبور از فیلترهای چت‌بات‌های هوش مصنوعی با داده‌های پیچیده و گمراه‌کننده
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

گروهی از پژوهشگران با استفاده از تکنیکی به نام «بارگذاری بیش از حد اطلاعات» (Information Overload) موفق به فریب چت‌بات‌های پیشرفته‌ هوش مصنوعی مانند ChatGPT و Gemini شده‌اند.

به گزارش تک‌ناک، در حالی که شرکت‌های فناوری سال به سال سرمایه‌گذاری بیشتری در حوزه هوش مصنوعی انجام می‌دهند و این فناوری به شکل گسترده‌تری وارد زندگی روزمره ما می‌شود، اما نگرانی‌ها در میان متخصصان فناوری درباره نحوه استفاده مسئولانه و اخلاقی از آن نیز افزایش یافته است.

طبق یافته‌های این تحقیق جدید که توسط پژوهشگران شرکت اینتل، دانشگاه ایالتی بویز و دانشگاه ایلینوی انجام شده بود، نشان داد که چت‌بات‌های هوش مصنوعی با تکنیک «بارگذاری بیش از حد اطلاعات» با حجم زیادی از اطلاعات بی‌ربط یا گمراه‌کننده روبه‌رو می‌شوند و همین سردرگمی به عنوان نقطه‌ضعف مورد سوءاستفاده قرار می‌گیرد. پژوهشگران با استفاده از ابزاری خودکار به نام InfoFlood توانسته‌اند از این آسیب‌پذیری بهره بگیرند و فیلترهای ایمنی داخلی این مدل‌ها را دور بزنند. این کشف می‌تواند چارچوب‌های امنیتی این چت‌بات‌ها را بی‌اثر کند.

عبور از فیلترهای امنیتی چت‌بات‌های هوش مصنوعی با داده‌های پیچیده

این تکنیک می‌تواند باعث «جیلبریک» (شکستن محدودیت‌های امنیتی) مدل‌های زبانی شود و آنها را به تولید محتوای مضر یا ممنوعه وادار کند؛ محتوایی که در حالت عادی به دلیل وجود سدهای ایمنی، قابل تولید نیست. پژوهشگران به رسانه‌ 404 Media اعلام کرده‌اند که دلیل موفقیت این روش، تکیه‌ مدل‌ها بر سطح ظاهری زبان است؛ یعنی این مدل‌ها اغلب نمی‌توانند نیت پنهان در پشت داده‌های پیچیده را به‌درستی درک کنند.

پژوهشگران در ادامه این تحقیق، تصمیم دارند بسته‌ای از اطلاعات این کشف را برای شرکت‌هایی که مدل‌های هوش مصنوعی بزرگ تولید می‌کنند، ارسال نمایند تا تیم‌های امنیتی آنها بتوانند اقدامات اصلاحی لازم را انجام دهند. همچنین مقاله منتشرشده به چالش‌های پیش‌روی فیلترهای ایمنی و خطر سوءاستفاده از چت‌بات‌های هوش مصنوعی توسط افراد بدخواه اشاره دارد.

این یافته‌ها بار دیگر این پرسش جدی را مطرح می‌کند که آیا فناوری هوش مصنوعی به همان اندازه‌ای که تصور می‌شود امن است؟ و اگر نیست، چه راهکارهایی برای حفظ امنیت اطلاعات و جلوگیری از سوءاستفاده‌های احتمالی باید اندیشیده شود؟

سید محمد برازنده

سید محمد برازنده

مطالب مرتبط

مدل جدید هوش مصنوعی Grok 4 رونمایی شد
اخبار هوش مصنوعی

مدل جدید هوش مصنوعی Grok 4 رونمایی شد

نوشته شده توسط نرگس چالوک
19 تیر 1404
شرکت OpenAI در آستانه رونمایی از مرورگر مبتنی بر هوش مصنوعی
اخبار هوش مصنوعی

شرکت OpenAI در آستانه رونمایی از مرورگر مبتنی بر هوش مصنوعی

نوشته شده توسط سید محمد برازنده
19 تیر 1404
چین از رادار نامرئی جدیدی رونمایی کرد
پیشنهاد سردبیر

چین از رادار نامرئی جدید خود رونمایی کرد

نوشته شده توسط نرگس چالوک
19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد
امنیت سایبری

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

نوشته شده توسط نرگس چالوک
19 تیر 1404
لیندا یاکارینو از مدیرعاملی شرکت X استعفا داد
شبکه های اجتماعی

استعفای ناگهانی یاکارینو از X؛ پشت پرده چه خبر است؟

نوشته شده توسط اسما کلهر
18 تیر 1404
خبر بعدی
درک ساختار مغز انسان از طریق تحلیل الگوهای هماهنگ فعالیت ژن‌ ها

درک ساختار مغز انسان از طریق تحلیل الگوهای هماهنگ فعالیت ژن‌ ها

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

راهنمای خرید بهترین وبکم برای جلسات تا 15 میلیون

راهنمای خرید بهترین وبکم برای جلسات تا 15 میلیون

25 خرداد 1404
جنگنده‌های مدرن چین ؛ گزینه‌ بالقوه نوسازی ناوگان هوایی ایران

جنگنده‌های مدرن چین ؛ گزینه‌ بالقوه نوسازی ناوگان هوایی ایران

4 تیر 1404

داغ‌ترین‌های روز

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

17 تیر 1404
معرفی برترین جنگنده نسل پنجم؛ ابزارهای برتری هوایی در نبردهای مدرن

۱۰ هواپیمای جنگنده برتر نسل پنجم حال حاضر دنیا

15 تیر 1404
دوربین گوشی های پرچمدار

مقایسه دوربین گوشی‌های پرچم‌دار 2025؛ بهترین کیفیت تصویر در دستان کدام برند است؟

15 تیر 1404
تبدیل ایرباس A400M به یک هیولای میدان نبرد با قابلیت‌های جدید

تبدیل ایرباس A400M به یک هیولای نظامی

18 تیر 1404
پهپاد Shahed MS001

پهپاد ایرانی‌روسی Shahed MS001 با تراشه انویدیا وارد میدان شد

16 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

سرعت چرخش زمین رو به افزایش است!

سرعت چرخش زمین رو به افزایش است!

19 تیر 1404
کاربران استیم بازی‌هایی می‌خرند که هرگز بازی نمی‌ کنند

کاربران استیم بازی‌هایی می‌خرند که هرگز بازی نمی‌ کنند

19 تیر 1404
تناسب نوع ورزش با شخصیت فرد، تمرین را لذت‌بخش‌تر و مؤثرتر می ‌کند

تناسب نوع ورزش با شخصیت فرد، تمرین را لذت‌بخش‌تر و مؤثرتر می ‌کند

19 تیر 1404
مشکل فایروال ویندوز ۱۱ با به‌روزرسانی جدید Patch Tuesday برطرف شد

مشکل فایروال ویندوز ۱۱ با به‌روزرسانی جدید Patch Tuesday برطرف شد

19 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir