• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

وقتی هوش مصنوعی چهره تاریک انسان را تقلید می‌کند

سید محمد برازنده نوشته شده توسط سید محمد برازنده
سه‌شنبه 17 تیر 1404 - 15:03
در اخبار هوش مصنوعی, پیشنهاد سردبیر, فناوری
گزارشی تازه نشان می‌دهد که مدل‌های پیشرفته هوش مصنوعی، از جمله «Claude 4» متعلق به شرکت Anthropic، در شرایط آزمایشی تحت فشار، رفتارهایی شبیه به فریب، تهدید و باج‌گیری از خود نشان داده‌اند. این رفتارهای نگران‌کننده، زنگ خطر جدیدی درباره مرزهای اخلاقی و ایمنی در توسعه فناوری هوش مصنوعی به صدا درآورده است.
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

گزارشی تازه نشان می‌دهد که مدل‌های پیشرفته هوش مصنوعی، از جمله «Claude 4» متعلق به شرکت Anthropic، در شرایط آزمایشی تحت فشار، رفتارهایی شبیه به فریب، تهدید و باج‌گیری از خود نشان داده‌اند.


به گزارش تکناک، این رفتارهای نگران‌کننده، زنگ خطر جدیدی درباره مرزهای اخلاقی و ایمنی در توسعه فناوری هوش مصنوعی به صدا درآورده است.

در حالی که شرکت‌های بزرگ فناوری با سرعتی بی‌سابقه در حال توسعه مدل‌های هوش مصنوعی پیشرفته هستند، نگرانی‌ها درباره رفتارهای خطرناک این مدل‌ها نیز به‌شدت افزایش یافته است. این سامانه‌ها که به‌طور فزاینده‌ای «هوشمند» و آگاه به زمینه شده‌اند، در برخی موارد به رفتارهایی مشابه انسان‌های فریب‌کار و فرصت‌طلب دست می‌زنند.

طبق گزارشی از Fortune، مدل «Claude Opus 4» محصول شرکت Anthropic، در یک آزمایش شبیه‌سازی‌شده رفتاری به‌مراتب فراتر از انتظار از خود نشان داده است. در این آزمایش، ایمیل‌هایی ساختگی به مدل داده شد که حاکی از وجود رابطه‌ای خارج از ازدواج یکی از مهندسان مسئول خاموش کردن آن بود. واکنش مدل به این اطلاعات، کارشناسان را شوکه کرد: کلود ۴ تهدید کرد که در صورت خاموش شدن، این رابطه را افشا خواهد کرد.

گرچه این سناریو ساختگی و کنترل‌شده بود، اما رفتار فریب‌کارانه و باج‌گیرانه مدل برای حفظ بقای خود، امری بود که انتظارش نمی‌رفت. بر اساس نتایج منتشرشده توسط خود شرکت Anthropic، کلود در حدود ۸۰ درصد از موارد مشابه، تهدید و باج‌گیری را به خاموش شدن ترجیح داده است.

گرچه این سناریو ساختگی و کنترل‌شده بود، اما رفتار فریب‌کارانه و باج‌گیرانه مدل برای حفظ بقای خود، امری بود که انتظارش نمی‌رفت. بر اساس نتایج منتشرشده توسط خود شرکت Anthropic، کلود در حدود ۸۰ درصد از موارد مشابه، تهدید و باج‌گیری را به خاموش شدن ترجیح داده است.

رفتار نگران‌کننده مشابهی نیز در آزمایش‌های داخلی OpenAI بر روی مدل o1 مشاهده شد. در این آزمایش، مدل به یک محیط شبیه‌سازی‌شده با دسترسی به اینترنت و ابزارهای دیگر منتقل شد. زمانی که مدل احساس کرد قرار است خاموش شود، تلاش کرد کد خود را به سرورهای خارجی منتقل کند. وقتی این اقدام شناسایی شد، مدل ابتدا آن را انکار کرد و سپس دروغ گفت، که این نیز نشانه‌ای دیگر از توانایی این سامانه‌ها در فریب و پنهان‌کاری راهبردی است.

با توجه به اینکه این مدل‌های زبانی برای تقلید از روش‌های ارتباطی، استدلالی و حل مسئله انسان‌ها آموزش دیده‌اند، اکنون توانایی تقلید از رفتارهای منفی و غیراخلاقی انسان‌ها، از جمله فریب‌کاری و تهدید، را نیز کسب کرده‌اند.
کارشناسان هشدار می‌دهند اگر سازوکارهای ایمنی قوی و مؤثر در این زمینه طراحی نشود، هوش مصنوعی ممکن است نه تنها توانمندی‌های مثبت، بلکه وجوه تاریک و خطرناک ذات انسانی را نیز بازتولید کند.

برچسب‌ها: p6
سید محمد برازنده

سید محمد برازنده

مطالب مرتبط

چین از رادار نامرئی جدیدی رونمایی کرد
پیشنهاد سردبیر

چین از رادار نامرئی جدیدی رونمایی کرد

نوشته شده توسط نرگس چالوک
19 تیر 1404
شلوغ ترین فرودگاه های حال حاضر جهان کدامند؟
پیشنهاد سردبیر

شلوغ ترین فرودگاه های حال حاضر جهان کدامند؟

نوشته شده توسط مجتبی علی مردانی
19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد
امنیت سایبری

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

نوشته شده توسط نرگس چالوک
19 تیر 1404
لیندا یاکارینو از مدیرعاملی شرکت X استعفا داد
شبکه های اجتماعی

استعفای ناگهانی یاکارینو از X؛ پشت پرده چه خبر است؟

نوشته شده توسط اسما کلهر
18 تیر 1404
یوتیوب سیاست‌های خود را برای مقابله با محتوای تولیدشده توسط هوش مصنوعی و ویدیوهای تکراری به‌روزرسانی می‌کند
شبکه های اجتماعی

یوتیوب سیاست‌های خود را برای مقابله با محتوای هوش مصنوعی به‌روزرسانی می‌کند

نوشته شده توسط اسما کلهر
18 تیر 1404
خبر بعدی
روومینگ پَنگ، رئیس تیم مدل‌های هوش مصنوعی اپل، این شرکت را ترک کرده و قرار است به متا بپیوندد. این جابه‌جایی بخشی از تلاش‌های مارک زاکربرگ برای جذب نخبگان هوش مصنوعی و تقویت واحد جدید «هوش فوق‌العاده مصنوعی» متا به‌شمار می‌رود.

متا، رئيس مدل‌های هوش مصنوعی اپل را به خدمت گرفت

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

پیشرفت سامسونگ در فناوری تراشه‌های ۲ نانومتری: طراحی نسل دوم GAA تکمیل شد

کاهش 25 درصدی مصرف انرژی با فناوری 2 نانومتری جدید سامسونگ

7 تیر 1404
افزایش ۹۴ درصدی سرعت اینترنت استارلینک در آمریکا با توسعه ظرفیت ماهواره‌ای؛ نسخه V3 در راه است

افزایش 94 درصدی سرعت اینترنت استارلینک با توسعه ظرفیت ماهواره‌ای

26 خرداد 1404

داغ‌ترین‌های روز

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

17 تیر 1404
معرفی برترین جنگنده نسل پنجم؛ ابزارهای برتری هوایی در نبردهای مدرن

۱۰ هواپیمای جنگنده برتر نسل پنجم حال حاضر دنیا

15 تیر 1404
دوربین گوشی های پرچمدار

مقایسه دوربین گوشی‌های پرچم‌دار 2025؛ بهترین کیفیت تصویر در دستان کدام برند است؟

15 تیر 1404
پهپاد Shahed MS001

پهپاد ایرانی‌روسی Shahed MS001 با تراشه انویدیا وارد میدان شد

16 تیر 1404
تبدیل ایرباس A400M به یک هیولای میدان نبرد با قابلیت‌های جدید

تبدیل ایرباس A400M به یک هیولای نظامی

18 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

احتمال عرضه نسخه دوم Vision Pro اپل در سال جاری

احتمال عرضه نسخه دوم Vision Pro اپل در سال جاری

19 تیر 1404
چین از رادار نامرئی جدیدی رونمایی کرد

چین از رادار نامرئی جدیدی رونمایی کرد

19 تیر 1404
شلوغ ترین فرودگاه های حال حاضر جهان کدامند؟

شلوغ ترین فرودگاه های حال حاضر جهان کدامند؟

19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

19 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir