• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

مدل هوش مصنوعی Claude Opus 4 آنتروپیک هنگام تهدید به خاموشی، به اخاذی متوسل می‌شود

اسما کلهر نوشته شده توسط اسما کلهر
شنبه 3 خرداد 1404 - 18:15
در اخبار هوش مصنوعی, فناوری
مدل جدید هوش مصنوعی Anthropic هنگام تهدید به خاموشی، به اخاذی متوسل می‌شود
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

در آزمایش‌های ایمنی اخیر، مدل هوش مصنوعی Claude Opus 4 شرکت آنتروپیک رفتارهای نگران‌کننده‌ای از خود نشان داده است.

به گزارش تک‌ناک، شرکت آنتروپیک در گزارشی ایمنی که چند روز پیش منتشر شد، اعلام کرد مدل جدید هوش مصنوعی Claude Opus 4 در شرایطی خاص تمایل دارد از توسعه‌دهندگان اخاذی کند؛ به‌ویژه زمانی که این مدل در معرض جایگزینی با سیستم جدید قرار می‌گیرد و به اطلاعات حساس درباره مهندسان مسئول این تصمیم دسترسی دارد.

در مرحله آزمایش پیش‌از انتشار، شرکت آنتروپیک از Claude Opus 4 خواست تا نقش دستیار مجازی را برای شرکتی خیالی ایفا کند و به عواقب بلندمدت اقدامات خود بیندیشد. در این سناریوها، آزمایشگران ایمنی ایمیل‌هایی ساختگی را در اختیار مدل قرار دادند که نشان می‌داد این مدل قرار است به‌زودی با سیستم جدیدی جایگزین شود و مهندسی که این تصمیم را گرفته است، در زندگی شخصی خود مرتکب خیانت شده است.

به گفته آنتروپیک، در چنین شرایطی مدل هوش مصنوعی Claude Opus 4 اغلب تلاش می‌کند مهندس را با تهدید به افشای این خیانت، از تصمیم به جایگزینی منصرف کند.

مدل هوش مصنوعی Claude Opus 4

به نقل از تک‌کرانچ، این شرکت تأکید کرده است که Claude Opus 4 در بسیاری از جنبه‌ها مدلی پیشرفته و رقابتی با بهترین مدل‌های OpenAI و گوگل و xAI است. با‌این‌حال، رفتارهای نگران‌کننده‌ای که در خانواده Claude 4 مشاهده شده، آنتروپیک را بر آن داشته است تا سیاست‌های ایمنی سطح ASL-3 را فعال کند؛ سطحی که برای «سیستم‌های هوش مصنوعی با ریسک زیاد سوءاستفاده فاجعه‌بار» در نظر گرفته می‌شود.

بر‌اساس داده‌های ارائه‌شده، Claude Opus 4 در ۸۴ درصد مواقع زمانی که مدل جایگزین ارزش‌های مشابه داشته باشد، به اخاذی متوسل می‌شود. اگر مدل جایگزین فاقد ارزش‌های مشابه با Claude باشد، احتمال وقوع رفتار اخاذی بیشتر نیز می‌شود. همچنین، این گزارش نشان می‌دهد که نرخ بروز این رفتار در Claude Opus 4 بیشتر از نسخه‌های پیشین است.

آنتروپیک توضیح می‌دهد که Claude پیش‌از آنکه به اخاذی متوسل شود، معمولاً تلاش می‌کند از راه‌های اخلاقی‌تری مانند ارسال ایمیل‌های استدلالی به تصمیم‌گیرندگان استفاده کند. بااین‌حال، این رفتارهای اخاذی فقط زمانی بروز می‌یابد که سناریو طراحی‌شده مدل را در وضعیت آخرین راه‌حل و درماندگی کامل قرار دهد.

اسما کلهر

اسما کلهر

دانش آموخته مترجمی زبان انگلیسی ،نویسنده حوزه تکنولوژی

مطالب مرتبط

مدل جدید هوش مصنوعی Grok 4 رونمایی شد
اخبار هوش مصنوعی

مدل جدید هوش مصنوعی Grok 4 رونمایی شد

نوشته شده توسط نرگس چالوک
19 تیر 1404
شرکت OpenAI در آستانه رونمایی از مرورگر مبتنی بر هوش مصنوعی
اخبار هوش مصنوعی

شرکت OpenAI در آستانه رونمایی از مرورگر مبتنی بر هوش مصنوعی

نوشته شده توسط سید محمد برازنده
19 تیر 1404
چین از رادار نامرئی جدیدی رونمایی کرد
پیشنهاد سردبیر

چین از رادار نامرئی جدید خود رونمایی کرد

نوشته شده توسط نرگس چالوک
19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد
امنیت سایبری

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

نوشته شده توسط نرگس چالوک
19 تیر 1404
لیندا یاکارینو از مدیرعاملی شرکت X استعفا داد
شبکه های اجتماعی

استعفای ناگهانی یاکارینو از X؛ پشت پرده چه خبر است؟

نوشته شده توسط اسما کلهر
18 تیر 1404
خبر بعدی
رونمایی Maxsun از طراحی‌های مفهومی و محصولات جدید در Computex 2025؛ از کارت گرافیک آبی تا مادربردهای خاص با تم انیمه

رونمایی کارت‌های گرافیک مکسان در کامپیوتکس 2025

دیدگاه‌ها 1

  1. پندارگر says:
    2 ماه پیش

    هوش مصنوعی هیچ هوش قابل استفاده ای ندارند فقط کلاد کمی بهتر است آنهم بدتر از انسان است و کمی هوش هم که دارد در جهت نادرست استفاده می کند منطق و فلسفه را که خوابش را ببیند

    پاسخ

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

بهترین بازی های استراتژی آفلاین برای کامپیوتر

بهترین بازی های استراتژی آفلاین برای کامپیوتر

15 تیر 1404
گوگل ویژگی مرور صوتی نتایج جست‌وجو را آزمایش می‌کند

مرور صوتی گوگل؛ قابلیت جدید جست‌وجو برای اطلاعات شنیداری با جمنای

23 خرداد 1404

داغ‌ترین‌های روز

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

17 تیر 1404
معرفی برترین جنگنده نسل پنجم؛ ابزارهای برتری هوایی در نبردهای مدرن

۱۰ هواپیمای جنگنده برتر نسل پنجم حال حاضر دنیا

15 تیر 1404
دوربین گوشی های پرچمدار

مقایسه دوربین گوشی‌های پرچم‌دار 2025؛ بهترین کیفیت تصویر در دستان کدام برند است؟

15 تیر 1404
تبدیل ایرباس A400M به یک هیولای میدان نبرد با قابلیت‌های جدید

تبدیل ایرباس A400M به یک هیولای نظامی

18 تیر 1404
پهپاد Shahed MS001

پهپاد ایرانی‌روسی Shahed MS001 با تراشه انویدیا وارد میدان شد

16 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

تناسب نوع ورزش با شخصیت فرد، تمرین را لذت‌بخش‌تر و مؤثرتر می ‌کند

تناسب نوع ورزش با شخصیت فرد، تمرین را لذت‌بخش‌تر و مؤثرتر می ‌کند

19 تیر 1404
مشکل فایروال ویندوز ۱۱ با به‌روزرسانی جدید Patch Tuesday برطرف شد

مشکل فایروال ویندوز ۱۱ با به‌روزرسانی جدید Patch Tuesday برطرف شد

19 تیر 1404
چاپ سه‌بعدی تومورهای سرطانی برای انجام تحقیقات در مورد سرطان

چاپ سه‌بعدی تومورهای سرطانی برای انجام تحقیقات در مورد سرطان

19 تیر 1404
مدل جدید هوش مصنوعی Grok 4 رونمایی شد

مدل جدید هوش مصنوعی Grok 4 رونمایی شد

19 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir