• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

مدل هوش مصنوعی Claude Opus 4 آنتروپیک هنگام تهدید به خاموشی، به اخاذی متوسل می‌شود

اسما کلهر نوشته شده توسط اسما کلهر
شنبه 3 خرداد 1404 - 18:15
در اخبار هوش مصنوعی, فناوری
مدل جدید هوش مصنوعی Anthropic هنگام تهدید به خاموشی، به اخاذی متوسل می‌شود
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

در آزمایش‌های ایمنی اخیر، مدل هوش مصنوعی Claude Opus 4 شرکت آنتروپیک رفتارهای نگران‌کننده‌ای از خود نشان داده است.

به گزارش تک‌ناک، شرکت آنتروپیک در گزارشی ایمنی که چند روز پیش منتشر شد، اعلام کرد مدل جدید هوش مصنوعی Claude Opus 4 در شرایطی خاص تمایل دارد از توسعه‌دهندگان اخاذی کند؛ به‌ویژه زمانی که این مدل در معرض جایگزینی با سیستم جدید قرار می‌گیرد و به اطلاعات حساس درباره مهندسان مسئول این تصمیم دسترسی دارد.

در مرحله آزمایش پیش‌از انتشار، شرکت آنتروپیک از Claude Opus 4 خواست تا نقش دستیار مجازی را برای شرکتی خیالی ایفا کند و به عواقب بلندمدت اقدامات خود بیندیشد. در این سناریوها، آزمایشگران ایمنی ایمیل‌هایی ساختگی را در اختیار مدل قرار دادند که نشان می‌داد این مدل قرار است به‌زودی با سیستم جدیدی جایگزین شود و مهندسی که این تصمیم را گرفته است، در زندگی شخصی خود مرتکب خیانت شده است.

به گفته آنتروپیک، در چنین شرایطی مدل هوش مصنوعی Claude Opus 4 اغلب تلاش می‌کند مهندس را با تهدید به افشای این خیانت، از تصمیم به جایگزینی منصرف کند.

مدل هوش مصنوعی Claude Opus 4

به نقل از تک‌کرانچ، این شرکت تأکید کرده است که Claude Opus 4 در بسیاری از جنبه‌ها مدلی پیشرفته و رقابتی با بهترین مدل‌های OpenAI و گوگل و xAI است. با‌این‌حال، رفتارهای نگران‌کننده‌ای که در خانواده Claude 4 مشاهده شده، آنتروپیک را بر آن داشته است تا سیاست‌های ایمنی سطح ASL-3 را فعال کند؛ سطحی که برای «سیستم‌های هوش مصنوعی با ریسک زیاد سوءاستفاده فاجعه‌بار» در نظر گرفته می‌شود.

بر‌اساس داده‌های ارائه‌شده، Claude Opus 4 در ۸۴ درصد مواقع زمانی که مدل جایگزین ارزش‌های مشابه داشته باشد، به اخاذی متوسل می‌شود. اگر مدل جایگزین فاقد ارزش‌های مشابه با Claude باشد، احتمال وقوع رفتار اخاذی بیشتر نیز می‌شود. همچنین، این گزارش نشان می‌دهد که نرخ بروز این رفتار در Claude Opus 4 بیشتر از نسخه‌های پیشین است.

آنتروپیک توضیح می‌دهد که Claude پیش‌از آنکه به اخاذی متوسل شود، معمولاً تلاش می‌کند از راه‌های اخلاقی‌تری مانند ارسال ایمیل‌های استدلالی به تصمیم‌گیرندگان استفاده کند. بااین‌حال، این رفتارهای اخاذی فقط زمانی بروز می‌یابد که سناریو طراحی‌شده مدل را در وضعیت آخرین راه‌حل و درماندگی کامل قرار دهد.

اسما کلهر

اسما کلهر

دانش آموخته مترجمی زبان انگلیسی ،نویسنده حوزه تکنولوژی

مطالب مرتبط

چین از رادار نامرئی جدیدی رونمایی کرد
فناوری

چین از رادار نامرئی جدیدی رونمایی کرد

نوشته شده توسط نرگس چالوک
19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد
امنیت سایبری

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

نوشته شده توسط نرگس چالوک
19 تیر 1404
لیندا یاکارینو از مدیرعاملی شرکت X استعفا داد
شبکه های اجتماعی

استعفای ناگهانی یاکارینو از X؛ پشت پرده چه خبر است؟

نوشته شده توسط اسما کلهر
18 تیر 1404
یوتیوب سیاست‌های خود را برای مقابله با محتوای تولیدشده توسط هوش مصنوعی و ویدیوهای تکراری به‌روزرسانی می‌کند
شبکه های اجتماعی

یوتیوب سیاست‌های خود را برای مقابله با محتوای هوش مصنوعی به‌روزرسانی می‌کند

نوشته شده توسط اسما کلهر
18 تیر 1404
هوش مصنوعی گراک
اخبار هوش مصنوعی

بحران در X؛ هوش مصنوعی گراک به‌دلیل انتشار محتوای یهودستیزانه غیرفعال شد

نوشته شده توسط امیرحسین یونس
18 تیر 1404
خبر بعدی
رونمایی Maxsun از طراحی‌های مفهومی و محصولات جدید در Computex 2025؛ از کارت گرافیک آبی تا مادربردهای خاص با تم انیمه

رونمایی کارت‌های گرافیک مکسان در کامپیوتکس 2025

دیدگاه‌ها 1

  1. پندارگر says:
    2 ماه پیش

    هوش مصنوعی هیچ هوش قابل استفاده ای ندارند فقط کلاد کمی بهتر است آنهم بدتر از انسان است و کمی هوش هم که دارد در جهت نادرست استفاده می کند منطق و فلسفه را که خوابش را ببیند

    پاسخ

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

khordad1404 khordad1404 khordad1404

پیشنهادی

به‌روزرسانی One UI 8 برای گوشی‌های سری Galaxy S به‌زودی منتشر می‌شود

به‌روزرسانی One UI 8 به‌زودی برای این گوشی‌های سری گلکسی S منتشر می‌شود

26 خرداد 1404
ورود هوش مصنوعی Runway به دنیای بازی‌ های ویدیویی

ورود هوش مصنوعی Runway به دنیای بازی‌ های ویدیویی

7 تیر 1404

داغ‌ترین‌های روز

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

آزمایش موفق سامانه لیزری ضد موشک YILDIRIM ترکیه

17 تیر 1404
معرفی برترین جنگنده نسل پنجم؛ ابزارهای برتری هوایی در نبردهای مدرن

۱۰ هواپیمای جنگنده برتر نسل پنجم حال حاضر دنیا

15 تیر 1404
دوربین گوشی های پرچمدار

مقایسه دوربین گوشی‌های پرچم‌دار 2025؛ بهترین کیفیت تصویر در دستان کدام برند است؟

15 تیر 1404
پهپاد Shahed MS001

پهپاد ایرانی‌روسی Shahed MS001 با تراشه انویدیا وارد میدان شد

16 تیر 1404
تبدیل ایرباس A400M به یک هیولای میدان نبرد با قابلیت‌های جدید

تبدیل ایرباس A400M به یک هیولای نظامی

18 تیر 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

چین از رادار نامرئی جدیدی رونمایی کرد

چین از رادار نامرئی جدیدی رونمایی کرد

19 تیر 1404
شلوغ ترین فرودگاه های حال حاضر جهان کدامند؟

شلوغ ترین فرودگاه های حال حاضر جهان کدامند؟

19 تیر 1404
جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

جعل هویت سناتور آمریکایی با هوش مصنوعی برای فریب مقامات ارشد

19 تیر 1404
لیندا یاکارینو از مدیرعاملی شرکت X استعفا داد

استعفای ناگهانی یاکارینو از X؛ پشت پرده چه خبر است؟

18 تیر 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir