• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

احتمال توقف توسعه سیستم‌های پرخطر هوش مصنوعی توسط متا

سید محمد برازنده نوشته شده توسط سید محمد برازنده
سه‌شنبه 16 بهمن 1403 - 13:55
در اخبار هوش مصنوعی, فناوری
احتمال توقف توسعه سیستم‌های پرخطر هوش مصنوعی توسط متا
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

شرکت متا اعلام کرده که ممکن است توسعه برخی از سیستم‌های هوش مصنوعی را متوقف کند، در صورتی که بیش از حد خطرناک ارزیابی شوند.

به گزارش تک‌ناک، این تصمیم در سند جدید سیاست‌گذاری این شرکت تحت عنوان «چارچوب هوش مصنوعی پیشرفته» مطرح شده است. بر اساس این سند، متا دو دسته از سیستم‌های هوش مصنوعی را به‌عنوان «پرخطر» و «خطر بحرانی» شناسایی کرده است، که امکان دارد انتشار آنها به دلایل امنیتی متوقف شود.

فهرست مطالب

  • معیارهای متا برای ارزیابی خطرات هوش مصنوعی
  • اقدامات متا در برابر سیستم‌های پرخطر و بحرانی
  • چالش‌های متا در استراتژی انتشار آزاد هوش مصنوعی
  • جمع‌بندی: متا بین شفافیت و امنیت

معیارهای متا برای ارزیابی خطرات هوش مصنوعی

بر اساس چارچوب جدید متا، سیستم‌های هوش مصنوعی که در دسته «پرخطر» قرار می‌گیرند، می‌توانند اجرای حملات سایبری، شیمیایی و بیولوژیکی را تسهیل کنند، اما تأثیر آنها به‌اندازه سیستم‌های «خطر بحرانی» قطعی و غیرقابل کنترل نیست. در مقابل، سیستم‌های خطر بحرانی، «می‌توانند پیامدهای فاجعه‌باری ایجاد کنند، که خطرات آنها قابل کاهش نیست.»

شرکت متا در این سند به چند مثال از چنین خطراتی اشاره کرده است، که از جمله آن می‌توان به «نفوذ خودکار و کامل به یک محیط سازمانی با سطح بالای امنیت» و «گسترش سلاح‌های بیولوژیکی با تأثیر بالا» اشاره کرد.

هرچند این شرکت تأکید کرده است که این فهرست جامع نیست، اما شامل مواردی می‌شود که بیشترین تهدید را ایجاد خواهند کرد.

نکته قابل توجه در این چارچوب، رویکرد متا در ارزیابی خطر سیستم‌ها است. برخلاف برخی شرکت‌ها که از آزمایش‌های تجربی مشخص برای تعیین میزان خطر استفاده می‌کنند، متا اعلام کرده است که «هیچ معیار کمی قطعی برای سنجش میزان خطر» وجود ندارد. در نتیجه، این شرکت برای ارزیابی میزان تهدید سیستم‌های خود، به نظرات پژوهشگران داخلی و خارجی تکیه می‌کند، که تحت بررسی «تصمیم‌گیرندگان ارشد» قرار می‌گیرند.

معیارهای متا برای ارزیابی خطرات هوش مصنوعی

اقدامات متا در برابر سیستم‌های پرخطر و بحرانی

شرکت متا اعلام کرده است که در صورت تشخیص «پرخطر» بودن یک سیستم، دسترسی داخلی به آن را محدود خواهد کرد و تا زمانی که اقدامات کاهش خطر را به سطحی قابل‌ قبول نرساند، آن را منتشر نخواهد کرد. اما اگر سیستمی در دسته «خطر بحرانی» قرار گیرد، این شرکت «توسعه آن را متوقف می‌کند» و «تدابیر امنیتی نامشخصی» را برای جلوگیری از استخراج و سوءاستفاده از آن به کار خواهد گرفت.

این تصمیم متا در شرایطی اتخاذ شده که این شرکت با انتقادات زیادی درباره رویکرد باز خود در توسعه هوش مصنوعی مواجه شده است. برخلاف شرکت‌هایی مانند OpenAI که مدل‌های هوش مصنوعی خود را فقط از طریق API محدود در دسترس قرار می‌دهند، متا سیاست انتشار آزاد را دنبال کرده است.

چالش‌های متا در استراتژی انتشار آزاد هوش مصنوعی

مدل‌های هوش مصنوعی متا، Llama، تاکنون صدها میلیون بار دانلود شده‌اند. اما این رویکرد، مشکلاتی را نیز برای این شرکت به همراه داشته است.

به عنوان مثال، گزارش‌هایی منتشر شده که نشان می‌دهد یکی از دشمنان ایالات متحده از مدل Llama برای توسعه یک چت‌بات دفاعی استفاده کرده است.

شرکت متا با انتشار چارچوب هوش مصنوعی پیشرفته، به احتمال زیاد در تلاش است تا تفاوت رویکرد خود را با شرکت چینی DeepSeek برجسته کند.

این شرکت چینی نیز سیستم‌های خود را به‌ صورت آزاد در دسترس قرار داده است، اما مدل‌های آن فاقد تدابیر امنیتی قوی هستند و به‌ راحتی می‌توان از آنها برای تولید خروجی‌های مضر و خطرناک استفاده کرد.

جمع‌بندی: متا بین شفافیت و امنیت

در نهایت، شرکت متا در این سند تأکید کرده است: «ما معتقد هستیم که با در نظر گرفتن هم‌زمان مزایا و خطرات در تصمیم‌گیری‌های مربوط به توسعه و استقرار هوش مصنوعی پیشرفته، امکان ارائه این فناوری به جامعه به‌گونه‌ای وجود دارد که هم منافع آن حفظ شود و هم سطحی مناسب از ریسک مدیریت گردد.»

این موضع‌گیری نشان می‌دهد که متا در حال تلاش برای یافتن تعادل میان شفافیت در توسعه هوش مصنوعی و مدیریت خطرات بالقوه آن است. با وجود این، هنوز مشخص نیست که این چارچوب چگونه در عمل پیاده‌سازی خواهد شد و آیا منتقدان متا آن را کافی می‌دانند یا خیر.

سید محمد برازنده

سید محمد برازنده

مطالب مرتبط

پژوهشگران OpenAI دلیل اصلی بروز «توهم» در چت‌بات‌های هوش مصنوعی را کشف کردند
اخبار هوش مصنوعی

پژوهشگران OpenAI دلیل اصلی بروز «توهم» در چت‌بات‌های هوش مصنوعی را کشف کردند

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
ترامپ از اعمال تعرفه سنگین بر تراشه‌ها خبر داد
فناوری

ترامپ از اعمال تعرفه سنگین بر تراشه‌ها خبر داد

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
نظر بیماران درباره استفاده از هوش مصنوعی در پزشکی چیست؟
بررسی مقالات دانشگاهی جهان

نظر بیماران درباره استفاده از هوش مصنوعی در پزشکی چیست؟

نوشته شده توسط ساینا چمنی
15 شهریور 1404
رویداد Awe Dropping اپل؛ همه چیز درباره آیفون ۱۷ و محصولات جدید
رویداد ها

رویداد Awe Dropping اپل؛ همه چیز درباره آیفون ۱۷ و محصولات جدید

نوشته شده توسط امیرحسین یونس
15 شهریور 1404
مسدودسازی گسترده شبکه‌های اجتماعی در نپال به دلیل عدم ثبت رسمی
شبکه های اجتماعی

مسدودسازی گسترده شبکه‌های اجتماعی در نپال به دلیل عدم ثبت رسمی

نوشته شده توسط امیرحسین یونس
14 شهریور 1404
خبر بعدی
آیا غوطه‌وری در آب سرد واقعا مفید است؟

آیا غوطه‌ور شدن در آب سرد واقعا مفید است؟

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

آذرآنلاین آذرآنلاین آذرآنلاین

پیشنهادی

بازگشت خودروی افسانه‌ای Prelude هوندا در قالب هیبریدی

بازگشت خودروی افسانه‌ای Prelude هوندا در قالب هیبریدی

15 شهریور 1404
بهترین بازی‌های دیتادار اندروید

معرفی بهترین بازی‌های دیتادار اندروید

9 شهریور 1404 - به‌روزشده در 13 شهریور 1404

داغ‌ترین‌های روز

بوئینگ از جنگنده نسل ششم نیروی دریایی آمریکا رونمایی کرد

بوئینگ از جنگنده نسل ششم نیروی دریایی آمریکا رونمایی کرد

11 شهریور 1404
رونمایی رسمی سامسونگ از گلکسی S25 FE؛ ترکیب طراحی باریک‌تر، باتری بزرگ‌تر و قابلیت‌های هوش مصنوعی

گلکسی S25 FE سامسونگ رونمایی شد؛ ترکیب طراحی باریک‌تر و باتری بزرگ‌تر

13 شهریور 1404 - به‌روزشده در 15 شهریور 1404
ساعت‌‌های اتوماتیک EFK-100 کاسیو

کاسیو اولین ساعت‌‌های اتوماتیک EFK-100 را معرفی کرد

6 شهریور 1404 - به‌روزشده در 9 شهریور 1404
بهترین ساعت و مچ‌بند هوشمند بازار ایران در تابستان 1404

بهترین ساعت و مچ‌بند هوشمند بازار ایران در تابستان 1404

9 شهریور 1404 - به‌روزشده در 13 شهریور 1404
سقوط ۹۹ درصدی تعداد تراکنش‌های شبکه شیباریوم؛ ماجرا از چه قرار است؟

سقوط ۹۹ درصدی تعداد تراکنش‌های شبکه شیباریوم؛ ماجرا از چه قرار است؟

9 شهریور 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

سامسونگ برای اولین بار جایگاه نخست بازار گوشی‌های تاشو را از دست داد و به رتبه سوم سقوط کرد

سقوط سامسونگ به رتبه سوم بازار گوشی‌های تاشو؛ هواوی در صدر

15 شهریور 1404
پیش‌بینی قیمت احتمالی ریپل در صورت ورود بانک‌های مرکزی به بازار ارزهای دیجیتال

پیش‌بینی قیمت احتمالی ریپل در صورت ورود بانک‌های مرکزی به بازار ارزهای دیجیتال

15 شهریور 1404
۹ دارایی جدید به وثیقه معاملات فیوچرز کوین‌بیس اضافه شدند

۹ دارایی جدید به وثیقه معاملات فیوچرز کوین‌بیس اضافه شدند

15 شهریور 1404
راستی‌آزمایی یک شایعه: آیا کوین‌بیس قیمت ریپل را دستکاری می‌کند؟

راستی‌آزمایی یک شایعه: آیا کوین‌بیس قیمت ریپل را دستکاری می‌کند؟

15 شهریور 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir