• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

احتمال توقف توسعه سیستم‌های پرخطر هوش مصنوعی توسط متا

سید محمد برازنده نوشته شده توسط سید محمد برازنده
سه‌شنبه 16 بهمن 1403 - 13:55
در اخبار هوش مصنوعی, فناوری
احتمال توقف توسعه سیستم‌های پرخطر هوش مصنوعی توسط متا
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

شرکت متا اعلام کرده که ممکن است توسعه برخی از سیستم‌های هوش مصنوعی را متوقف کند، در صورتی که بیش از حد خطرناک ارزیابی شوند.

به گزارش تک‌ناک، این تصمیم در سند جدید سیاست‌گذاری این شرکت تحت عنوان «چارچوب هوش مصنوعی پیشرفته» مطرح شده است. بر اساس این سند، متا دو دسته از سیستم‌های هوش مصنوعی را به‌عنوان «پرخطر» و «خطر بحرانی» شناسایی کرده است، که امکان دارد انتشار آنها به دلایل امنیتی متوقف شود.

فهرست مطالب

  • معیارهای متا برای ارزیابی خطرات هوش مصنوعی
  • اقدامات متا در برابر سیستم‌های پرخطر و بحرانی
  • چالش‌های متا در استراتژی انتشار آزاد هوش مصنوعی
  • جمع‌بندی: متا بین شفافیت و امنیت

معیارهای متا برای ارزیابی خطرات هوش مصنوعی

بر اساس چارچوب جدید متا، سیستم‌های هوش مصنوعی که در دسته «پرخطر» قرار می‌گیرند، می‌توانند اجرای حملات سایبری، شیمیایی و بیولوژیکی را تسهیل کنند، اما تأثیر آنها به‌اندازه سیستم‌های «خطر بحرانی» قطعی و غیرقابل کنترل نیست. در مقابل، سیستم‌های خطر بحرانی، «می‌توانند پیامدهای فاجعه‌باری ایجاد کنند، که خطرات آنها قابل کاهش نیست.»

شرکت متا در این سند به چند مثال از چنین خطراتی اشاره کرده است، که از جمله آن می‌توان به «نفوذ خودکار و کامل به یک محیط سازمانی با سطح بالای امنیت» و «گسترش سلاح‌های بیولوژیکی با تأثیر بالا» اشاره کرد.

هرچند این شرکت تأکید کرده است که این فهرست جامع نیست، اما شامل مواردی می‌شود که بیشترین تهدید را ایجاد خواهند کرد.

نکته قابل توجه در این چارچوب، رویکرد متا در ارزیابی خطر سیستم‌ها است. برخلاف برخی شرکت‌ها که از آزمایش‌های تجربی مشخص برای تعیین میزان خطر استفاده می‌کنند، متا اعلام کرده است که «هیچ معیار کمی قطعی برای سنجش میزان خطر» وجود ندارد. در نتیجه، این شرکت برای ارزیابی میزان تهدید سیستم‌های خود، به نظرات پژوهشگران داخلی و خارجی تکیه می‌کند، که تحت بررسی «تصمیم‌گیرندگان ارشد» قرار می‌گیرند.

معیارهای متا برای ارزیابی خطرات هوش مصنوعی

اقدامات متا در برابر سیستم‌های پرخطر و بحرانی

شرکت متا اعلام کرده است که در صورت تشخیص «پرخطر» بودن یک سیستم، دسترسی داخلی به آن را محدود خواهد کرد و تا زمانی که اقدامات کاهش خطر را به سطحی قابل‌ قبول نرساند، آن را منتشر نخواهد کرد. اما اگر سیستمی در دسته «خطر بحرانی» قرار گیرد، این شرکت «توسعه آن را متوقف می‌کند» و «تدابیر امنیتی نامشخصی» را برای جلوگیری از استخراج و سوءاستفاده از آن به کار خواهد گرفت.

این تصمیم متا در شرایطی اتخاذ شده که این شرکت با انتقادات زیادی درباره رویکرد باز خود در توسعه هوش مصنوعی مواجه شده است. برخلاف شرکت‌هایی مانند OpenAI که مدل‌های هوش مصنوعی خود را فقط از طریق API محدود در دسترس قرار می‌دهند، متا سیاست انتشار آزاد را دنبال کرده است.

چالش‌های متا در استراتژی انتشار آزاد هوش مصنوعی

مدل‌های هوش مصنوعی متا، Llama، تاکنون صدها میلیون بار دانلود شده‌اند. اما این رویکرد، مشکلاتی را نیز برای این شرکت به همراه داشته است.

به عنوان مثال، گزارش‌هایی منتشر شده که نشان می‌دهد یکی از دشمنان ایالات متحده از مدل Llama برای توسعه یک چت‌بات دفاعی استفاده کرده است.

شرکت متا با انتشار چارچوب هوش مصنوعی پیشرفته، به احتمال زیاد در تلاش است تا تفاوت رویکرد خود را با شرکت چینی DeepSeek برجسته کند.

این شرکت چینی نیز سیستم‌های خود را به‌ صورت آزاد در دسترس قرار داده است، اما مدل‌های آن فاقد تدابیر امنیتی قوی هستند و به‌ راحتی می‌توان از آنها برای تولید خروجی‌های مضر و خطرناک استفاده کرد.

جمع‌بندی: متا بین شفافیت و امنیت

در نهایت، شرکت متا در این سند تأکید کرده است: «ما معتقد هستیم که با در نظر گرفتن هم‌زمان مزایا و خطرات در تصمیم‌گیری‌های مربوط به توسعه و استقرار هوش مصنوعی پیشرفته، امکان ارائه این فناوری به جامعه به‌گونه‌ای وجود دارد که هم منافع آن حفظ شود و هم سطحی مناسب از ریسک مدیریت گردد.»

این موضع‌گیری نشان می‌دهد که متا در حال تلاش برای یافتن تعادل میان شفافیت در توسعه هوش مصنوعی و مدیریت خطرات بالقوه آن است. با وجود این، هنوز مشخص نیست که این چارچوب چگونه در عمل پیاده‌سازی خواهد شد و آیا منتقدان متا آن را کافی می‌دانند یا خیر.

سید محمد برازنده

سید محمد برازنده

مطالب مرتبط

درخواست برای محدودیت هوش‌مصنوعی
اخبار هوش مصنوعی

بیشتر آمریکایی‌ها خواستار محدودیت بر هوش‌مصنوعی هستند

نوشته شده توسط امیرحسین یونس
26 شهریور 1404
گوگل با جمنای تاریخ‌ساز شد: کسب مدال طلا در معتبرترین رقابت برنامه‌نویسی جهان
پیشنهاد سردبیر

گوگل با جمنای تاریخ‌ساز شد؛ کسب مدال طلا در معتبرترین رقابت برنامه‌نویسی جهان

نوشته شده توسط اسما کلهر
26 شهریور 1404
گزارش OpenAI: ویرایش متن و کدنویسی، اصلی‌ترین کاربردهای ChatGPT در جهان
اخبار هوش مصنوعی

ویرایش متن و کدنویسی اصلی‌ترین کاربردهای ChatGPT در جهان است

نوشته شده توسط امیرحسین یونس
26 شهریور 1404
تراشه اختصاصی استارلینک
اینترنت و شبکه

استارلینک با تراشه اختصاصی، اینترنت 5G ماهواره‌ای را به تمام گوشی‌ها می‌آورد

نوشته شده توسط امیرحسین یونس
26 شهریور 1404
Seller Assistant آمازون
اخبار هوش مصنوعی

عامل هوش مصنوعی جدید آمازون برای مدیریت هوشمند فروش رونمایی شد

نوشته شده توسط امیرحسین یونس
26 شهریور 1404
خبر بعدی
آیا غوطه‌وری در آب سرد واقعا مفید است؟

آیا غوطه‌ور شدن در آب سرد واقعا مفید است؟

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

آذرآنلاین آذرآنلاین آذرآنلاین

پیشنهادی

جایزه ۱۰ میلیون دلاری برای هکرهای روسی

آمریکا برای سه هکر روسی تحت تعقیب ۱۰ میلیون دلار جایزه تعیین کرد

14 شهریور 1404
تماشای ماه‌گرفتگی کامل ۱۶ شهریور را از دست ندهید

تماشای ماه‌گرفتگی کامل 16 شهریور را از دست ندهید

6 شهریور 1404

داغ‌ترین‌های روز

قیمت HDD و SSD به‌دلیل افزایش تقاضای مراکز داده برای هوش مصنوعی در ماه‌های آینده تا ۳۰ درصد رشد خواهد کرد.

هوش مصنوعی قیمت HDD و SSD را تا ۳۰ درصد بالا می برد

25 شهریور 1404
HyperOS 3 روی ۸۰ دستگاه شیائومی

شیائومی آزمایش HyperOS 3 مبتنی‌بر اندروید 16 را روی 80 دستگاه آغاز کرد

24 شهریور 1404 - به‌روزشده در 25 شهریور 1404
سیم کارت eSIM

راهنمای کامل سیم کارت eSIM؛ نسل آینده سیم‌کارت‌های بدون شیار فیزیکی

23 شهریور 1404
راهنمای خرید مودم 1404؛ انتخاب بهترین مودم برای اینترنت خانگی و حرفه‌ای

راهنمای خرید مودم ۱۴۰۴ ؛ انتخاب بهترین مودم برای اینترنت خانگی و حرفه‌ای

23 شهریور 1404
شیء ناشناس در یمن موشک آمریکایی را بلعید و ناپدید شد

شیء ناشناس در یمن موشک آمریکایی را بلعید و ناپدید شد

25 شهریور 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

ناتینگ در تیزر Nothing OS 4.0 از رابط کاربری یکپارچه و داشبورد نظارت بر AI رونمایی کرد

انتشار جزییات جدید از رابط کاربری Nothing OS 4.0

26 شهریور 1404
درخواست برای محدودیت هوش‌مصنوعی

بیشتر آمریکایی‌ها خواستار محدودیت بر هوش‌مصنوعی هستند

26 شهریور 1404
خطای «محدودیت دانلود روزانه» کاربران گوشی‌های سامسونگ را سردرگم کرد

خطای «محدودیت دانلود روزانه» کاربران گوشی‌های سامسونگ را سردرگم کرد

26 شهریور 1404
ساعت Venu 4 گارمین با عمر باتری ۱۲ روزه ابزارهای تحلیلی ارائه می‌دهد

ساعت Venu 4 گارمین با عمر باتری ۱۲ روزه رونمایی شد

26 شهریور 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir