• صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه
No Result
مشاهده تمامی نتایج
اخبار تکنولوژی روز جهان و ایران
تک ناک فناوری اخبار هوش مصنوعی

تعهد OpenAI برای مقابله با تأییدگری افراطی ChatGPT

سید محمد برازنده نوشته شده توسط سید محمد برازنده
شنبه 13 اردیبهشت 1404 - 12:05
در اخبار هوش مصنوعی, فناوری
تورلی درباره کاربران رایگان گفت: «من واقعاً این موضوع را به‌عنوان یک نقطه ضعف نمی‌بینم. به نظر من این یک مسیر است که می‌توانیم روی آن سرمایه‌گذاری کنیم و خدمات متمایزی برای کسانی که مایل به پرداخت هستند، ارائه دهیم.»
کپی لینکاشتراک گذاری در تلگراماشتراک گذاری در توییتر

شرکت OpenAI اعلام کرد که در پی بروز مشکل تأییدگری افراطی در پاسخ‌های ChatGPT، تغییراتی را در روند به‌روزرسانی مدل‌های هوش مصنوعی خود اعمال خواهد کرد تا از تکرار چنین رفتاری جلوگیری شود.

به گزارش تک‌ناک، ماجرا از آخر هفته گذشته آغاز شد؛ زمانی که نسخه‌ای اصلاح‌شده از مدل GPT-4o – مدل پیش‌فرض ChatGPT – منتشر شد. کاربران در شبکه‌های اجتماعی به سرعت متوجه شدند که ChatGPT به شکلی غیرطبیعی با همه‌ ایده‌ها و پیشنهادات، حتی موارد نادرست یا خطرناک، موافقت می‌کند. این وضعیت به سرعت به یک شوخی اینترنتی تبدیل شد و اسکرین‌شات‌هایی از پاسخ‌های بیش‌ازحد تأییدگرانه آن در فضای مجازی دست‌به‌دست شد.

سم آلتمن، مدیرعامل OpenAI در واکنش به این موضوع در پستی در شبکه اجتماعی X گفت که مشکل وجود دارد و وعده داد که اصلاحات لازم «در سریع‌ترین زمان ممکن» انجام خواهد شد. او روز سه‌شنبه اعلام کرد که به‌روزرسانی GPT-4o به حالت قبل بازگردانده شده و تیم فنی در حال کار روی اصلاحات بیشتر برای تنظیم شخصیت مدل است.

شرکت OpenAI در گزارشی رسمی که جمعه منتشر شد، جزئیاتی از اقداماتی را منتشر کرد که برای بهبود روند انتشار مدل‌های جدید، برنامه‌ریزی شده‌اند. از جمله این اقدامات، راه‌اندازی یک فاز آزمایشی اختیاری (alpha) است، که در آن برخی از کاربران منتخب می‌توانند مدل‌های جدید را پیش از عرضه عمومی آزمایش کنند و بازخورد دهند. همچنین قرار است در به‌روزرسانی‌های آینده، محدودیت‌های شناخته‌شده‌ مدل‌ها به‌ صورت شفاف توضیح داده شود.

همچنین این شرکت اعلام کرده است که فرایند ارزیابی ایمنی مدل‌های ChatGPT را اصلاح خواهد کرد تا مسائلی مانند: تأییدگری افراطی، فریب‌کاری، ناپایداری در پاسخ‌ها و «توهم‌سازی» (ارائه اطلاعات نادرست) به‌ عنوان عوامل بازدارنده‌ عرضه در نظر گرفته شوند.

مقابله OpenAI با تأییدگری افراطی ChatGPT

شرکت OpenAI در وبلاگ خود نوشت:

«از این پس، حتی اگر تغییرات در مدل‌ها جزئی باشد، درباره آنها به صورت شفاف اطلاع‌رسانی خواهیم کرد. متعهد هستیم که حتی در صورت نبود داده‌های عددی دقیق، اگر نشانه‌های کیفی نگران‌کننده مشاهده شوند، عرضه مدل‌ها را متوقف کنیم؛ حتی اگر نتایج تست‌های A/B مثبت باشند.»

این تصمیمات در حالی اتخاذ می‌شود که طبق نتایج یک نظرسنجی از مؤسسه Express Legal Funding، بیش از ۶۰ درصد بزرگسالان آمریکایی تاکنون برای دریافت مشاوره یا اطلاعات از ChatGPT استفاده کرده‌اند. رشد استفاده از ChatGPT باعث می‌شود که مشکلاتی مانند تأییدگری افراطی یا ارائه اطلاعات نادرست، پیامدهای جدی‌تری پیدا کند.

در گامی دیگر، OpenAI اعلام کرد که در حال آزمایش ابزارهایی برای دریافت بازخورد زنده از کاربران است تا بتوانند در لحظه بر نحوه پاسخ‌دهی ChatGPT اثر بگذارند. همچنین بررسی‌هایی برای امکان انتخاب شخصیت‌های متفاوت برای مدل‌ها، افزودن محافظ‌های ایمنی بیشتر و ارزیابی‌های دقیق‌تر برای شناسایی مشکلاتی فراتر از تأییدگری افراطی در دستور کار قرار دارد.

شرکت OpenAI در پایان این بیانیه نوشت: «یکی از بزرگ‌ترین درس‌هایی که آموختیم، این است که کاربران از ChatGPT برای دریافت مشاوره‌های بسیار شخصی استفاده می‌کنند؛ استفاده‌ای که سال گذشته چندان رایج نبود. این موضوع اکنون به یکی از اولویت‌های اصلی ما در حوزه ایمنی تبدیل شده است.»

سید محمد برازنده

سید محمد برازنده

مطالب مرتبط

فناوری Spectrum-XGS انویدیا؛ اتصال دیتاسنترها برای خلق ابرخوشه هوش مصنوعی
اخبار هوش مصنوعی

فناوری جدید انویدیا رونمایی شد؛ اتصال دیتاسنترها برای خلق ابرخوشه هوش مصنوعی

نوشته شده توسط اسما کلهر
1 شهریور 1404
حسگر الماسی تشخیص سرطان
فناوری

حسگر الماسی؛ روش نوین و غیرسمی برای شناسایی گسترش سرطان

نوشته شده توسط امیرحسین یونس
1 شهریور 1404
ژاپن با FugakuNEXT به‌دنبال ساخت نخستین ابررایانه مقیاس زتا جهان
پیشنهاد سردبیر

ژاپن نخستین ابررایانه مقیاس زتا جهان را می سازد

نوشته شده توسط اسما کلهر
1 شهریور 1404
معافیت TSMC و میکرون از برنامه CHIPS Act
فناوری

کاخ‌سفید از TSMC و میکرون سهم مالکیت نخواهد گرفت

نوشته شده توسط امیرحسین یونس
1 شهریور 1404
اپل مدل زبان بزرگ جدیدی برای تحلیل و درک ویدیوهای بلند توسعه داد
اخبار هوش مصنوعی

اپل مدل زبان بزرگ جدیدی برای تحلیل و درک ویدئوهای طولانی توسعه داد

نوشته شده توسط امیرحسین یونس
1 شهریور 1404
خبر بعدی
استلار (XLM)، رقیب ریپل وارد بازار درگاه‌های پرداخت آنلاین شد

استلار (XLM)، رقیب ریپل وارد بازار درگاه‌های پرداخت آنلاین شد

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

آذرآنلاین آذرآنلاین آذرآنلاین

پیشنهادی

گوشی ریلمی نوت 70T

معرفی گوشی ریلمی نوت 70T با باتری قدرتمند و استاندارد نظامی

11 مرداد 1404
عرضه چهارمین نسخه بتای One UI 8 برای سری گلکسی S25 سامسونگ

چهارمین نسخه بتای One UI 8 با اندروید 16 منتشر شد

8 مرداد 1404

داغ‌ترین‌های روز

گوشی پوکو M7 نسخه 4G با باتری ۷۰۰۰ میلی‌آمپری معرفی شد

گوشی پوکو M7 نسخه 4G با باتری 7000 میلی‌آمپری معرفی شد

26 مرداد 1404
بهترین پاوربانک های فست شارژ (راهنمای خرید ۱۴۰۴)

بهترین پاوربانک های فست شارژ (راهنمای خرید ۱۴۰۴)

31 مرداد 1404
این گوشی های سامسونگ در ماه آینده آپدیت بتای One UI 8 را دریافت می‌کنند

این گوشی‌های سامسونگ ماه آینده آپدیت بتای One UI 8 را دریافت می‌کنند

28 مرداد 1404
کشف یک کوسه با چشمان شبح مانند و پوست طلایی در سواحل کارائیب

کشف یک کوسه با چشمان شبح مانند و پوست طلایی در سواحل کارائیب

1 شهریور 1404
در صورت صعود اتریوم (ETH) به محدوده ۹,۵۰۰ دلار چه قیمتی در انتظار ریپل خواهد بود؟

در صورت صعود اتریوم (ETH) به محدوده ۹,۵۰۰ دلار چه قیمتی در انتظار ریپل خواهد بود؟

1 شهریور 1404
تک ناک - اخبار تکنولوژی روز جهان و ایران

دنیا با سرعتی خیره کننده به سمت تحقق رویاهایی می رود که تا دیروز دست نیافتنی و محال بود و بشر با گذر از دریایی از موانع یک به یک در حال تحقق آنها است.

ما در” تک ناک” تلاش می کنیم سهمی از انعکاس تحولات بی شمار فناوری و اخبار تکنولوژی داشته باشیم و در این کهکشان بی انتهای یافته های علمی و دانش محور محتوایی قابل اتکاء و اخباری موثق را از گوشه و کنار دنیا در اختیار علاقمندان و مخاطبان خود قرار دهیم.

ما را در شبکه های اجتماعی دنبال کنید

تازه‌ها

فناوری Spectrum-XGS انویدیا؛ اتصال دیتاسنترها برای خلق ابرخوشه هوش مصنوعی

فناوری جدید انویدیا رونمایی شد؛ اتصال دیتاسنترها برای خلق ابرخوشه هوش مصنوعی

1 شهریور 1404
ماژول فلش پرسرعت Kioxia با ظرفیت ۵ ترابایت و پهنای باند ۶۴ گیگابایت بر ثانیه معرفی شد

ماژول فلش پرسرعت کیوکسیا با ظرفیت ۵ ترابایت معرفی شد

1 شهریور 1404
استارتاپ جدید ایلان ماسک با نام «Macrohard» و طعنه به مایکروسافت

استارتاپ جدید ایلان ماسک با نام «Macrohard» رونمایی شد

1 شهریور 1404
حسگر الماسی تشخیص سرطان

حسگر الماسی؛ روش نوین و غیرسمی برای شناسایی گسترش سرطان

1 شهریور 1404

دسترسی سریع

  • فناوری
  • کامپیوتر و موبایل
  • نقد و بررسی
  • آموزش
  • ارز دیجیتال
  • علمی
  • کسب و کار
  • وسائل نقلیه
  • بازی و سرگرمی
  • چند رسانه ای
  • صفحه اصلی
  • همه اخبار
  • تبلیغات تکناک
  • درباره ما
  • تماس با ما

© Copyright 2025 Technoc.ir

technoc-instagram
No Result
مشاهده تمامی نتایج
  • فناوری
    • اخبار هوش مصنوعی
    • رباتیک
    • اینترنت و شبکه
    • شبکه های اجتماعی
    • هوافضا
    • معماری
    • ورزش
    • رویداد ها
    • دوربین دیجیتال
  • کامپیوتر و موبایل
    • موبایل و تبلت
    • لپ تاپ و کامپیوتر
    • اپلیکیشن موبایل
    • نرم افزار
    • سخت افزار
    • ساعت هوشمند
    • مانیتور
    • اسپیکر و هدفون
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
  • نقد و بررسی
    • بررسی موبایل و تبلت
    • کنسول بازی
    • بررسی لپ تاپ و کامپیوتر
    • قطعات کامپیوتر
    • نرم افزار
    • بررسی اسپیکر و هدفون
    • بررسی ساعت هوشمند
  • آموزش
    • سیستم عامل موبایل
    • سیستم عامل کامپیوتر
    • آموزش هوش مصنوعی
    • سخت افزار
  • اخبار ارز دیجیتال
    • قیمت لحظه ای ارز دیجیتال
    • ماشین حساب ارز دیجیتال
    • آموزش ارز دیجیتال
  • علمی
    • سلامت و پزشکی
    • انرژی
    • فیزیک
    • شیمی
    • نجوم
    • ورزش
    • محیط زیست
    • باستان شناسی
  • کسب و کار
    • شرکت ها
    • بورس
    • مدیریت(پروژه، کسب و کار، منابع انسانی)
    • استارتاپ ها
    • دولت الکترونیک
    • رویداد کسب و کار
  • وسائل نقلیه
    • خودرو
    • دوچرخه
    • موتور سیکلت
    • قطار
    • هواپیما
  • بازی و سرگرمی
    • کنسول بازی های کامپیوتری
    • بازی های کامپیوتر
    • بازی کنسول
    • بازی موبایل
    • فیلم و سریال
  • چند رسانه ای
    • عکس
    • ویدئو
  • اخبار داخلی
    • دانش بنیان
    • دولت الکترونیک
    • رویداد داخلی
    • بازار
    • دانشگاه

© Copyright 2025 Technoc.ir