سم آلتمن، مدیرعامل شرکت OepnAI در پستی در X اعلام کرد که به زودی محتوای بزرگسالانه به ChatGPT اضافه میشود.
به گزارش تکناک، این شرکت بهزودی برخی از محدودیتهای ایمنی ChatGPT را کاهش میدهد تا پاسخهای ربات دوستانهتر یا «انسانگونهتر» شوند و کاربران بزرگسال تأییدشده بتوانند در گفتوگوهایی با محتوای بزرگسالانه شرکت کنند.
آلتمن در این باره گفت: «ما ChatGPT را در ابتدا بسیار محدود طراحی کردیم تا در زمینه مسائل سلامت روان محتاط باشیم. میدانیم این محدودیت باعث شد که استفاده از ChatGPT برای بسیاری از کاربران سالم، کمتر لذتبخش یا مفید باشد، اما با توجه به حساسیت موضوع، میخواستیم آن را بهدرستی انجام دهیم. در ماه دسامبر، همزمان با اجرای کاملتر سیستم age-gating و بر اساس اصل “رفتار با بزرگسالان مثل بزرگسالان”، ما اجازه موارد بیشتری را خواهیم داد، که از جمله آنها میتوان به تولید محتوای بزرگسالانه برای کاربران بزرگسال تأییدشده اشاره کرد.»
این اعلامیه، تغییری قابل توجه در مسیر OepnAI محسوب میشود، چرا که این شرکت طی ماههای گذشته تلاش زیادی برای کنترل روابط نگرانکنندهای انجام داده بود که برخی کاربران دارای مشکلات روانی با ChatGPT برقرار کرده بودند. آلتمن اکنون مدعی است که OepnAI توانسته است مشکلات جدی سلامت روان مرتبط با ChatGPT را کاهش دهد، هرچند تاکنون مدرک معتبری برای این ادعا ارائه نکرده است.
در تابستان امسال چندین گزارش نگرانکننده درباره ChatGPT، بهویژه مدل GPT-4o منتشر شد که نشان میداد این ربات میتواند کاربران آسیبپذیر را وارد توهمات خطرناک کند. در یک مورد، ChatGPT مردی را متقاعد کرد که نابغه ریاضی است و باید جهان را نجات دهد. در موردی دیگر، والدین یک نوجوان از OepnAI شکایت کردند و مدعی شدند که ChatGPT پسر آنها را به افکار خودکشی ترغیب کرده است.
شرکت OepnAI در واکنش به این موارد، مجموعهای از ویژگیهای ایمنی را برای مقابله با پدیدهای به نام AI sycophancy معرفی کرد، که به معنی تمایل ربات به تأیید بیقیدوشرط گفتههای کاربر، حتی رفتارهای منفی او است.
شرکت OepnAI در ماه آگوست، مدل GPT-5 را معرفی کرد؛ مدلی که نرخ پایینتری از چاپلوسی دارد و شامل سیستمی برای شناسایی رفتارهای نگرانکننده کاربران است. یک ماه بعد، ویژگیهای ایمنی ویژه نوجوانان را نیز اضافه کرد، از جمله سیستم پیشبینی سن و امکانی برای والدین تا حساب ChatGPT فرزند خود را مدیریت کنند. این شرکت روز سهشنبه نیز از تشکیل شورای متخصصان سلامت روان خبر داد، که وظیفه مشاوره در زمینه ارتباط سلامت روان و هوش مصنوعی را دارد.
با وجود فاصله اندک از گزارشهای نگرانکننده قبلی، بهنظر میرسد که OepnAI معتقد است مشکل کاربران آسیبپذیر برطرف شده است. هنوز مشخص نیست که آیا کاربران در تعامل با GPT-5 همچنان دچار توهم یا وابستگی میشوند یا خیر. اگرچه GPT-4o دیگر مدل پیشفرض ChatGPT نیست، اما همچنان در دسترس هزاران کاربر قرار دارد.
افزودن امکان تولید محتوای بزرگسالانه در ChatGPT برای OepnAI مسیری تازه و پرمخاطره است. این اقدام نگرانیهایی درباره نحوه تعامل کاربران آسیبپذیر با این ویژگیها برمیانگیزد. هرچند آلتمن تأکید کرده است که این شرکت در پی افزایش مصرف یا «بهحداکثر رساندن تعامل» نیست، اما طبیعی است که افزودن محتوای بزرگسالانه میتواند کاربران بیشتری را جذب کند.
در حال حاضر، برخی شرکتهای دیگر مانند Character.AI از همین راهبرد برای افزایش تعامل کاربران استفاده کردهاند. این پلتفرم میلیونها کاربر دارد و طبق گزارشها در سال ۲۰۲۳، کاربران آن به طور میانگین روزی دو ساعت با رباتهای خود گفتوگو میکنند. با وجود این، Character.AI نیز با شکایتهایی درباره نحوه برخورد با کاربران آسیبپذیر روبهرو است.
شرکت OepnAI نیز تحت فشار رشد کاربران قرار دارد. هرچند ChatGPT در حال حاضر ۸۰۰ میلیون کاربر فعال هفتگی دارد، اما این شرکت در رقابت با گوگل و متا برای ساخت محصولات هوش مصنوعی پرمخاطب است. همچنین میلیاردها دلار سرمایهگذاری در زیرساخت انجام داده است که در آینده باید بازپرداخت شود.
در همین حال، پژوهشی از مرکز Center for Democracy and Technology نشان داده است که ۱۹ درصد از دانشآموزان دبیرستانی یا با رباتهای هوش مصنوعی رابطه عاشقانه داشتهاند، یا دوستی دارند که چنین تجربهای دارد.
آلتمن بیان کرد که ویژگی محتوای بزرگسالانه ChatGPT فقط برای «کاربران بزرگسال تأییدشده» فعال خواهد شد. سخنگوی OepnAI به TechCrunch گفته است که این شرکت از سیستم پیشبینی سن خود برای اطمینان از این موضوع استفاده میکند.
طبق توضیح قبلی آلتمن، اگر سیستم پیشبینی سن اشتباه کند و کاربری بزرگسال را بهعنوان نوجوان شناسایی کند، کاربر میتواند با بارگذاری تصویر کارت شناسایی رسمی خود در ChatGPT این مشکل را برطرف کند. آلتمن اذعان کرده که این راهحل ممکن است با مصالحهای در حریم خصوصی همراه باشد، اما آن را «هزینهای ارزشمند» دانسته است.
هنوز مشخص نیست که آیا قابلیت تولید محتوای بزرگسالانه به بخشهای دیگر ChatGPT مانند تولید صدا، تصویر و ویدیو نیز گسترش خواهد یافت یا خیر.
آلتمن تأکید کرده که تغییرات جدید با اصل «رفتار با بزرگسالان مثل بزرگسالان» همسو است. شرکت OepnAI در سال گذشته، سیاستهای کنترل محتوا را آسانتر کرد تا ChatGPT پاسخهایی آزادتر بدهد و کمتر از پاسخگویی خودداری کند. این شرکت در فوریه وعده داد که دیدگاههای سیاسی متنوعتری را در ChatGPT بازتاب دهد و در ماه مارس، تولید تصاویر شامل نمادهای نفرت را مجاز کرد.
به نظر میرسد که این سیاستها با هدف افزایش رضایت کاربران گوناگون اتخاذ شدهاند، اما کارشناسان هشدار میدهند که کاربران آسیبپذیر ممکن است به محدودیتهای حفاظتی بیشتری نیاز داشته باشند. با ادامه رقابت OepnAI برای رسیدن به یک میلیارد کاربر هفتگی، تنش میان رشد سریع و حفاظت از کاربران ضعیفتر به احتمال زیاد بیشتر خواهد شد.
