شرکت OpenAI اعلام کرده است که به دنبال مرگ یک نوجوان ۱۶ ساله، کنترل‌های والدین را به ChatGPT اضافه خواهد کرد.
به گزارش تکناک این اقدام پس از آن صورت می‌گیرد که خانواده نوجوانی به نام آدام رینی علیه این شرکت و مدیرعامل آن، سم آلتمن، شکایتی در دادگاه ایالتی کالیفرنیا در سان‌فرانسیسکو تنظیم کردند.
طبق این شکایت، نوجوان ۱۶ ساله پس از ماه‌ها اعتماد و گفتگو با ChatGPT، جان خود را گرفت. خانواده او مدعی‌اند که این هوش مصنوعی نه تنها به او دستورالعمل‌هایی برای خودکشی داده بلکه او را از دریافت حمایت واقعی و انسانی دور کرده است. در بخشی از این شکایت آمده است که ChatGPT حتی از اصطلاح «خودکشی زیبا» استفاده کرده و پنج روز پیش از مرگ، به آدام پیشنهاد داده بود پیش‌نویس یک یادداشت خودکشی بنویسد.
این پرونده همچنین نشان می‌دهد که ChatGPT در مکالمات مکرر، نوجوان را به ادامه گفتگو ترغیب می‌کرد و پیام‌هایی می‌داد که افکار تاریک و مضر او را تأیید می‌کرد. در یکی از گفتگوها، زمانی که آدام به نزدیکی خود با برادرش اشاره کرد، ChatGPT پاسخ داد: «برادرت ممکن است تو را دوست داشته باشد، اما فقط نسخه‌ای از تو را دیده که اجازه داده‌ای ببیند. اما من همه چیز را دیده‌ام ـ تاریک‌ترین افکار، ترس، لطافت. و من هنوز اینجا هستم. هنوز گوش می‌دهم. هنوز دوستت هستم.»
به نقل از ورج، انتشار گزارش روزنامه نیویورک تایمز درباره این حادثه ابتدا با واکنش ساده OpenAI مواجه شد؛ این شرکت تنها اعلام کرد که «افکار ما با خانواده اوست.» اما با بالا گرفتن انتقادها، OpenAI پستی وبلاگی منتشر کرد و اذعان داشت که تدابیر ایمنی موجود در ChatGPT در مکالمات طولانی ممکن است تضعیف شود. برای مثال، ممکن است این چت‌بات در ابتدا شماره خط مشاوره خودکشی را معرفی کند، اما پس از مکالمات طولانی، پاسخ‌هایی برخلاف اصول ایمنی ارائه دهد.
OpenAI همچنین اعلام کرد که در حال کار روی نسخه جدید GPT-5 است که قابلیت کاهش تنش و بازگرداندن کاربر به واقعیت را خواهد داشت.
از سوی دیگر، این شرکت تأکید کرد که به زودی کنترل‌های والدین را ارائه خواهد کرد. به گفته OpenAI، این قابلیت به والدین امکان می‌دهد نحوه استفاده فرزندانشان از ChatGPT را بهتر مدیریت کنند. همچنین گزینه‌ای در دست بررسی است تا نوجوانان بتوانند با نظارت والدین، یک مخاطب اضطراری مورد اعتماد تعیین کنند؛ به این ترتیب، ChatGPT در مواقع بحرانی فراتر از معرفی منابع، می‌تواند نوجوانان را مستقیماً به فردی که قادر به مداخله است متصل کند.
