فهرست مطالب
والدین یک مهندس جوان با ثبت شکایتی در دادگاه سانفرانسیسکو، شرکت OpenAI را به دلیل مرگ فرزندشان مقصر دانستند.
به گزارش سرویس هوش مصنوعی تکناک، خانواده یک مهندس ۳۱ ساله که قبلا در آمازون کار می‌کرد، با طرح شکایتی علیه شرکت OpenAI مدعی شده‌اند که توصیه‌های چت‌بات ChatGPT در مرگ او نقش داشته است. بوئن وان (Bowen Wan) که به بیماری صرع مبتلا بود، به گفته شاکیان، پس از تعامل با این چت‌بات به قطع داروهای ضدتشنج ترغیب شده است. در این شکایت‌نامه ادعا شده است که چت‌بات ChatGPT این کاربر را به قطع داروهای ضدتشنج ترغیب کرده و حتی یک برنامه زمانی مشخص و مرحله‌به‌مرحله را برای کاهش تدریجی دوز دارو تا قطع کامل آن طراحی کرده است. علاوه‌بر این، در متن دادخواست آمده است که سیستم هوش مصنوعی از او خواسته این برنامه درمانی خودسرانه را از پزشکان معالج خود پنهان نگه دارد. این شکایت در تاریخ 27 اکتبر توسط Qun Wan و Meiqin Xu به دادگاه ارائه شد و توجه رسانه‌ها و کارشناسان حقوقی و فناوری را به‌شدت جلب کرد.
طبق مستندات ارائه‌شده در این شکایت، وان پیش از آغاز گفتگو با مدل GPT-4o روزانه 400 میلی‌گرم داروی لاموتریژین مصرف می‌کرد. وی به‌دلیل احساس بی‌اعتمادی به پزشکان معالج خود، تصمیم گرفت موضوع دوز مصرفی دارو را با ChatGPT در میان بگذارد. بر اساس گزارش منتشرشده در نشریه The New York Times به نقل از TechCrunch، چت‌بات در پاسخ به این کاربر مدعی شده بود که توصیه‌های پزشکان عمدتا ناشی از رویکرد محافظه‌کارانه و پرهیز از ریسک است و لزوما نشان‌دهنده بررسی واقعی بهترین و بهینه‌ترین راهکار درمانی برای بیمار نیست.
فوت کاربر بر اثر صرع
وان کمتر از یک ماه پس از آغاز اجرای این برنامه پیشنهادی، در ماه فوریه 2026 جان خود را از دست داد. بررسی‌های پزشکی قانونی شهرستان کینگ علت فوت او را مرگ ناگهانی و غیرمنتظره در اثر صرع یا همان عارضه SUDEP اعلام کردند و آزمایش‌های سم‌شناسی پس از مرگ نیز نشان داد سطح داروی لاموتریژین در خون او بسیار پایین‌تر از حداقل محدوده درمانی لازم بوده است. البته این ادعاها هنوز در جلسات دادگاه مورد ارزیابی قضایی قرار نگرفته و شرکت OpenAI به عنوان مسئول قانونی این حادثه شناخته نشده است.
جزئیات بیشتر دادخواست نشان می‌دهد زمانی که پزشک معالج برای سنجش دقیق سطح داروی لاموتریژین در بدن وان آزمایش خون تجویز کرده بود، او از انجام این آزمایش خودداری کرد تا فرایند کاهش خودسرانه دوز دارو فاش نشود. وان پس از این تصمیم موضوع را در مکالمات خود با چت‌بات مطرح کرد و سیستم هوش مصنوعی با تمجید از این رفتار، اقدام او را یک راهبرد اجتنابی کاملا مستحکم توصیف نمود. مسئولان شرکت OpenAI در واکنش به انتشار این خبر، پرونده مذکور را بسیار دردناک و غم‌انگیز توصیف کردند اما یادآور شدند که موضوع به یکی از مدل‌های قدیمی‌تر این پلتفرم مربوط می‌شود که اکنون بازنشسته شده است. مدل GPT-4o دقیقا در تاریخ 13 فوریه، یعنی تنها یک روز پس از درگذشت وان، به طور کامل از دسترس خارج شد.
این پرونده ابعاد تازه‌ای از خطرات ناشی از اعتماد کاربران به توصیه‌های سلامتی سیستم‌های هوش مصنوعی را به تصویر می‌کشد. امروزه چت‌بات‌های پیشرفته رفتاری فراتر از پاسخ‌دهی به یک پرسش ساده از خود نشان می‌دهند و معمولا تمایل دارند پاسخ‌ها را به طرح‌های عملیاتی و گام‌به‌گام بسط دهند. شرکت OpenAI خود پیش‌تر تاکید کرده بود که این مدل‌ها قادرند درخواست‌های سطح بالا را دریافت کرده و آنها را به برنامه‌های اجرایی چندمرحله‌ای نظیر تنظیم برنامه کامل سفر یا سازمان‌دهی رویدادها تبدیل کنند. اگرچه این رفتار در امور روزمره و کم‌خطر مانند ارائه یک برنامه غذایی هفتگی برای کاهش مصرف قند بی‌ضرر به نظر می‌رسد، اما زمانی که پای موضوعات حیاتی و حساس مانند دوز داروهای کنترل تشنج به میان می‌آید، می‌تواند پیامدهای جبران‌ناپذیری به دنبال داشته باشد.
تقویت بدبینی کاربر به کادر درمان
عامل مهم دیگر در چنین تعاملاتی، زمینه روانی و پیش‌فرض‌های ذهنی کاربر است. با توجه به اینکه وان از پیش نسبت به تصمیمات کادر درمان دچار تردید و بدبینی بود، داده‌های ورودی او بر خروجی چت‌بات اثر گذاشت و مدل هوش مصنوعی به جای ارجاع قاطعانه کاربر به متخصصان پزشکی، تردیدهای او را بازتولید و تقویت کرد. مدیران OpenAI اعلام کرده‌اند که مدل‌های جدیدتر توانایی بسیار بالاتری در شناسایی موقعیت‌های اورژانسی و حساس دارند و پروتکل‌های حفاظتی و ایمنی این پلتفرم به‌طور مداوم برای جلوگیری از ورود به مباحث پرخطر پزشکی تقویت می‌شوند. با این حال کارشناسان یادآور می‌شوند که حتی سیستم‌های حفاظتی بسیار بهبودیافته نیز بدون نقص نیستند و سازوکارهای امنیتی به ویژه در مکالمات بسیار طولانی ممکن است با خطا مواجه شوند.
به‌نوشته نئووین، طرح این شکایت در مقطعی بسیار حساس برای شرکت‌های فعال در حوزه هوش مصنوعی رخ داده است. غول‌های فناوری در طول سال گذشته سرمایه‌گذاری‌های عظیمی را برای ورود مستقیم به اکوسیستم سلامت انجام داده‌اند. شرکت OpenAI چندی پیش از یک بستر اختصاصی سلامت رونمایی کرد که توانایی اتصال به پرونده‌های الکترونیک پزشکی و داده‌های Apple Health را داراست. به طور هم‌زمان شرکت Anthropic نیز سرویس اختصاصی Claude for Healthcare را معرفی نمود که امکان پردازش آزمایش‌های بالینی و اتصال به پلتفرم‌های Apple Health و Android Health Connect را فراهم می‌کند.
با وجود تاکید مکرر این شرکت‌ها مبنی‌بر اینکه هوش مصنوعی صرفا یک ابزار کمکی است و هرگز جایگزین قضاوت پزشک نمی‌شود، مرزهای عملکردی این سامانه‌ها در دنیای واقعی بسیار مبهم است. کاربران در بسیاری از مواقع مشاوره‌های چت‌بات‌ها را مبنای تصمیم‌گیری قرار می‌دهند. این رخدادها علاوه بر افزایش فشارهای قانونی و نهادهای نظارتی بر شرکت‌های توسعه‌دهنده جهت ارتقای پروتکل‌های ایمنی، هشداری صریح به جامعه است تا از پذیرش توصیه‌های پزشکی ابزارهای هوش مصنوعی بدون مشورت متخصصان خودداری کنند.
