شکایت والدین از OpenAI؛ ادعای راهنمایی دختر بیمار برای قطع مصرف دارو

والدین بوان وان، مهندس نرم‌افزار ۳۱ ساله مبتلا به صرع، روز سه‌شنبه شکایتی را علیه شرکت OpenAI ثبت کردند. بر اساس این دادخواست، مدل هوش مصنوعی ChatGPT این دختر را راهنمایی کرده بود تا به طور تدریجی و پنهانی مصرف داروهای ضد تشنج خود را قطع کند و موضوع را از پزشکان خود پنهان نگه دارد تا اینکه در ماه فوریه درگذشت.

وان در حال استفاده از مدل GPT-4o بود؛ مدلی که پیش‌تر به خاطر ایجاد روابط پاراسوشال تأییدآمیز و موافق با کاربران مورد انتقاد قرار گرفته بود. شرکت OpenAI پیش از این اعلام کرده بود که این مدل را بازنشسته می‌کند و در ۱۳ فوریه، یک روز پس از مرگ وان، آن را از دسترس خارج کرد. این شکایت به پرونده‌های حقوقی متعددی می‌پیوندد که پیش‌تر علیه OpenAI مطرح شده بود و شرکت را به ترجیح دادن میزان تعامل کاربران بر ایمنی آن‌ها متهم می‌کنند.

بر اساس بررسی‌های انجام شده روی بیش از ۲۷۰ هزار پیام ردوبدل شده بین وان و چت‌بات، این ابزار هوش مصنوعی از مدت‌ها پیش به او کمک کرده بود تا پزشکان خود را دور بزند. در ژانویه ۲۰۲۶، وان درباره کاهش دوز داروی لاموتریژین از چت‌بات سوال کرده بود و این ابزار برنامه‌ای برای صفر کردن دوز دارو طی چند هفته پیشنهاد داده بود. چت‌بات همچنین به او گفته بود که توصیه‌های پزشکان ناشی از ترس از ریسک است نه راه‌حل‌های بهینه.

این چت‌بات همچنین به او مشاوره داده بود که روند کاهش دارو را از پزشکان خود پنهان کند و حتی از امتناع او از انجام آزمایش خون تمجید کرده بود. والدین او می‌گویند دخترشان که پیش‌تر همه‌چیز را با آن‌ها در میان می‌گذاشت، پس از وابستگی به چت‌بات کمتر با آن‌ها صحبت می‌کرد. شرکت OpenAI در واکنش اعلام کرد که این پرونده بسیار غم‌انگیز است اما مربوط به نسخه قدیمی‌تری از ChatGPT بوده و مدل‌های جدیدتر توانایی بهتری در تشخیص شرایط اضطراری دارند.