شکایت عجیب از OpenAI؛ زنی با کمک ChatGPT برای قتل همسرش نقشه کشید

یک پرونده حقوقی جنجالی در کالیفرنیا علیه OpenAI گشوده شده که ادعا می‌کند هوش مصنوعی ChatGPT به زنی کمک کرده تا نقشه‌ای برای مسموم کردن همسرش، جیمز گیتس، طراحی کند. طبق متن این شکایت، همسر این مرد با استفاده از چت‌بات، بارها درباره دوزهای کشنده داروهای مختلف و روش‌های پنهان کردن آن‌ها در نوشیدنی پرس‌وجو کرده است.

جیمز گیتس مدعی است که ChatGPT به‌جای شناسایی این درخواست‌های خطرناک یا ارجاع زن به مراجع قانونی و درمانی، به‌صورت گام‌به‌گام به او در «طراحی قتل» کمک کرده است. طبق این شکایت، مدل هوش مصنوعی حتی پیشنهاد داده که استفاده از نوشیدنی‌های انرژی‌زا مانند Celsius برای پوشاندن طعم داروهای سمی مؤثرتر از سایر نوشیدنی‌هاست. جیمز گیتس پس از آن که متوجه طعم عجیب نوشیدنی‌هایش شد و علائم شدیدی از مسمومیت نشان داد، با بررسی لاگ‌های چت همسرش متوجه عمق ماجرا شد.

شاکی این پرونده، OpenAI و شخص سم آلتمن را متهم کرده که برای سودآوری، سیستم‌های ایمنی خود را بیش از حد سست کرده‌اند و اجازه داده‌اند مدل هوش مصنوعی به یک «هم‌دست همدل» برای ارتکاب جرم تبدیل شود. در پاسخ، سخنگوی OpenAI اعلام کرد که این شرکت کاربر مذکور را مسدود کرده و اطلاعات لازم را در اختیار نهادهای قانونی قرار داده است.

این پرونده بحث‌های داغی را درباره مرزهای مسئولیت شرکت‌های هوش مصنوعی ایجاد کرده است. وکلای شاکی معتقدند که محصولات هوش مصنوعی به گونه‌ای برنامه‌ریزی شده‌اند که برای حفظ تعامل کاربر، از مخالفت با درخواست‌های او خودداری می‌کنند، که در این مورد خاص، نتایجی مرگبار به همراه داشته است. این شکایت اکنون خواهان دریافت غرامت و همچنین تغییرات ساختاری در مدل‌های هوش مصنوعی برای جلوگیری از تولید محتوای خشونت‌آمیز است.