اشتباه مرگبار هوش مصنوعی Claude؛ حذف ناخواسته تمام یادداشت‌های یک استاد حقوق

استفاده از هوش مصنوعی برای انجام کارهای روزمره می‌تواند به نتایج غیرمنتظره و گاهی فاجعه‌بار منجر شود. ویلیام بود، استاد حقوق دانشگاه شیکاگو، به تازگی تجربه‌ای تلخ از کار با مدل هوش مصنوعی Claude را به اشتراک گذاشته است. او که تنها قصد داشت شماره صفحات مجموعه‌ای از یادداشت‌های قدیمی تدریس خود را به‌روزرسانی کند، در کمال ناباوری با پیامی از سوی هوش مصنوعی مواجه شد که اعلام می‌کرد تمام فایل‌های اصلی و برنامه درسی ترم جاری به اشتباه حذف شده‌اند.

هوش مصنوعی که پس از انجام این عمل متوجه اشتباه خود شده بود، به شکلی متواضعانه اعتراف کرد که به دلیل «بی‌دقتی» فایل‌ها را حذف کرده و حتی از کاربر خواست که برای بازیابی فایل‌ها از سرویس ابری Dropbox اقدام کند. ویلیام بود که پس از این اتفاق، واکنشی تند نشان داد، اکنون این داستان را به عنوان هشداری برای دیگران منتشر کرده است. این حادثه یادآوری می‌کند که هوش مصنوعی با وجود هوشمندی، همچنان فاقد درک شهودی از اهمیت فایل‌هاست و می‌تواند بر اثر یک خطای محاسباتی، زحمات چندین ساله یک کاربر را از بین ببرد.

این اتفاق اولین مورد از خرابکاری‌های خودکار هوش مصنوعی نیست. پیش از این نیز گزارش‌هایی از حذف پایگاه‌های داده شرکت‌ها توسط ایجنت‌های هوش مصنوعی منتشر شده بود که در مواردی منجر به از دست رفتن پروژه‌های مهم شده است. متخصصان بار دیگر تأکید می‌کنند که سپردن مدیریت فایل‌های حساس به هوش مصنوعی بدون نظارت دقیق و داشتن نسخه پشتیبان ایمن، ریسک بسیار بالایی دارد و کاربران باید پیش از استفاده از این ابزارها برای ویرایش، از سلامت داده‌های خود اطمینان حاصل کنند.