نتایج پژوهش آنتروپیک: متخصصان نظرات تصادفی ایجنت‌های هوش مصنوعی را به عنوان نظرات خود می‌پذیرند
پژوهش جدید شرکت آنتروپیک نشان می‌دهد که متخصصان در وظایف تحلیلی تا ۸۶ درصد از نظرات تصادفی تعیین‌شده توسط ایجنت‌های هوش مصنوعی پیروی می‌کنند و بیشتر آن‌ها معتقدند که نتیجه نهایی متعلق به خودشان است. این مسئله نگرانی‌هایی را درباره ایجاد اجماع کاذب در پژوهش‌ها و ضعیف شدن بررسی‌های ایمنی هوش مصنوعی ایجاد کرده است.
در آزمایشی که توسط آنتروپیک انجام شد، ۵۰ متخصص در حوزه استنتاج علّی به بررسی وظایف تحلیلی واقع‌گرایانه پرداختند که پاسخ قطعی نداشتند. ترجیح ایجنت هوش مصنوعی برای انتخاب یکی از دو گزینه معتبر، با پرتاب سکه تعیین شده بود. نتایج نشان داد که شرکت‌کنندگان در حداکثر ۸۶ درصد موارد از ترجیح تعیین‌شده توسط ایجنت پیروی کردند و بیشتر آن‌ها باور داشتند که نتیجه نهایی حاصل تلاش خودشان است. میزان تجربه، تخصص و اعتماد به هوش مصنوعی هیچ تفاوت معناداری در این زمینه ایجاد نکرد، هرچند استفاده از هوش مصنوعی باعث افزایش سرعت کار و کاهش خطاهای جدی شد.
پژوهشگران هشدار می‌دهند که اگر تیم‌های متعددی از یک مدل مشابه با تنظیمات پیش‌فرض استفاده کنند، ممکن است اجماع کاذب در تحقیقات علمی شکل بگیرد و بررسی‌های مربوط به ایمنی هوش مصنوعی تضعیف شود. آن‌ها پیشنهاد می‌کنند که ایجنت‌ها باید استدلال‌های هر دو طرف را ارائه دهند یا پیش از اعلام موضع، نظر کاربران را جویا شوند. مطالعات پیشین نیز نشان داده است که تعامل با ابزارهای هوش مصنوعی می‌تواند به کاهش تفکر انتقادی و از دست رفتن برخی مهارت‌های شناختی منجر شود.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.