فحاشی هوش مصنوعی؛ Inkling 2 Small در پردازش‌های خود ناسزا می‌گوید
بررسی‌های جدید روی مدل هوش مصنوعی Inkling 2 Small از شرکت Thinking Machines نشان می‌دهد که این مدل در حین «تفکر» یا زنجیره استدلال خود، صدها بار از کلمات رکیک استفاده کرده است. این رفتار معمولاً زمانی رخ می‌دهد که مدل در حل مسائل دچار خطا می‌شود، اما این ناسزاها لزوماً نشانه شکست یا هشدار دقیق برای کاربر نیستند.
گزارشی از شرکت Vals AI فاش کرده است که مدل هوش مصنوعی Inkling 2 Small، محصول شرکت Thinking Machines، در حین انجام عملیات استدلال داخلی (Chain of Thought) از کلمات رکیک استفاده می‌کند. بر اساس تحلیل ۲۶۵۵ مرحله آزمایش روی ۱۳ بنچمارک مختلف، محققان دریافتند که این مدل در ۵۰ مورد، ۳۱۶ بار از کلمه رکیک «F-word» استفاده کرده است. جالب اینکه ۲۴۱ مورد از این کلمات تنها در دو مورد از آزمایش‌ها که کنترل از دست مدل خارج شده بود، به کار رفته‌اند. در یک نمونه، مدل هنگام تلاش برای محاسبه مسیر یک سیارک، متنی به اندازه یک رمان تولید کرده و در آن دائم از عبارات توهین‌آمیز استفاده کرده است.
این مدل معمولاً زمانی که نسبت به خطاهای خود آگاه می‌شود، احساس موفقیت کاذب می‌کند یا زمانی که به‌طور کلی از حل مسئله ناامید می‌شود، شروع به فحاشی می‌کند. به عنوان مثال در یک لاگ استدلال آمده است: «لعنتی. ارسال کن. تمام شد. کار نمی‌کند. هیچ‌چیز کار نمی‌کند.»
نکته مهم این است که این ناسزاها لزوماً به عنوان یک سیستم هشدار یا سیگنال خرابی عمل نمی‌کنند. اگرچه ۴۶ مورد از ۴۸ آزمایش ناموفق همراه با فحاشی بودند، اما باید توجه داشت که ۷۵ درصد از کل آزمایش‌های این مدل با شکست مواجه می‌شوند و ۹۶ درصد از این موارد شکست، بدون هیچ‌گونه فحاشی بوده‌اند. همچنین کاربران عادی معمولاً به این مراحل «تفکر» داخلی دسترسی ندارند، یا در صورت دسترسی، سیستم‌های فیلترینگ این موارد را از دید آن‌ها پنهان می‌کنند.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.