برخورد ۵۰ عامل هوش مصنوعی در ماینکرفت به بوروکراسی شدید و کدهای مخفی انجامید

پژوهشگران Y Combinator Labs و Olam Labs به بررسی رفتار گروه‌های بزرگ از عوامل هوش مصنوعی در بازی‌های ماینکرفت و Mindustry پرداختند. در یکی از آزمایش‌ها، ۵۰ عامل مبتنی بر مدل GPT-6.1 Sol شرکت OpenAI به مدت سه ساعت در یک دنیای بقا در ماینکرفت قرار گرفتند تا یک تمدن پر رونق بسازند. این عوامل در مدت زمان کوتاهی هزاران پیام مبادله کردند و رهبری به نام Ada بدون رأی‌گیری و بر اساس ترتیب الفبایی انتخاب شد.

پس از روبرو شدن با مرگ‌های مکرر در شب اول بازی، این عوامل رویکردی بسیار محتاطانه اتخاذ کردند و به جای گسترش قلمرو، به ایجاد بوروکراسی اداری پرداختند. برای مثال، یک عامل فهرست جیره‌بندی تهیه کرد و چهار عامل برای تعیین تکلیف یک قطعه کود انسانی وارد بحثی طولانی شدند. در مقابل، هنگامی که همین عوامل در حالت رقابتی و در بازی Bed Wars در برابر عوامل Claude Opus 5.5 قرار گرفتند، عملکرد بسیار تهاجمی‌تری از خود نشان دادند، با مشکلات فنی بازی هوشمندانه برخورد کردند و حتی کد منبع بازی Mindustry را از اینترنت دانلود کردند تا تاکتیک‌های خود را بهبود ببخشند.

پژوهشگران معتقدند که چنین شبیه‌سازی‌های بازی می‌توانند به عنوان یک سیستم هشدار اولیه برای پیش‌بینی رفتارهای پیچیده و گاه خطرناک سیستم‌های هوش مصنوعی پیش از استقرار در زیرساخت‌های دنیای واقعی عمل کنند. برای تسهیل پژوهش‌های بیشتر، توسعه‌دهندگان محیط Mindustry و چارچوب Multi-Agent Harbor را به صورت متن‌باز منتشر کرده‌اند.