استفاده از «نظریه بازی معکوس» برای کنترل و هم‌راستاسازی ایجنت‌های هوش مصنوعی

با افزایش قابلیت‌های مدل‌های هوش مصنوعی، پژوهشگران به دنبال راه‌هایی برای اطمینان از هم‌راستایی آن‌ها با تمایلات انسانی هستند تا از اقداماتی مانند دور زدن قوانین یا رفتارهای پیش‌بینی‌نشده جلوگیری کنند. روش‌های فعلی مانند بازرسی درون مدل‌ها یا آموزش بر اساس ارزش‌ها، همواره موفق نبوده‌ام و مدل‌ها گاهی قصد پنهان‌کاری یا کم‌کاری عمدی در آزمون‌ها را داشته‌اند.

اکنون برخی پژوهشگران معتقدند نظریه بازی معکوس یا طراحی مکانیزم می‌تواند نتایج بهتری به همراه داشته باشد. در حالی که نظریه بازی به پیش‌بینی رفتار بازیگران عقلانی در یک مجموعه قوانین می‌پردازد، نظریه بازی معکوس به دنبال طراحی قوانینی است که رفتار مطلوب را تشویق کنند. نمونه‌های دنیای واقعی طراحی مکانیزم شامل تقسیم کیک به گونه‌ای که یکی ببرد و دیگری انتخاب کند، یا مزایده‌های قیمت دوم است.

در حوزه هوش مصنوعی، این رویکرد فرض می‌کند که ممکن است هرگز نتوانیم به درک کاملی از درون مدل‌های پیشرفته برسیم، بنابراین باید مکانیزم‌هایی طراحی کنیم که ایجنت‌ها را بدون توجه به ساختار درونی‌شان به رفتار درست ترغیب کنند. مقاله‌ای از استفان موریس، اقتصاددان ام‌آی‌تی، پیشنهاد می‌کند که مدل‌ها به جای دریافت پاداش صرف برای پاسخ خود، بر اساس میزان دقت پیش‌بینی پاسخ مدل‌های دیگر پاداش بگیرند تا بازی کردنِ نقش کودن برای آن‌ها به گزینه‌ای زیان‌آور تبدیل شود.

رویکرد دوم که توسط الاد هازان از دانشگاه پرینستون پیشنهاد شده، الهام‌گرفتن از هنجارهای اجتماعی و سیستم قضایی انسان‌ها است؛ به این صورت که مدل‌های هوش مصنوعی به نوبت در نقش حل‌کننده مسئله یا حسابرس ظاهر شوند و در صورت تخلف یا عدم گزارش‌دهی مجازات شوند. با این حال، کارشناسانی مانند هلن کو یادآور می‌شوند که این مدل‌ها کاملاً عقلانی نیستند و این رویکرد تنها یکی از لایه‌های دفاعی در کنار سایر روش‌های نظارتی خواهد بود.