پژوهشگران: پروپاگاندا در برخی مدل‌های هوش مصنوعی چینی تنها یک لایه سطحی است که با تنظیم دقیق از بین می‌رود
استارتاپ Nous Research با تنظیم دقیق مدل Qwen شرکت علی‌بابا، مدلی تازه به نام Arete-27B ساخت که سوگیری‌های سیاسی و پروپاگاندای دولت چین را به شدت کاهش می‌دهد. این پژوهش نشان می‌دهد سوگیری‌های سیاسی در مدل‌های متن‌باز چین سطحی بوده و با ۵۳ میلیون توکن آموزش قابل پاکسازی است.
استارتاپ Nous Research با اعمال تنظیم دقیق روی مدل Qwen3.8-27B متعلق به علی‌بابا موفق شد نسخه جدیدی به نام Arete-27B را توسعه دهد که میزان پروپاگاندای دولتی را از ۲۲ درصد به کمتر از یک درصد کاهش دهد. این در حالی است که قابلیت‌های عمومی مدل دست‌نخورده باقی مانده است.
برای ارزیابی این مدل، تیم پژوهشی ۸۰۳ پرامپت در حوزه‌های مختلف از جمله آزادی بیان، ایدئولوژی دولتی، حریم خصوصی و دموکراسی طراحی کرد. نتایج نشان داد که مدل‌های چینی به‌طور پیش‌فرض تمایل به بازنشر روایت‌های رسمی پلتفرم حزب کمونیست چین دارند، اما این رفتارها عمیق نیستند و تنها با استفاده از ۵۳ میلیون توکن آموزشی نظارت‌شده می‌توان این لایه جانبی را حذف کرد.
این پروژه نشان می‌دهد که مدل‌های متن‌باز چینی علی‌رغم توانمندی بالا، حامل رفتارهای از پیش تعیین‌شده‌ای هستند که با روش‌های مهندسی داده قابل تعدیل است. استارتاپ Nous Research وزن‌ها و دیتاست‌های این پروژه را تحت مجوز اپاچی روی پلتفرم هاکینگ فیس منتشر کرده است تا گامی در جهت شفافیت بیشتر در مدل‌های هوش مصنوعی بردارد.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.