معرفی FlashMap؛ ابزاری جدید برای سرعت‌دهی چشمگیر به مدل‌های زبانی

پژوهشگرانی از پلی‌ماتیک ای‌آی، دانشگاه پرینستون، مؤسسه USC ISI و چند نهاد علمی دیگر از انتشار FlashMap خبر داده‌اند؛ ابزاری پیشرفته برای رمزگشایی حدسی که جایگزین پیش‌نویس‌های انتشار گسسته می‌شود. این سیستم قادر است یک بلوک کامل ۱۶ توکنی را در یک مرحله پردازش کند و هماهنگی میان توکن‌ها را حفظ نماید.

بر اساس نتایج آزمایش‌ها روی مدل Qwen3-8B، این ابزار توانسته است به سرعت‌بخش بی‌نظیر و بدون افت کیفیتی دست یابد. معماری FlashMap از یک ترانسفورماتور انتشار شش‌بلوکی بهره می‌برد و با استفاده از تقطیر نیم‌گروهی، زمان رسیدن از نویز به داده را به یک گام کاهش می‌دهد. این ابزار به عنوان سریع‌ترین پیش‌نویس‌دهنده در تمام وظایف ارزیابی‌شده شناخته شده است.

این پروژه به صورت متن‌باز منتشر شده و کدهای آن با پلاگین‌های vLLM و SGLang سازگار است. توسعه‌دهندگان می‌توانند با نصب این پکیج، کارایی مدل‌های خود را به طور قابل توجهی افزایش دهند و در مصرف منابع محاسباتی صرفه‌جویی کنند.