جهش عملکرد هوش مصنوعی با ZYFA؛ افزایش ۱.۷۶ برابری سرعت روی کارت‌های AMD

شرکت Zyphra به تازگی از ابزار جدیدی با نام ZYFA (Zyphra FlashAttention on AMD) رونمایی کرده است که مجموعه‌ای از هسته‌های محاسباتی برای بهینه‌سازی پردازش مدل‌های هوش مصنوعی روی کارت‌های گرافیک AMD Instinct MI355X محسوب می‌شود. این فناوری جدید که تحت مجوز متن‌باز Apache 2.0 منتشر شده، قادر است در پردازش‌های «پیش‌پرکردن» (prefill) مدل‌های زبانی، عملکردی به مراتب سریع‌تر از کتابخانه استاندارد AMD یعنی AITER ارائه دهد.

طبق نتایج آزمایش‌های انجام شده، هسته‌های FP8 این ابزار می‌توانند سرعتی بین ۱.۱۶ تا ۱.۷۶ برابر سریع‌تر از AITER را در مدل‌های واقعی به ثبت برسانند. این فناوری به‌ویژه برای معماری‌های جدید AMD CDNA4 طراحی شده و با استفاده از روش‌هایی مانند «Lean P»، محاسبات نرم‌افزاری را بهینه‌سازی می‌کند. با جایگزینی برخی محاسبات پیچیده با عملیات ضرب و جمع ساده‌تر، ZYFA توانسته است بار کاری واحدهای ماتریسی را به شکل بهینه‌تری مدیریت کند.

یکی از چالش‌های اصلی در پردازش‌های FP8 روی MI355X، محدودیت‌های محاسباتی در لایه نرم‌افزاری است؛ جایی که عملیات مربوط به Softmax می‌تواند باعث اتلاف زمان واحدهای ماتریسی شود. ابزار ZYFA با استفاده از تکنیک‌های زمان‌بندی دقیق و جایگزینی توابع نمایی، کارایی این بخش را بهبود بخشیده است. این دستاورد به معنای بهره‌وری بالاتر در پردازش مدل‌های بزرگ زبانی است که برای توسعه‌دهندگان هوش مصنوعی اهمیت حیاتی دارد.

این کتابخانه در حال حاضر تنها برای پردازنده‌های گرافیکی AMD Instinct MI355X و با استفاده از محیط ROCm 7.2.3 بهینه‌سازی شده است. در حالی که عملکرد دقیق بستگی به مدل و شرایط اجرا دارد، نتایج Zyphra نشان‌دهنده پتانسیل بالای این کتابخانه برای کاهش خطاهای محاسباتی و افزایش خروجی ترافلاپس است. شرکت Zyphra علاوه بر انتشار کدها، مقاله‌ای فنی در مورد روش‌های بهینه‌سازی خود ارائه کرده که گامی مهم در جهت تقویت اکوسیستم متن‌باز برای سخت‌افزارهای AMD محسوب می‌شود.