هاگینگفیس از قراردادهای ادغام مدلهای ترنسفورمرز رونمایی کرد

هاگینگفیس استانداردی به نام قراردادهای ادغام مدل (MIC) را برای بستهبندی تستهای مدلهای هوش مصنوعی معرفی کرده است. این روش با استفاده از مدلهای کوچکشده و تستهای سریع روی CPU، از ورود باگها به نسخه اصلی جلوگیری میکند.
در ۳۰ ژوئیه ۲۰۲۶، کتابخانه ترنسفورمرز توجه به نقطه-مقیاسپذیر (SDPA) را برای T5 فعال کرد که ناخواسته باعث بروز یک باگ در رمزگشای UMT5 شد. این باگ نزدیک به دو ماه در نسخه اصلی باقی ماند تا اینکه یک مدل کوچکشده UMT5 آن را شناسایی کرد. این رویداد منجر به توسعه و معرفی مفهوم جدیدی به نام قراردادهای ادغام مدل شد.
transformers-mic یک استاندارد پیشنهادی برای بستهبندی این تستها است که شامل یک فیستر (مدل کوچکشده)، یک مسیر استفاده قابل اجرا و خروجیهای مبنایی بررسیشده توسط انسان است. این قراردادها به توسعهدهندگان اجازه میدهند قبل از ادغام تغییرات، باگهای مدلها را روی پردازندههای معمولی (CPU) و با هزینهای بسیار کمتر شناسایی کنند.
برای ساخت این فیسترهای کوچک، پیکربندی مدل واقعی کوچکسازی میشود در حالی که پیشپردازش، توکنایزر و ساختار لایهها حفظ میشوند. این ابزار به تیمهای توسعه کمک میکند تا دقت مدلها را حفظ کرده و از بروز خطاهای پنهان در نسخههای مختلف جلوگیری کنند، در حالی که همچنان ارزیابیهای جامع روی سختافزارهای قدرتمند نیز جریان دارد.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.